段君毅同志１９１０年３月１３日出生于山东省濮县（今河南省范县）。１９３６年３月加入中国共产党。１９３６年１１月２２日，国民党反动政权以所谓“危害民国罪”逮捕沈钧儒等７人的“七君子事件”发生后，他带领全国学联同全国各界一起，支援宋庆龄等人发起的营救运动，同国民党的倒行逆施作坚决的斗争。
   １９３７年１２月，段君毅同志赴延安参加中共中央党校学习，后被派往山东抗日前线，任中共泰西特委书记、泰西行政委员会主任，组织发展抗日武装力量，开辟泰西抗日根据地。１９３９年８月后，段君毅同志先后任八路军一一五师独立旅副旅长，鲁西军区副司令员，鲁西行署副主任、主任，冀鲁豫行署副主任、党组书记，中共冀鲁豫第二、第八地委书记兼军分区政治委员，中共豫东（水东）工委书记，冀鲁豫军区豫东指挥部政治委员。为抗日战争的胜利作出了重要贡献。
   １９４７年晋冀鲁豫野战军挺进大别山后，段君毅同志任中共鄂豫区委书记兼军区政治委员，参与开创大别山解放区的斗争。１９４９年２月任第二野战军后勤司令部司令员兼政治委员。他采取因地制宜、上下配合、群策群力等有效措施，积极筹备渡江作战所需的船只和军需，保证“要粮有粮、要人有人、要船有船”，为完成“打过长江去，解放全中国”的历史使命作出了积极贡献。
新中国成立后，段君毅同志先后任中共重庆市委常委，市军事管制委员会委员，市财经接管委员会党委书记、主任，西南军政委员会财经委员会副主任兼工业部部长、党组书记。
   １９５２年８月，段君毅同志任第一机械工业部副部长、党组副书记，分管基本建设和干部工作。他领导和指挥了第一重型机器厂、第一汽车制造厂、洛阳拖拉机厂等一批对国民经济有重大意义的骨干企业的建设，亲自参与规划、选址、建厂、投产的各个环节，推动了各方面工作的顺利开展。１９６０年９月任第一机械工业部部长、党组书记，为我国机械工业的发展作出了重要贡献。
“文化大革命”期间，段君毅同志受到冲击和迫害，他坚决抵制林彪、“四人帮”反革命集团的倒行逆施，共产主义信念毫不动摇。粉碎“四人帮”以后，段君毅同志任铁道部部长、党组书记。１９７８年１０月，段君毅同志任中共河南省委第一书记、省革委会主任、省军区第一政治委员。他坚持把拨乱反正、平反冤假错案作为一项重点工作，解决了河南省一批历史遗留问题。
   １９８１年１月至１９８４年５月，段君毅同志任中共北京市委第一书记、北京卫戍区第一政治委员。他认真贯彻党中央关于首都建设的指示精神，围绕政治思想建设、环境美化建设、科学文化建设、适合首都特点的经济建设，狠抓落实。主持制定了《北京城市建设总体规划方案》，得到党中央、国务院的批准，加快了首都市政建设速度和经济结构调整的步伐，工农业总产值以及城镇居民和农民收入都有了较大幅度的增长。在全市广泛开展“为人民服务，对人民负责”的大讨论和“五讲四美三热爱”教育活动，强化首都服务观念，大力规范职业道德和社会公德，推动首都精神文明建设。
   １９８２年９月，段君毅同志任中共中央顾问委员会常务委员，１９９２年１０月从领导岗位退下来。
段君毅同志是中共第十、十一届中央委员，在党的第十二、十三次全国代表大会上当选为中央顾问委员会常务委员；第一、五、六届全国人民代表大会代表；中国人民政治协商会议第四届全国委员会委员。