黄克诚大将始终坚定信仰，直言不讳，对党和军队忠诚无私，因此在党内和军中拥有极高的声望。
此后，黄克诚广泛涉猎《向导》与《新青年》等先进刊物，并投身于学生运动的浪潮中，决心探寻救国救民之道。1925年，他正式成为中国共产党的一员。
黄克诚在国民党中央政治讲习班接受培训后，投身北伐战争。大革命结束后，他返回湖南，恰逢朱德与陈毅率领的南昌起义部队抵达，发动湘南起义，黄克诚参与其中。随后，他随朱德前往井冈山，被任命为红四军第12师第35团团长。
1930年6月，黄克诚被任命为红三军团纵队政委。这一时期，红军内部受“左”倾冒险主义思想主导，计划集中兵力进攻中心城市。红三军团同样受此影响，提出了“会师武汉、饮马长江”的战略目标。
黄克诚冷静地分析了当前局势，认为红军力量尚显薄弱，若以武汉为核心发动城市起义，时机尚未成熟，此举实属冒险。
红三军团占领平江后，召开会议讨论下一步进攻目标，是武汉还是长沙。黄克诚在会上明确表达了自己的立场。
当前情况下，进攻武汉的计划缺乏可行性，我军尚未达到攻占该城的实力。对于长沙战役，虽可实施，但不宜采取武装暴动方式，而应通过游击战术，将敌军引诱至开阔地带予以消灭。
黄克诚在发言后即被批评为“右倾机会主义”，并因此被解除纵队政委职务。尽管如此，他仍继续指挥部队作战。随着“左”倾错误的纠正，他在1931年重新被任命为师政委。
任弼时指派黄克诚前往部队开展专项调研。黄克诚在115师及其下属两个团进行了为期十五天的实地考察，发现撤销政治委员制度后，部队政治工作明显弱化，军阀作风日益严重，江湖习气渗透军营，部分基层干部摒弃"同志"称谓，改用"弟兄们"的称呼方式。
黄克诚察觉到问题的严重性，经过深入思考，他主张重新确立政治委员体系，坚决反对军阀作风。为此，他撰写了一份详细的建议书，呈递至中央领导层。
1945年抗日战争结束后，黄克诚作为新四军第三师的指挥官，率领三万部队挺进东北地区。次年1月，其部队成功夺取西满战略要地通辽。随后，黄克诚被委任为西满军区副政委、司令员，并代理中共西满分局书记职务。
四平战役持续了三十天，虽然我军对国民党部队造成了重大打击，但自身损失同样惨重，最终被迫撤离四平。
黄克诚指出，初期阻止敌军推进的策略是正确的，但在敌方集中兵力寻求主力决战的形势下，继续坚守四平已非明智之举。
黄克诚坚持认为，即便该决定由你作出，依然存在不妥之处。
1949年1月15日，东北野战军占领天津后，黄克诚负责接管工作。他迅速实施严格的军纪，并贯彻“按系统自上而下、保持原状、先接收后管理”的策略，同时遵循“确保稳定、防止混乱”的原则。在他的领导下，整个接收过程仅用七天便顺利完成。
黄克诚向主席表示，他认为自己在地方任职更能发挥所长。
在接下来的五年中，黄克诚持续担任总后勤部部长职务，明确提出了“服务国家、保障部队”的核心原则。他通过系统化地修订和完善后勤管理规范，有效推动了后勤体系向现代化转型，为后续发展奠定了坚实基础。
1955年，胡乔木在《人民日报》社发表言论称：
1977年，黄克诚结束了长期赋闲的状态，被任命为军委顾问。在1978年党的十一届三中全会前夕，中央在讨论一批老同志的工作安排时，有人鉴于黄克诚的健康状况，提议他担任全国人大或全国政协的领导职务。然而，中央更重视黄克诚廉洁奉公、刚正不阿、忠诚可靠的政治品质，认为他更适合在中纪委任职。
1978年12月，黄克诚在中共十一届三中全会上当选为中央纪律检查委员会常委书记。履职初期，他向中纪委第一书记陈云请示纪律检查委员会的核心工作方向。
陈云坚定地指出，整顿党的作风是当前工作的重点。
黄克诚在1979年1月的中纪委首次全体会议上明确支持陈云的观点，强调纪律检查委员会的核心任务在于改善党的风气。他认为，必须从思想、组织和作风三个层面入手，全面整顿党风。只有党风得到根本好转，党才能焕发新的生机。
1979年，中共中央纪律检查委员会着手制定《关于高级干部生活待遇的若干规定》，其中明确规定高级干部只能拥有一处住所，若调任外地工作，必须退还原有宿舍。黄克诚以实际行动率先贯彻了这一规定。
《规定》实施后，黄克诚立即要求妻子唐棣华退还其单位分配的宿舍。他明确指出，根据中央纪委的要求，各级领导干部只能保留一套公家提供的住房。他强调，既然有了明确规定，作为领导干部必须率先遵守。因此，在公家为他们安排了新住房后，唐棣华原先的宿舍必须归还给单位。
唐棣华长期居住的单位分配住房即将被收回，尽管在此生活多年，情感上难以割舍。然而，在黄克诚提出要求后，她毫不犹豫地交出了住所。
唐棣华的行为令黄克诚深受感动，他动情地向妻子表达感激：“感谢你多年来的理解与支持！虽未享多少福，却承担了许多苦难，只因你是我黄克诚的妻子。严格治党，我们必须以身作则，从黄家做起，唯有如此，才能真正贯彻从严治党的方针。”
黄克诚拒绝了管理部门多次提出的搬迁或翻修建议，坚持留在分配给他的住房中。他认为，尽管房屋存在漏雨和靠近闹市的问题，但与许多几代人同住一室的普通家庭相比，自己的居住条件已属优越。他强调，国家经济尚不富裕，应优先解决民众的住房困难，因此主张将搬迁或翻修的资金用于更急需的领域。
后勤部门计划为黄克诚的住所加高临街墙体和门楼，但他对此表示反对。他认为现有的铁门虽显陈旧，但依然坚固耐用，无需耗费大量资金进行改造。他强调门的功能在于日常进出，不必追求外观的华丽与高度，主张节省开支，避免不必要的浪费。
为改善黄克诚的生活条件，管理部门计划为其住所安装热水管道，已完成预算审批和工程规划，准备实施。然而，黄克诚得知工程预算高达3万元后，立即叫停项目。他强调国家经济尚不宽裕，这些资金应优先用于更急需的领域，并表示现有取暖设施已能满足需求，要求立即中止工程。
直至黄克诚逝世，其居所的热水供应系统始终未能完成安装。
1980年，黄克诚处理了多起高级干部违纪事件，包括杨勇的违规接待问题。当年1月，杨勇作为副总参谋长主持总参工作，为李达、张才千的调离以及张震的到任在京西宾馆设宴，耗费公款400元。
黄克诚听闻此事后，立即表现出强烈的愤慨，他坚决表示：“无论牵涉到何人，都必须彻底调查，不仅要查明真相，还要严肃处理，责任人必须承担相应的经济责任。”
黄克诚的秘书指出，当前利用公共资金进行宴请的情况较为普遍，此类行为并不罕见。同时，他提到杨勇和张震与黄克诚有着长期的工作关系。
黄克诚强调，必须彻查此事，尤其是涉及自己旧部时更应严查。他主张不仅调查，还要严肃处理，主谋者需承担经济责任。对于任何公款吃喝行为，一经发现，均需依法追究。
杨勇得知黄克诚计划彻查此事，认为其处理方式过于严苛，心中不满。黄克诚随即致电杨勇，直言不讳地指出：“杨勇，你如今位高权重，是否已变得难以接受批评？”
杨勇接到上级的电话后，立刻意识到问题的严重性，随即表示：“关于公款用餐的问题，我承认错误并愿意承担责任。无需进一步调查，相关费用由我承担。”
杨勇自掏腰包支付了400元餐费，并进行了自我批评，最终平息了此事。何其宗回忆道，他初到总参谋部便遇到此事，这给他留下了深刻印象，并产生了深远影响。自此，他在总参谋部任职期间，始终严格遵守规定，未动用公款进行任何接待活动。
1980年初，因操作不当，“渤海二号”钻井平台发生倾覆，导致72人遇难。石油部未及时上报，直至遇难者家属向中纪委反映，事故才在八个月后被揭露。
黄克诚对此极为震怒，强调此事必须严肃处理，关乎民众安危与财产保障，质疑党委为何未及时上报，并坚决要求彻查。
中央纪委在完成调查后，迅速对涉事人员进行了处理。国务院副总理康世恩，作为石油工业的主管领导，对此事件负有直接责任。政治局多次讨论此事，黄克诚坚持认为，尽管康世恩在石油领域有显著成就，但功过应分明，若不加以处理，难以向公众作出合理解释。
政治局经过集体讨论，决定对康世恩实施记大过处理。这一决议公开后，迅速在社会各界引发强烈和广泛讨论。
黄克诚重新任职时已近八十高龄，虽体弱多病却坚持工作，导致健康状况持续恶化。身边人员建议他前往南方调养，他断然拒绝：“外出需要随行人员，不仅增加公共开支，还会给当地带来不便，实在不妥。若非工作必要，此举纯属浪费。即便浪费一分钱，也愧对人民。”
获悉情况后，陈云建议中办安排黄克诚前往玉泉山疗养。他指出该地环境清幽，既适宜休养，也不妨碍处理公务。黄克诚最终接受了这一安排。
在决定休养前，黄克诚明确提出三项基本要求，作为行动准则。
仅携一名秘书同行，不携带家属及其他随从人员；
在非周日时间，家属应避免进行探访活动。
所有日常开支由个人承担，不接受或公共机构的任何补贴。
某个周日，黄克诚的子女前来探望。其孙黄健不慎将茶杯摔碎，此事虽属寻常，黄克诚却严肃对待，坚持立即购置新杯以作赔偿。工作人员表示，物品损坏后可重新领取，无需自行购买。
在场的人员和家族成员听闻此番教诲，皆被深深触动，立即购置了一只新杯以作替换。
1986年，黄克诚病情恶化，被迫入院治疗。他意识到自己时日无多，便拒绝继续接受治疗和用药。黄克诚表示，自己已无法为党贡献力量，不应再耗费国家资源。他多次援引马克思的女儿和女婿拉法格夫妇在晚年为避免给党增加负担而选择结束生命的例子，坚持要求医生放弃抢救。
1986年12月28日，黄克诚因病在北京去世，终年84岁。其妻唐棣华深感哀痛，在病床上为亡夫撰写了一副挽联。
人生无憾，年少目睹国家危难，笃信马克思主义，投身革命事业，一生奉献，终见中华崛起于世界之林。
临终之际，我心中无憾，上对得起天意，下无愧于世人。如今国家日益强盛，英才不断涌现，只是遗憾不能继续与全体同志一道贡献力量。
黄克诚以严于律己、踏实做事著称，其人格高尚，行事光明磊落，始终秉持正直无私的原则。