他一方面组织研究方针政策，一方面直接参与研究解决一些重大问题。根据邓小平、陈云的指示，黄克诚一直在调查刘少奇的案子。在此之前，中纪委和中组部组成联合调查组，对刘少奇的案子进行了基本调查和复核，发现当初中央专案组在刘少奇的案子上搞了不少名堂，明显存在着不实之处。

为此，黄克诚亲自指导调查工作，并同中央领导层中阻碍给刘少奇平反的人进行了针锋相对的辩论。

很快，刘少奇一案的情况经过复查基本弄清。这次复查，充分证明“文化大革命”中《关于叛徒、内奸、工贼刘少奇罪行的审查报告》中，强加给刘少奇的种种罪名没有一项属实。

黄克诚对有关领导讲：“刘少奇同志是被诬陷的，是林彪、江青一伙搞的鬼，事实清楚，但还有人突破不了禁区，这就不是实事求是，我们要主持正义！”从事实真相上看，为刘少奇平反有着充分的依据。

但是，由于中央内部有人阻碍，平反工作还有相当阻力。对此，黄克诚决心把这件事一抓到底。

1979年11月底，黄克诚派中纪委干部徐岚到河南，了解核实当年刘少奇被武装监护以及惨死在开封的情况，以备日后为刘少奇平反时使用。

不久，黄克诚将了解到的情况向邓小平、叶剑英和陈云进行了汇报，对刘少奇的平反问题提出了详细建议。

黄克诚清楚地认识到，刘少奇案件不是一个普通的问题，它涉及党的十一届三中全会后，党内两种不同的态度：一方面是实事求是，解放思想；一方面还是有人僵化教条，坚持原来的“既定”方针。