1977年8月，紀登奎在黨的“十一大”上當選為中央政治局委員，1978年2月，他在五屆人大一次會議上被任命為國務院常務副總理，達到了自己政治生涯的巔峰。

紀登奎

但隨著“真理標準”大討論的開展和“兩個凡是”被否定，形勢對紀登奎越來越不利了。1978年10月，中央任命段君毅為河南省委第一書記、省革委會主任、省軍區(qū)第一政委。在河南當了18年“一把手”的劉建勛從此銷聲匿跡，紀登奎兼任的河南省委書記、省革委會副主任的職務也被免去了。

段君毅上任后，首先主持召開了河南省委常委擴大會議，會議提出1978年冬至1979年春，全省各級黨組織必須集中力量抓好3件事，其中第一件就是放手發(fā)動群眾，聯(lián)系河南實際，深入揭批林彪、“四人幫”，繼續(xù)揭批在河南推行林彪、“四人幫”路線的幾個主要人物的嚴重錯誤和罪行，迅速認真地平反冤假錯案，進一步落實黨的干部政策和知識分子政策，抓緊調(diào)整、充實、加強各級領(lǐng)導班子。會議期間，河南許多在“運動”中挨整的干部要求點名批判紀登奎。

12月1日上午，段君毅根據(jù)省委常委擴大會議的意見，給李先念寫信說：

我們準備開一次全省電話會議，宣布否定所謂“七˙二五中央表態(tài)”，為受迫害的干部群眾平反昭雪，揭發(fā)批判劉建勛同志的錯誤。對劉建勛同志的說法，中央已有指示，對紀登奎同志怎樣說，需要斟酌。鑒于河南“運動”中的很多問題，都是在紀登奎同志的直接指揮下干的，他的錯誤超過劉建勛，群眾的氣很大。因此我們建議，在揭批中，紀登奎同志的問題可以和劉建勛同志的問題一起提，但不登報，不廣播。

段君毅

中央很快批準了河南省委的建議。12月18日至22日，黨的十一屆三中全會在北京召開，會議決定停止使用“以階級斗爭為綱”等錯誤口號，全面系統(tǒng)地糾正“運動”的錯誤。12月19日，紀登奎在會上作了《我的初步檢討》。

紀登奎首先檢討了自己在“運動”初期，在河南說過許多錯話，做過不少錯事，在不少場合講過許多支“派”的話，在錯誤處理鄭州大學黨委書記王培育的問題上，也是有責任的；在發(fā)槍問題上，不但同意，而且跟著講了一些所謂“武裝左派”“槍換肩”，軍隊支左要“調(diào)屁股”的謬論，犯了支一派壓一派的錯誤，打擊了許多老干部，造成許多冤案、錯案，傷害了很多地方、軍隊干部和群眾，應負有重大責任。

紀登奎還檢討了北京天安門事件發(fā)生后，他批給劉建勛材料的錯誤；粉碎“四人幫”后，打電話給劉建勛，不要限制大字報上街，可以游行，但要好人帶頭，警惕壞人鬧事?lián)屍?。紀登奎說：“我在中央工作，又在河南兼任省委書記職務，河南的問題，我應負有不可推卸的責任?！?/p>

紀登奎講話

最后紀登奎提出：

鑒于我所犯的錯誤，已不適宜目前我所擔負的工作。因此，我誠懇地請求中央批準我不再搞常務副總理，不再分管政法、農(nóng)業(yè)、工資改革等工作。我認為，這樣有利于大局，有利于黨的事業(yè)。
我將進一步認真檢查錯誤，總結(jié)經(jīng)驗教訓，并多讀點書，搞點調(diào)查研究，決心改正自己的錯誤。在以華國鋒同志為首的黨中央領(lǐng)導下，努力工作，以功補過，為實現(xiàn)四個現(xiàn)代化貢獻力量。

盡管紀登奎提出了辭職，但鄧小平?jīng)]有同意。十一屆三中全會只免去了紀登奎的北京軍區(qū)政委一職，依然保留了他中央政治局委員、國務院常務副總理的職位。

1980年2月，中央政治局召開會議，陳云在會上說：

當前，思想僵化，林彪、“四人幫”的極左傾向依然在我們一些同志的思想中作怪，比如汪東興、紀登奎、陳錫聯(lián)、吳德4位同志，就是這樣的人，黨內(nèi)外群眾和干部檢舉、控訴他們問題的信件，雪片似的寄到中紀委。這4位同志繼續(xù)留在中央政治局，對黨的形象極為不利，我還是建議他們能主動辭去自己的職務。

陳云

不久以后，黨的十一屆五中全會在北京召開，紀登奎在會上再次向中央提出了辭職的請求。1980年4月，第五屆人大常委會第十四次會議正式免去了紀登奎的國務院副總理的職務。