1980年上半年,山西省委集中力量,对过去农业学大寨、“普及大寨县”的工作,进行了认真总结。8月,写出了《关于全省农业学大寨经验教训的初步总结》。这份文件把大寨这个典型与在“左”的思想指导下对这个典型的推广区分开来,进行了实事求是的分析,指出:大寨“的确是山西农业战线上的一个先进典型,是山区生产建设的先进典型”。但是,“左”的路线“需要体现它的典型;大寨由于其代表人物的关系,也就很自然地走向反面,成为农业战线推行‘左’倾路线的典型”。“文化大革命”以来,“在大寨和昔阳县推行左倾路线,主要由陈永贵负责”。
山西省委把这份报告报送中央。邓小平看了这份报告后,对农业学大寨运动采取了实事求是、科学分析的态度,他不赞成把责任全部推到陈永贵一个人身上。按照邓小平的意见,1980年11月23日,中共中央向全国公社以上党委转发了山西省委《关于全省农业学大寨经验教训的初步总结》。中央在转发批语中写道:“应当指出,全国各地学大寨的农业生产典型绝大多数在生产上、建设上都是有成绩的,有贡献的。同样,大寨和昔阳县的多数干部和群众,在农业战线上也做出了贡献。
‘文化大革命’前,大寨的确是农业战线上的先进典型。后来农业学大寨、普及大寨县的运动中的错误以及由此造成的严重后果,山西省委已经承担了责任。就全国范围来说,主要的责任,在当时的党中央。”从这段批语中可以看到,以邓小平为核心的党中央第二代领导集体对农业学大寨运动是采取实事求是的态度的,对待干部是宽厚的。此时,有人说:陈永贵是“四人帮”的人。陈永贵听到这个话后,十分生气。他找到了邓小平和李先念反映这个事情。邓小平对他说:你在“文化大革命”中有错误,但你不是“四人帮”的人。李先念对陈永贵说,大寨搞农田基本建设,是对的;大寨人艰苦奋斗的精神是好的。有了邓小平和李先念的这些话,陈永贵的心里感到安慰。就在中共中央转发山西省委文件不久,陈永贵因在“文化大革命”和农业学大寨、普及大寨县运动中犯有错误,辞去了中共中央政治局委员和国务院副总理的职务。
但邓小平对待陈永贵是宽厚的、实事求是的。在陈永贵辞去上述职务之后,中共中央并没有撤消陈永贵的中央委员职务,仍然保留他副总理的生活待遇,对他本人,仍然作为劳动模范来尊重。1982年,党的十二大上,陈永贵没有再当选为中央委员,但他仍然住在北京部长楼里,生活待遇和从前一样。从1983年起,中央安排陈永贵做一点工作,让他担任北京东郊农场的顾问。
陈永贵不担任中央领导职务后,仍然保持劳动人民本色。他在他住的部长楼里,见到有劳动的事,就走在前面,连打扫卫生这样的活,他都抢着干。他担任东郊农场顾问后,多次到东郊农场,帮助那里分析农业生产情况,研究改进生产技术问题,为那里的经济发展做出了贡献。
1986年3月,陈永贵病重。他对前去看望他的老同志说,我有错误,但我不是“四人帮”的人,邓小平肯定了这一点,我死也可以瞑目了。3月26日,陈永贵在北京逝世,中央为他举行了追悼会。