毛泽东逝世后，陈云提出要客观公允地评价毛泽东一生中的是非功过，尤其是对其晚年的失误，要作出公允而又科学的评价。在起草《关于建国以来党的若干历史问题的决议》时，陈云提出，为避免给人以片面的认识，要加上对建国前28年中毛泽东主要功绩的论述和说明
尽管随着毛泽东晚年错误的日益发展，陈云受到毛泽东的错误批评并逐渐失去了毛泽东的信任，但这并不是毛泽东从个人的感情出发，对陈云进行打击报复，而是错误路线日益发展后的必然结果。对此，毛泽东去世后，在总结历史教训时，陈云没有从个人的感情出发，而是从更深的层次，即从党的建设的高度，对如何防止此类错误的再次发生进行了探讨。他认为，关键是加强党的制度建设，特别是要完善党的民主集中制原则。
陈云从斯大林逝世后，赫鲁晓夫大反斯大林，导致国际共运一时极为混乱的教训中得到启发，认为对毛泽东这样一位在中共党史、中国近现代历史上占有重要地位的领导人的评价问题上，必须谨慎从事，客观公允。他主张对毛泽东的评价必须坚持实事求是的态度，既反对从“左”的方面以全面坚持毛泽东晚年错误为目的的极端做法，也反对从右的方面借口毛泽东晚年犯了严重错误而试图全面否定毛泽东的另一种极端做法。
早在1977年毛泽东逝世1周年的时候，还未完全恢复工作的陈云就在《人民日报》上发表了一篇题为《坚持实事求是的革命作风》的文章，从战略高度认为，毛泽东一生中最大的功绩就是为中国共产党确立了实事求是的思想路线，并且详细回顾了毛泽东从红军时代起就与主观主义作斗争的历史事实，号召全党认真学习毛泽东所倡导的实事求是的伟大精神。陈云的这篇文章可以说是国内较早的一篇公开批驳“两个凡是”错误思想的战斗檄文。
随着时间的发展，陈云对毛泽东晚年所犯错误、特别是对“文化大革命”这一严重错误的认识也在不断深入，并且十分注意从中总结经验教训。他多次指出：“党内民主集中制没有了，集体领导没有了，这是‘文化大革命’发生的根本原因。”因此他反复强调：要不断健全党的民主集中制，要允许人家在组织原则许可的前提下，自由地发表自己的不同见解。他说：“十一届三中全会以后，党内有了民主集中制的气氛，才有同志敢于提出不同意见。在这个事情上，我们原来是吃过苦的，搞一言堂。我过去说过，不怕人家讲错话，就怕人家不讲话。讲错话不要紧，要是开起会来，大家都不说话，那就天下不妙。有同志提不同意见，党组织应该允许，这是党的事业兴旺发达的好现象。当然，有了不同意见，要在党内说，在你的那个党支部或者在你的机关，按照组织程序和组织原则严肃地提出来。提第一次，我们欢迎；提第二次，我们也欢迎；提第三次，我们还是欢迎。这样，我们这个党就会立于不败之地，就会兴旺发达，大有希望。”针对“文化大革命”中一言堂、重大决策个人说了算的严重弊端，他多次强调，要建立健全党的民主集中制，要允许和鼓励别人提出不同意见，甚至骂娘。他说：“一有错误就有人骂，容易改正。如果人家天天喊万岁，一出错就是大错。”
1978年11月，在党的十一届三中全会召开之前的中央工作会议上，陈云又一次不顾压力，率先在小组会议上提出，要把工作着重点转移到社会主义建设上来，先要解决影响大涉及面广的历史遗留问题，并列举了薄一波等61人和陶铸的历史冤案、彭德怀的名誉恢复、天安门事件的平反、康生的严重错误等6个问题。由于这几个问题都是触及“文化大革命”及其以前的“左”倾错误的关键性问题，因此，他的发言在简报上刊登后，立即引起与会代表的热烈反响，一下子使会议气氛活跃起来。在与会代表的共同努力下，这些问题一一得到解决，使这次会议开成了解放思想、拨乱反正的会议。随后，邓小平又在闭幕会议上作了《解放思想，实事求是，团结一致向前看》的重要讲话。在此基础上，十一届三中全会得以顺利召开，并取得成功。
针对20世纪70年代后期80年代初社会上及理论界屡屡出现的试图全面否定毛泽东的不正常苗头，在起草《关于建国以来党的若干历史问题的决议》时，陈云不止一次地提出要对毛泽东的是非功过做出符合实际的、经得起历史检验的科学评价。他指出：《决议》要按照邓小平的意见，确立毛泽东同志的历史地位，坚持和发展毛泽东思想。要达到这个目的，使大家通过阅读《决议》很清楚地认识这个问题，就需要写上党成立以来60年中间毛泽东同志的贡献，毛泽东思想的贡献。他建议，在《决议》的正文前面加上一段文字，集中论述建国前28年中国共产党领导中国人民夺取民主革命胜利的历史，特别要把毛泽东的重要贡献讲清楚。他认为，只有如此，毛泽东的功绩、贡献就会概括得更全面，确立毛泽东的历史地位，坚持和发展毛泽东思想，也就有了全面的根据；说明毛泽东的功绩是第一位的，错误是第二位的，说毛泽东思想指引我们取得了胜利，就更服人了。
陈云认为，毛泽东的第一个无可比拟的功绩，是培养了一代人。其次，他正确处理了西安事变，并制定了抗日战争期间的一系列正确的方针政策，包括同国民党又联合、又斗争，坚持独立自主立场的抗日民族统一战线。这一时期他写了许多重要的着作，例如《中国革命战争的战略问题》、《实践论》、《矛盾论》、《抗日游击战争的战略问题》、《论持久战》、《中国共产党在民族战争中的地位》、《战争和战略问题》、《新民主主义论》等等。我们党里头没有第二个人写出这样好的着作。这是了不起的功绩。第三，延安整风时期，毛泽东提倡学习马列着作，特别是学哲学，对于全党的思想提高、认识统一，起了很大的作用。第四，毛泽东的一整套理论和政策，是总结了陈独秀、李立三、王明的错误教训得出来的，对中国革命的胜利起了决定性的作用。第五，毛泽东在党内的威望，是通过长期的革命斗争实践建立起来的。即使他在犯错误的时候，许多老干部被整得那么厉害，可是大家仍然相信他，望不了他的功绩，原因就在这里。老一代人拥护毛泽东是真心诚意的。
历史已经证明并将继续证明，陈云的上述说法和做法是完全正确的，充分体现了一个伟大的马克思主义者对历史、对毛泽东本人、对中国共产党和中国人民高度负责的求实精神和严肃而又科学的辩证态度，为后人在臧否人物、评价历史时，提供了深刻、丰富而有益的历史启示。
