1981年7月2日，邓小平在各省、市、自治区党委书记会议上，再次提出设立顾问委员会的设想，他十分欣慰地说：“对我们这次六中全会，外国人反映说，是用和平方式解决交接班问题，解决中央人事的大问题，称赞我们很稳定、很顺利地解决了这样的问题。但是，全国范围的干部接替问题，如果再过三五年还不解决，那就可能造成一种混乱。老的不在了，或者根本不能工作了，新的又上不来，每一个新的上来，就有这个意见、那个意见。……1964年开政治工作会议，我就提出军队干部年轻化的问题。从那个时候到现在相隔了十七八年。当时年轻化问题并不算很迫切，但是已经出现这个问题了。我在那次会议上讲，年龄大一岁，开明增一分。那是60年代初期。现在的情况同那个时候完全不同了。总之，这个问题我们越来越感觉到十分迫切。所以，在前一段时间，中央曾经设想，将来除了新的中央委员会以外，再设一个顾问委员会。”

    1982年7月30日，中央政治局举行扩大会议，讨论即将向十二大提交的《中国共产党章程(修改草案)》。会上，邓小平若有所思地说：我本来没有什么话讲了。现在准备把两个文件（中国共产党第十一届中央委员会向党的第十二次全国代表大会的报告和《中国共产党章程(修改草案)》）提到全会审议。这两个文件是花了很大功夫的，我看都是比较成熟的。当然，其中有一些地方还要推敲。比如领导职务终身制的问题，已经接触到了，但没有完全解决；退休制度的问题也没有完全解决。鉴于我们党的状况，我们干部老化，所以，我们需要有一个顾问委员会来过渡。顾问委员会，应该说是我们领导职务从终身制走向退休制的一种过渡。“也许经过三届代表大会以后，顾问委员会就可以取消了。如果两届能够实现，就要10年，那时我们在座的有几个还在？要是两届的话，现在60岁的就是70岁，70岁的就是80岁，80岁的就是90岁。所以，顾问委员会是个过渡，这个过渡是必要的，我们选择了史无前例的这种形式，切合我们党的实际。但是在这个过渡阶段，必须认真使干部队伍年轻化，为退休制度的建立和领导职务终身制的废除创造条件。”

    接着，邓小平又加重语气说道：“我们这一代不解决这个问题，我们是要欠账的。……过去我们年轻，八大的时候我和陈云同志都是52岁，当时中央委员平均年龄并不算大。现在比九大、十大、十一大中央委员的平均年龄大。当然，‘文化大革命’期间不正常，造反起家的人，那是年轻的。我们现在采取过渡形式是适当的，但是在过渡时期当中，比如说过渡时期是两届，十年，我们必须认真解决这个问题。”

    与此同时，邓小平还找了当时正担任国务院副总理兼国家体制改革委员会第一副主任的薄一波谈话，两人一见面，邓小平就开门见山地说：中央已决定成立中顾委，由我当主任，为了减轻负担，想要你来协助我主持日常工作，为此征询你的意见。薄一波听后，当即表示同意。

    1982年9月1日，中国共产党召开了第十二次全国代表大会。会上，最令中外媒体关注的焦点，就是设立了自中国共产党成立以来从没有过的中共中央顾问委员会（以下简称中顾委）。会议根据新党章“中央和省一级设顾问委员会的规定”，选举产生了172名中央顾问委员会委员。一大批原先在中央、国务院、军队系统和各省、市、自治区党委以及政府担任主要领导职务，并在党内外享有崇高威望的老同志，率先垂范地退出了第一线的领导岗位，进入中央顾问委员会。与此同时，一大批德才兼备、比较年轻的党员第一次进入了中央委员会。