1935年1月，长征途中，在具有历史转折意义的遵义会议上，朱德坚决支持毛泽东的正确主张，批判“左”倾军事冒险主义的错误。1935年6月，朱德和毛泽东率领红一方面军与张国焘率领的红四方面军在长征途中会师，共同北上。当红军行进到川甘边界时，张国焘借口无法过河，企图使部队回转南下，并且要求与红四方面军一起行军的朱德发表声明，反对毛泽东的所谓“右倾逃跑路线”。朱德面对张国焘的威胁和利诱，毫不退让，明确地表示：“朱毛,朱毛，人家都把朱毛当作一个人，朱怎么能反对毛呢？你们可以把我劈成两半，但是割不断我与毛泽东的关系。”事后，毛泽东得知此事，深受感动，称赞朱德“度量大如海，意志坚如钢”。

毛泽东是中华人民共和国第一任国家主席。新中国设立国家主席一职也是他的首倡。中华人民共和国成立时，祖国大陆还没有完全解放，处于战争状态，因此作为国家主权和领土完整象征的国家元首——国家主席一直空缺。1954年9月27日，第一届全国人民代表大会决定撤销中央人民政府委员会，同时决定设立国家主席。毛泽东以其在党内外、国内外独一无二的历史地位和无人可比的崇高威望，当选为中华人民共和国第一任主席，而德高望重的朱德，则当选为副主席。

几年后，毛泽东多次对朱德等人说：“去掉国家主席职务，专做党的主席，可以节省许多时间做一些党所要求我做的事情。这样对于我的身体状况也比较适宜。”朱德长期同毛泽东朝夕相处，深知他的脾气禀性。刘少奇、周恩来、朱德和邓小平等人，也十分理解毛泽东的苦衷。他们在党内进行了耐心细致的说服和解释工作，终于使党内在毛泽东不连任国家主席的问题上取得了共识。1958年12月10日，在第二届全国人民代表大会召开前，中共中央根据毛泽东的意愿，在中共八届六中全会上作出了《同意毛泽东同志提出的关于他不作下届中华人民共和国主席候选人的建议的决定》。

谁是第二任国家主席的人选，毛泽东没推荐提名，只是说“让别人干”。朱德看了中央书记处送来的第二届人大常务委员会国家领导人候选人名单后，明白了中央的意图。1958年12月29日，朱德提笔给中央书记处总书记邓小平写了一封信，言辞恳切地要“小平同志转书记处同志们：我提议刘少奇同志作为国家主席候选人更为适当......至于我的工作，历来听党的安排，派什么做什么，祈无顾虑。”以后在一系列公开和私下场合，他还多次说过自己比毛泽东年长七岁，由他接替毛泽东任国家主席不符合情理，更不利于党和国家的事业发展，并再三坚持举荐刘少奇。中共中央接受了朱德的提议。于是，中央全会一致同意刘少奇为中共中央向第二届全国人民代表大会提出的国家主席候选人，而朱德为委员长候选人。