1922年10月,孙中山任蒋为许崇智的参谋长。仅月余,蒋便以“军事无进展”为由离职归家,孙中山派廖仲恺持其手谕都无法挽留。
很多人原以为蒋介石是孙中山选定的接班人。于是就说,接班人选错了。当年寸步不离孙中山病榻的床前侍卫李荣的回忆是:临终的孙中山呼唤了宋庆龄,呼唤了汪精卫,却没有呼唤蒋介石。至其临终也未指定谁是接班人。
1923年6月,孙中山命蒋为大元帅行营参谋长。蒋到任不满一月, 又以不受“倾轧之祸”为由,辞职返回溪口。
1924年初,孙中山委派蒋为黄埔军校筹备委员长;刚一个月,蒋就以“经费无着落”为由辞筹备委员长之职。9月,再辞军校校长之职。
自1918年7月辞陈炯明部作战科主任,至1924年9月辞黄埔军校校长,6年时间中,蒋介石先后辞而复职竟达14次之多。
孙中山容忍了蒋介石历次辞职,独对辞黄埔军校之职不能忍受。创办军校建立革命武装,是马林1921年向孙中山建议的。1923年《孙文越飞宣言》签署后,越飞又表示苏俄将提供款项、武器和教练人员,帮助建立军校。孙中山革命奋斗几十年,吃尽了无自己武装的亏,梦寐以求想建立这一武装。直至晚年刚有实现的可能,蒋介石又动辄撂挑子不干,确实大伤了孙中山的心。他对蒋介石深感失望。
历来极重兵权的蒋介石又何尝不知黄埔军校的重要。他真正不满的,并非仅仅“经费无着落”,而是在1924年1月国民党召开“一大”上, 孙中山没有指派他为代表,各省党部亦没有推选他,国民党党史上极其重要的这次大会,他连一张入场券都未弄到。