南昌起义失败后，中共中央决定派刘伯承到苏联学习。1927年11月，刘伯承偕同吴玉章等30余人从上海登上了一艘苏联货船，到海参崴上岸，住在一家旅馆里，等了约1个星期，第三国际派人来接，又乘火车到莫斯科。吴玉章入中山大学学习，刘伯承则进了高级步兵学校。这所学校在莫斯科东北角的红色兵营，旧名列弗尔道渥。为欢迎参加南昌起义的中国学员，学校举行了隆重的欢迎仪式。入学的那天晚上，礼堂里灯火辉煌，中苏同学济济一堂，首先由学校政治委员致欢迎词，他说：“刘伯承是中国著名的军事将领，南昌起义的参谋长，他和一批优秀军官来本校学习，是本校的光荣。”刘伯承代表十多名一起入学的中国同志致答词，感谢校方的热情接待，他说：“我国革命事业暂时遭受挫折，党派我们来到列宁的故乡学习，这是极大的荣幸。我们要努力学习，勉作布尔什维克，国内的革命事业在等待着我们。”入学后，中国学员都取了俄国名字，刘伯承取名阿法纳西耶夫，编在第16班。这个班30多人都是中国学员，有中共的组织，唐赤英为支部书记，刘伯承、张西林、陈林为支部委员。

　紧张的军校生活开始了。在中国学员中，刘伯承年龄最大，他已经36岁了。首先遇到的就是俄文这一关。为了能直接阅读俄文书籍，直接听懂苏联教官讲课，他拼命地学俄文。在俄语中，“P”这个字母的发音是比较难的。刘伯承在刚开始认俄文字母时，有好几天从早到晚一有时间就练“P”的发音。他抓紧一切课余时间背单词或整理笔记。他除自备单词小本外，每日必在左手手心中写满生词，直到完全记熟后才另换新词。同学们常见他一边走路一边背诵单词。他认为在厕所里如不背单词，就是浪费时间。碰到自己弄不懂的地方，就虚心向同学们请教。有的同学看他学俄文实在吃力，就对他说：“我给你翻译吧。”他说：“老弟，那可不行，得自己学。”他看书时间长了，右眼的假眼球把眼眶磨疼了，也不休息，把假眼球摘下来，再接着看。晚上，同学们已熄灯就寝，他还独自在走廊的灯光下，默默地认、记。莫斯科冬天的早晨，气温大都在零下15摄氏度左右。每天早晨，刘伯承都提前来到操场上朗读俄语。同学们劝他不要起得太早，他说：“早起一会儿，第一不妨碍别人安宁，第二早晨空气新鲜，容易记忆。”凭这种日以继夜的顽强精神，俄语这一关终于被他攻克了。他在给川军旧友王尔常的信中提到这一段学习生活时说：“余年逾而立，初学外文，未行之时，朋侪皆以为虑。目睹苏联建国之初尤饥馑，今日已能饷我以牛奶面包。每思川民菜色满面，‘豆花’尚不可得，更激余钻研主义、精通军事以报祖国之心。然不过外文这一关，此志何由得达？乃视文法如钱串，视生字如铜钱，汲汲然日夜积累之；视疑难如敌阵，惶惶然日夜攻占之，不数月已能阅读俄文书籍矣。”他这种为革命而勤奋学习的精神，在当时的中苏同学中传为美谈。

　苏联高级步兵学校设置的军事课程有战略学、战术学、地形学、射击学，政治课则学苏共党史和哲学。教官每天大约讲授5小时，其余时间自修。刘伯承攻克了俄文关，能直接听教官讲课，直接阅读俄文教材，真是如虎添翼，学习有了长足的进步，各科成绩都是优秀，只有实弹射击例外。这是因为他失去了右眼，左眼瞄准，右手握枪，很难配合得好。但他不灰心，不因自己伤残而降低要求，经过一个时期的苦练，射击考核也取得了合格的成绩。学校里有一条标语：“脱离理论的实践是瞎实践，脱离实践的理论是死理论。”他对这条标语非常欣赏，成为他治学的座右铭。

 学习中也有一些不愉快的事情。当时的苏联，在斯大林领导下，总的是执行国际主义政策，但有的教官脑子里不免残留着沙皇时代的侵略扩张思想。一位教官讲解什么是边界线，竟然说：“边界线就是实力线，是实际控制线，是战斗线，是侵略目的线，是占领有利地形为自己的战略服务线。”有次学校组织去参观莫斯科革命博物馆，里面放着一个雕塑，一个中国人跪着，趾高气扬的俄国人一只手揪着这个中国人的辫子，一只脚踩在中国人的背上。刘伯承看后，心中十分不快。他向教官提出，这不符合国际主义精神，教官却批评他有民族主义情绪。从此，刘伯承埋头读书，很少外出参观。

　1928年6月，刘伯承接到中共中央的通知，让他出席在莫斯科召开的中国共产党第六次全国代表大会。大会的会址在塞列布若耶，是莫斯科近郊离兹维尼果罗镇不远的一座乡间别墅。

　大会主要是为了总结大革命时期和“八七”会议以来的经验教训，分析中国革命的性质和政治形势，制定中国共产党今后的政治路线和斗争策略而召开的。大会的主要报告有：共产国际代表布哈林作《中国革命与中共任务》的政治报告，瞿秋白作《中国革命与共产党》的政治报告，周恩来作组织问题和军事问题报告，刘伯承作军事问题的副报告，李立三作农民与土地问题的报告，向忠发作职工运动的报告，并通过了相应的协议。

　刘伯承报告分为五个问题：一、帝国主义与豪绅军阀封建制度，南北军阀是代表什么？二、军阀制度本身的矛盾与必然的崩溃；三、军阀军队的成分与其一般的情形；四、对军阀军队工作；五、党员军事化。

　在这五个问题中，他系统深入地分析了半殖民地、半封建中国的军阀制度产生的原因、本质及其组成状况，指出由于各帝国主义侵华势力和各军阀集团对民众的残酷剥削、压迫，以及他们之间的倾轧和争斗，造成了农民暴动、士兵暴动的条件。根据这些条件，他详尽地阐述了中国共产党开展兵运工作的意义、方针和办法。他认为，“共产党军事政治工作之一个首要的任务，便是要破坏并夺取统治阶级之武装力量，在陆海军和警察中进行政治与组织的工作”，通过“在军队中成立党的支部，和革命士兵们的组织，以使在该部队中实行军事政治工作，使自己的人散布到军队以便逐渐地扩大自己的影响，且于紧急的时候，把军阀军队吸引到革命方面来”。这就是说，建设武装和开展武装斗争，是中国革命的必由之路。为此，他呼吁全党：“对于军事，人人都要重视它、学习它，武装工农，领导工农夺取政权”，“党员军事化，才能夺取政权，维护政权，巩固政权，才能谈到中国革命的胜利，世界革命的胜利”。

　中共第六次代表大会召开期间，为了认真总结中国共产党进行武装斗争的经验，成立了南昌起义、广州起义等专题委员会，刘伯承被指定为南昌起义委员会的委员。他到苏联不久，就写了一份《南昌暴动始末记》的报告。这份报告，详细记述了南昌起义军事活动的全过程，并对起义的得失发表了自己的看法，其中最主要的是总结了四项“根本弱点”和八条“行动的错误”。

　这四项弱点是：在发动时间上，没有选择在我党力量上尚未遭到严重破坏的时刻；在起义空间上，没有选择在群众基础广泛的两湖地区；在革命武装数量上，没有把军事力量同群众力量结合起来；在革命武装质量上，没有切实加强起义队伍的政治领导。八条错误是：党的领导不力；未能发动农民一起奋斗；作战指挥不统一；对敌斗争不坚决；对敌我力量估量有错误；财政政策不明确；军事人才准备不足；舆论宣传不够。这些意见，反映了刘伯承对革命武装的高度重视和对中国革命道路问题的比较清醒的认识。

　1928年下半年，刘伯承被调到伏龙芝军事学院学习，这是苏联的最高军事学府，院长是爱迪曼上将。刘伯承一来到这座学院，赫然入目的是一条大标语：“一切战术要适合一定的历史时代，如果新的武器出现了，则军队的组织形式与指挥也要随之改变。”这对他的军事思想有深刻的影响。伏龙芝军事学院中国班共6人，与刘伯承同学的有左权、屈武、陈其科、黄涤洪、刘云等。当时6个人都是共产党员，成立一个支部，刘云为支部书记。开设的课程主要有战略、战史（第一次世界大战史、苏联内战史）、军事地理、俄文等。刘伯承学习军事理论，善于和实践结合起来学。每学一门课，他都认真联系过去参加过的战斗，从中总结成功的经验和失败的教训。因此，无论是课堂提问、图上作业或野外演习，他都表现出比别的同学学得扎实，理解得深。紧张的学习生活之余，同学们喜欢看电影，或听听音乐。有一次刘伯承和大家一起看电影，电影的名字是《红色银花》，描写中国人愚昧落后、懦弱麻木。衣衫褴褛、面黄肌瘦的中国人，心甘情愿地跪在地上欢迎侵入新疆的俄国人。这个电影大大刺疼了刘伯承的民族自尊心，当场他就指出：这是对中国人的侮辱。校方再一次批评他有“民族主义情绪”。他深切感到弱国之民无地位，勉励自己更加努力学习，为改变祖国落后、屈辱的命运而奋斗。以后，组织看电影或其他活动，他都不去了，一个人坐在宿舍里看书。同学们叫他，他说：“来这里学习，机会很难得，要争取时间多学点东西。党随时都可能叫我们回去参加战斗，那时就没有这么安定的环境和时间了。”

　刘伯承在苏联学习期间，非常关心国内的政治形势。1929年春的一天，国内来人向在伏龙芝军事学院学习的人介绍了湘赣革命根据地的斗争情况，刘伯承听了感到很受鼓舞。他对同学屈武说，中国的武装斗争已经有了一个好的局面，尽管困难很多，但前途是光明的。我真想现在就回国，上井冈山和毛泽东、朱德同志去一起战斗。他一再向屈武强调：“中国革命同苏联情况不一样，中国一定要依靠农民，武装农民；否则，中国革命是不会成功的。”