蒋介石急令从陕北战场和围攻大别山刘邓大军的部队中抽调军队，数次企图夹击陈赓部队均未成。陈赓部队南下时，国民党李铁军第五兵团尾追南下，想与陈赓决战。李铁军与陈赓也是黄埔军校一期同窗，所以在指挥追击时，在自己司令部提到陈赓时还一直尊称“陈大哥”。他为人狡黠、用兵谨慎，7个旅猬集一团，一动全动，一停全停，不给陈赓留什么空子。当时陈赓能调动的作战兵力不过5个旅，但不歼灭这股敌人又休想在豫西立足。
11月8日，陈赓召开前委扩大会议，对打不打李铁军兵团，会上争论激烈。最后，陈赓提出“牵牛进山”，扯散它、消耗它，主力隐蔽，时机成熟再集中优势兵力各个击破。伪装主力引诱李铁军兵团进伏牛山的任务就交给第四纵队十三旅和第九纵队二十五旅。
“牵牛”部队沿途故意大造声势，多路行进，大路小路都是喧嚷的部队，夸大部队番号，进村用粉笔多号房子，多造行军灶，弄得满村烟雾弥漫……老乡们第二天就传开来了很多老八路。可是老谋深算的李铁军并未轻信，而是继续侦察陈赓的主力究竟在哪儿。十三旅旅长陈康急了，发急报向陈赓请示，陈赓回电“继续南进，攻打镇平”。11月16日，陈康率部包围镇平，把全旅仅有的几门山炮和所有的各种火炮集中起来，一齐急袭，激烈的枪声密得像爆竹，镇平刹时陷入硝烟与火焰交织的火海中，城里敌人声嘶力竭向李铁军求援：“共军主力正在攻城，几百门大炮轰击猛烈……”李铁军再也沉不住气了，率主力整编第三师急忙赶来。肥“牛”终于“牵”上了。第十三旅又攻打内乡县给“牛”看，在鱼关口再设伏狠揍他一顿，李铁军反而深信不疑追上了陈赓主力，山路崎岖，他竟然丢掉辎重，扔下大炮，带着轻装部队拼着老命向深山追去。
陈赓主力部队却在伏牛山东麓的平原地区展开了攻势。指挥33个旅围攻大别山的白崇禧这才恍然大悟，陈赓主力不在伏牛山里，不得不抽兵回援。筋疲力尽的李铁军也调头回驰平汉路，部队受冻挨饿，士气低落，军心涣散。陈赓要把拖瘦的“牛”赶到预定“屠场”。李铁军赶到铁路附近，接触到陈赓第十一旅的一个连队就以为咬住了大部队，陈赓将计就计，令十一旅节节抗退，“牵”着他北上。李铁军求功心切，竟催促整编第三师孤军深入，12月26日被陈赓部队和华东野战军合围全歼。李铁军只身逃跑之前，对天长叹：“我半世英名，被陈大哥毁于一旦了。”
为“两弹”事业开道
从1952年6月，中共中央从抗美援朝战场上调陈赓回国，创办我国第一所高等军事工程技术院校——哈尔滨军事工程学院起，陈赓就为国防科技现代化发展殚精竭虑。
1954年10月，陈赓被任命为副总参谋长，仍兼哈军工院长。9月10日，他随彭德怀和刘伯承率领的中国军事代表团赴苏参观有原子弹爆炸的实兵对抗演习。演习总结会上，苏联国防部长布尔加宁送给彭德怀一把飞行员投放原子弹的金钥匙，大家争相传看，陈赓看了一眼说：“光给把钥匙，不给原子弹有啥用！”彭德怀立即说：“你是军事工程学院的院长，你可以组织研制嘛！咱们还是自己干吧！”
陈赓参观回国后，就考虑哈军工要着手培养研制导弹、原子弹的人才。他深知国内这方面人才奇缺，曾向周恩来等领导人建议，要争取留美的中国科学家和学生，如钱学森等回国效力。
1955年10月，钱学森回到祖国。陈赓知道后，立即向彭德怀建议，哈军工有懂航空、火箭的专家，也有教学仪器和设备，最好请钱学森去参观一下，再听听他对中国研制火箭的意见。此议得到毛泽东、周恩来等中央领导的支持。哈军工当时是军事保密单位，地方上也只有省委委员以上才能参观。钱学森到哈尔滨参观东北工业的第二天，陈赓大清早就乘专机赶到哈军工，亲自全程接待钱学森，并在欢迎辞中说：“对于钱先生来说，我们没有什么密要保的。”这使钱学森很感动。
陈赓看到钱学森对小火箭试验台很感兴趣，就试探地问：“钱先生，您看我们能不能自己造出火箭来？”
钱学森很有信心地说：“有什么不能的，外国人能造出来，我们中国人同样能造出来。”
陈赓兴奋地握住钱学森的手说：“钱先生，您说得真好！我就要您这句话。”
后来钱学森回忆说：“我回国搞导弹，第一个跟我说这事的是陈赓大将。”
自此，陈赓开始为研制导弹积极奔走。他立即飞回北京，向彭德怀汇报了钱学森的信心和看法，说得很激动。陈赓又多次和钱学森讨论导弹问题，不久陪同钱学森到北京医院与彭德怀讨论研制导弹需要的人力、物力、设备条件和时间。
1956年2月初，一个周末的下午，叶剑英会见并宴请钱学森夫妇，陈赓也应邀共进晚餐。席间谈话的主题还是导弹，三人越谈兴趣越浓，心情越加迫切。饭菜摆好，陈赓突然说：“今天是星期六，周总理晚上一定在三座门跳舞，吃了饭我们就去找他，请总理亲自抓。”
饭后，三人驱车来到三座门，周总理果然在。一曲刚终，叶剑英就急步走向周总理，汇报刚才谈到的想法。周总理认真听着，频频点头，脸上露出微笑道：“好啊！”说完，走过去握住钱学森的手说：“学森同志，刚才叶帅向我谈了你们的想法，我完全赞同。现在交给你一个任务，请你尽快把你的想法，写成一个书面意见。包括如何组建机构，调配人力，需要些什么条件等等，以便提交中央和军委讨论。”钱学森尽力抑制内心的起伏，只说了两个字“好的”。这就是钱学森《建立我国国防航空工业的意见书》的由来。
意见书受到中共中央和中央军委的高度重视。1956年3月14日，周总理主持中央军委会议，决定组建导弹航空科学研究的领导机构——航空工业委员会，直属国防部，尔后任命聂荣臻为主任，钱学森等为委员；不久，中央军委又决定，由航委负责，组建导弹管理局（国防部五局）和导弹研究院（国防部五院，钱学森为院长）。
国防部五院成立后，中国导弹事业正式起步。当时需要解决的最大难题，一是技术力量不足，二是争取苏联技术援助以少走弯路。陈赓为调配五院的技术力量问题，如同几年前创办哈军工那样，倾注了大量心血。中国政府请苏联政府对中国研制现代武器提供技术援助一事，经过整整一年半的商谈，也终于有了松动。
1957年9至10月，聂荣臻副总理率中国政府工业代表团赴苏谈判，签订《中苏国防新技术协定》时，向中央建议，由陈赓和主管原子能方面的宋任穷为副团长，钱学森等为科学顾问。有关原子能、导弹、作战飞机等技术的《协定》签订后，陈赓非常高兴，拉上刘杰一起去看望中国留学生。他们对留学生们说：“好好学习，把在苏联学到的东西变成自己的财富，将来报效祖国，把中国的火箭、导弹事业搞上去……”台下的留学生们欢呼起来。
