十月十三日，为配合华东野战军歼灭黄百韬兵团的作战，中央军委命令中原野战军向陇海线上的郑州发起攻击。
郑州之战是淮海战役正式发动前一次重要的战役。
郑州之战不仅结局出乎预料，更重要的是，此次作战推动了“小淮海”向“大淮海”的转变。
郑州扼守平汉、陇海两条铁路的交会处，是国民党军重兵把守的中原重镇。华东野战军攻克济南后，为加强徐州地区的防御以屏障南京，国民党军将驻守郑州的第十六兵团全部东调，其防区由驻守新乡的第十二绥靖区第四十军接替。于是，在郑州以南的战场上，国民党军仅剩三个兵团。其中，黄维的第十二兵团位于河南确山，担负随时准备增援徐州的任务；宋希濂的第十四兵团位于湖北沙市，张淦的第三兵团位于湖北与河南交界处的枣阳、随县，担负阻止共产党军队南下渡江的任务。
中原野战军决定:由刘伯承、李达指挥第二、第六纵队和中原军区部队，继续在豫西牵制黄维和张淦两兵团；由陈毅、邓小平指挥第一、第三、第四、第九纵队，在华北军区第十四纵队的配合下，对郑州发动攻击。其作战部署是:第一、第四纵队组成东兵团，第四、第九纵队组成西兵团，两面夹击；豫皖苏军区部队插到黄河铁桥以南，阻止郑州国民党守军北撤；华北军区第十四纵队和豫北地方部队牵制新乡地区的国民党军，使其不能南下增援。
二十一日夜，中原野战军各部队包围了郑州。
本来作战目标是牵制郑州附近的国民党军主力，令其不能东援将被华东野战军围歼的黄百韬兵团。
但是，仗还没打就出现了意外。
这是中原野战军第一次攻击大城市，二十二日凌晨，准备打一场艰苦攻坚战的官兵进入攻击位置的时候，突然有报告说，郑州国民党守军已经弃城逃跑——从军事常理上讲，对郑州这样的重要战略枢纽的有效防御，至少需要二十个团以上的兵力，但是，此刻担任郑州防御任务的国民党军只有分属于不同军的两个师。这种如同弃之不顾的部署令人无法理解，唯一的解释是:此时国民党军的兵力已到捉襟见肘的程度。
驻防郑州的第四十军一六师原驻扎在新乡，孙元良的第十六兵团东调后他们奉命接防，官兵们打心眼里不愿意在这里白白送死。而原来驻守在城内的第九十九军二六八师早已军心涣散，因为第九十九军的主力此时也已东调蚌埠，官兵们说，既然老头子都不要郑州了，那还守它干什么？郑州守军一路北逃，企图向新乡守军靠拢。
如此重要的城市，没打就占领了，这令攻城部队颇感意外。
在九纵司令员秦基伟的攻城部署中，有一支被他称为“北支队”的部队，由豫西四分区司令员张显扬和二十七旅副旅长唐万成指挥，这支部队不参加攻城，而被部署在郑州西北二十公里处的薛岗、苏家屯、双桥和杜庄一线，任务是堵截郑州守军北逃和防御新乡守军南援——这一部署证明秦基伟确有先见之明。
郑州守军的弃城而逃，使原来预想的城市攻坚战瞬间变成了野外追击战。
二十二日清晨七时，郑州守军逃到薛岗一带，被二十七旅七十九团堵住。阻击阵地上的七十九团官兵即紧张又兴奋:公路上挤满了黑压压的国民党军，步兵和一眼望不到边的辎重车辆混在一起，从阵势上看如同郑州守军大搬家。但是，当敌人迅速开设炮兵阵地，炮弹大雨一样倾泻下来时，七十九团的艰苦时刻到了。为了打开北逃的通道，国民党军集中火力和兵力于一点，很快就将七十九团二营的阵地打成一片火海。敌人连续发起冲锋，被打下去后，又重新冲上来，二营阵地上开始了充斥着呐喊声和呻吟声的肉搏战。这时候，从古荥镇出动接应郑州守军的国民党军一六师三一八团已经接近战场，其前锋到达七十九团阵地背后的双桥附近，并准备从那里向南发起攻击。在双桥阵地阻击的是四分区基干团的三营。南北两路国民党军用明语喊叫对方，急切地催促对方向自己靠拢。中午时分，依旧没能突破的郑州守军意识到了处境的危险。二六八师组织起敢死队，敢死队员三百多人为一组，一手挥舞大刀，一手提着集束手榴弹，在强大的火力掩护下发起集团冲锋。当敢死队冲上二营阻击阵地的时候，营长王凤书和教导员郭纯夫率领五连迂回到敌人的侧后，官兵们突然向敌人的冲击阵形拦腰杀进去，二十七旅副旅长唐万成率领正面部队趁势出击，位于阵地西侧的独立团也发动反击，最终把二六八师的攻击浪潮压了下去。
此时，郑州守军已经全部走出郑州城，队伍的前锋在薛岗被阻，指挥中心还在老鸦陈寨，后卫部队过了距郑州六公里的十二里屯——国民党军暴露在郑州以北的旷野中，已无回撤的任何可能。
秦基伟认为，凡是突围逃跑的队伍，总是两头强中间弱，于是命令二十六旅突击逃敌的腰部老鸦陈寨，攻击时间定在下午十五时。
下午，没等二十六旅发起攻击，第九十九军参谋长佘辉庭亲自指挥三个团，对七十九团的阻击阵地发起猛烈冲锋，企图在薛岗与苏家屯两个村庄之间撕开一道缝隙。在几十门火炮和机枪的掩护下，三个团的步兵冲进两村之间的洼地，北面赶来接应的国民党军也开始向这个洼地靠拢，南北两敌之间的距离仅剩一千五百多米。七十九团官兵在密集的两面炮火中，利用每一道土坎和每一道断墙顽强抵抗。秦基伟给团长任应和政治委员田耕打电话:“坚决顶住，郑州之役全胜，此是关键一着。”十五时，二十六旅对老鸦陈寨的攻击战打响。炮火把寨墙轰开后，各团从四面突入寨内，国民党军拥挤着四处逃散，老鸦陈寨旁边的公路上车炮拥塞，人马践踏。从北面增援的国民党军远远望见一片溃败的景象，竟急忙收缩兵力开始回撤。郑州守军北逃不成，就往东朝开封方向跑，但是七十六团早已在那个方向等着他们呢，混乱的队伍刚一出现，立即受到迫击炮和重机枪的拦截射击。惊慌失措的郑州守军只好又往回跑，最后全部拥挤在方圆不足两公里的野地里。郑州之战最后的战果是:歼敌一万一千余人，除第四十军军长李振清负伤逃跑之外，第四十军少将参谋长尹继英、一六师少将师长赵天兴被击毙，第九十九军少将参谋长佘辉庭、二六八师少将高参李福五等被俘。
本来是配合华东野战军的牵制作战，由于国民党军出人预料地将郑州放弃，毛泽东原来设想的淮海战役(小淮海)结束后再西进作战的任务，已经提前完成。这就使得战场态势呈现出新的格局，即中原野战军与华东野战军已处于从东西两面夹击徐州的作战态势上。
中原野战军占领郑州的当天，毛泽东致电陈毅、邓小平、粟裕等人，建议中原野战军“迅即全军东进”:
刘峙认为我华野有出苏北企图，停止邱(邱清泉)、孙(孙元良)向鲁西南行动，以李(李弥)兵团之第九军加入东面防堵，以邱兵团由商丘向砀山收缩。白崇禧则为对付我二、六、十纵，以黄(黄维)张(张淦)两兵团向桐柏方面进攻，陈邓攻郑作战完全不受南面威胁。因此，为了保障我华野全军在淮海战役中完全胜利，请你们准备着，在攻克郑州休息数日后，迅即全军东进，相机攻占开封。或者不打开封，直出徐蚌线。不但钳制孙元良、刘汝明，并且钳制邱李两兵团各一部……
同一天，毛泽东再次致电陈毅、邓小平、粟裕等人:
目前极好的形势是白(白崇禧)部黄(黄维)张(张淦)两兵团被我二、六、十纵吸引到桐柏山区，在相当长时间内不可能回头进到黄泛区，威胁东北面我军之行动，有利于我陈邓在攻郑胜利后，以一部或大部或全部向东行动，协同三(第三纵队)广(两广纵队)两纵，不但牵制孙(孙元良)、刘(刘汝明)全部，而且可能牵制邱、李一部。具体行动在攻郑后决定，我们预计是以一部留郑州、淮阳之线，以主力于邱李两兵团大量东援之际，举行徐蚌作战，相机攻取宿县、蚌县(蚌埠)，坚决彻底干净全部地破毁津浦路，使敌交通断绝，陷刘峙全军于孤立地位……这是毛泽东根据战场态势变化作出的一个重要的设想，即中原野战军和华东野战军共同进入徐州战场。其中，建议中原野战军对宿县、蚌埠发起攻击，已经明显带有合围刘峙集团进而展开决战的意图。
宿县，徐州以南津浦铁路线上的重镇。
蚌埠，宿县以南津浦铁路线上的重镇。
一旦占领宿县与蚌埠，就等于截断了徐州战场上国民党军南撤的退路。
出乎陈毅、邓小平的预料，郑州丢失后，国民党军随即放弃了开封，全部兵力东撤蚌埠以拱卫徐州，致使中原野战军未费一枪一弹重新占领开封。
开封被占的那天，即十月二十四日，陈毅、邓小平向中央军委提出了中原野战军东进作战的三个方案:一、向东歼击集结在蒙城附近的孙元良兵团；二、向东直接出击徐蚌线，攻占宿县、蚌埠；三，东进至河南商丘地区，待黄维兵团东进时寻机歼敌。
第二天，中央军委复电，认为中原野战军“应从现地取捷径”南下蒙城集中，因为位于皖北的“蒙城是机动地带，可东、可西、可南、可北”。然后，再从蒙城“直取蚌埠，并准备渡淮南进”，“控制淮河以南、长江以北、淮南铁路以东、运河以西的广大地区”。如此一来，徐州战场上的国民党军必定要“分兵南压”，或者是位于华中的白崇禧集团要“调兵向东”，华东野战军就可以集中兵力“歼灭刘峙系统五十五个师的三分之一左右，即十八个师左右，取得大胜”。陈毅、邓小平回电，认为挺进淮南不妥，因为地域狭小，缺粮缺水，大兵团难以机动，因此主张部队集结在河南与安徽交界处的永城、亳州、涡阳中间地区，这样“无论出宿蚌线或打孙元良均更方便”。而目前还是“以力求歼击孙元良为第一要着，如不好打，则向宿蚌线进攻”。就在这时，中原野战军第六纵队准备攻击湖北与河南交界处的老河口地区，驻守在那里的国民党军是宋希濂的第十四兵团第二十军，白崇禧急忙命令黄维西出增援，这就使得黄维兵团短时间内不可能再掉头向东。同时，孙元良兵团的两个军已从蒙城北进至永城，而刘汝明的部队也有放弃商丘东移的迹象。根据国民党军的行动变化，陈毅、邓小平再次致电中央军委，提出改变原拟的作战方案，新方案的要义是:中原野战军全部进入徐蚌战场，负责牵制邱清泉和孙元良两兵团，如能达成歼敌目的，可直接东进攻击徐州，配合华东野战军歼灭黄百韬兵团。
十月二十三日，华东野战军发布《淮海战役预备命令》，准备进行歼灭黄百韬兵团的作战。此时，粟裕密切关注着徐州战场上国民党军的动向，当中原野战军占领郑州和开封后，他意识到，徐州东西两面的战场很可能被打通，华东野战军和中原野战军，将由战略上的配合作战发展成战役上的协同作战，而且战役规模会比原来预想的要大得多。虽然粟裕指挥着华东野战军的十五个纵队，加上暂归华野指挥的中原野战军第十一纵队，共计十六个纵队，而在中原野战军的作战方向上仅有四个纵队，但是，三十一日，粟裕向中央军委提出了淮海战役统一指挥的建议:“此次战役规模很大，请陈军长、邓政委统一指挥。”——这是粟裕在建议发动“淮海战役”之后，提出的又一个具有重大意义的建议。
十一月一日，毛泽东为中央军委起草电报:“整个战役统一受陈邓指挥。”
第二天，陈毅、邓小平回电:“本作战我们当负责指挥，惟因通讯工具太弱，故请军委对粟谭方面多直接指挥。”
至此，“小淮海”的战役构想开始向“大淮海”的作战意图推进。
