济南战役之后，国军调集大军，将邱清泉、孙元良、李弥和黄百韬四个兵团在陇海路沿线一字排开，准备向北反攻。这个计划是杜聿明做的，预订也是由杜聿明指挥。按照杜聿明的计划，在部队集结完成之后，就要在10月15日开始进攻。而当时解放军方面，粟裕还正在和中央商讨下一步的作战计划，部队正在休整，并未展开。如果此时杜聿明提前完成兵力集结，并提前发动进攻，就等于华野要被动应战，形势是比较不利的。

但就在部队已经集结完毕，准备发起进攻的时候，辽沈战役已经接近尾声，国军在东北的形势急转直下，败局已定。这时候，国军统帅部的想法是，能从东北抢运一些部队出来，就算是胜利。而要完成这个任务，当时国军高级将领中其实并非只有杜聿明具备这个能力，但国军统帅部还是临时决定，由顾祝同到徐州把正准备率军北上的杜聿明带到东北去了。这样，摆在陇海线上的国军就没人管了，身为徐州剿总司令的刘峙也不管，等于坐失了一个抢先发动进攻的机会。

到十月底，解放军这边的作战方案已经形成，决心先打黄百韬兵团。黄百韬自己也察觉了，告诉了刘峙，希望能提前有所布置。国军这边最后的决定是，放弃郑州、开封、连云港等据点，将部队缩到徐州周围，再与解放军进行决战。于是部队开始分批调动，孙元良兵团先南撤到蚌埠，邱清泉兵团从商丘、砀山一带向徐州集中，李弥兵团和黄百韬兵团也开始撤退。但在撤退的时候，原本已经决定把连云港的44军海运南下，这时候却突然要跟黄百韬兵团一起撤退，这一来，黄百韬的行动推迟了两天。加上黄百韬事先准备不足，没有在运河上另外架桥，就先被解放军追上了，包围在了碾庄圩。

黄百韬被包围后，原本已经撤退到徐州的李弥兵团只好又掉头东援，去解救黄百韬兵团。刚从商丘、砀山一带撤到徐州的邱清泉兵团也一起东援。这时候徐州的守备本来是由冯治安的部队负责，但是突然出现了张克侠、何基沣战场起义，徐州守备突然空虚了。刘峙于是只好又临时将已经在宿州的孙元良兵团北调，到徐州来担任守备，以便邱清泉和李弥两个兵团能够全力救援黄百韬兵团。同时，华中方面的黄维兵团也从驻马店、周家口一带东援，但到达蒙城一带的时候被中野层层阻击，不能前进，且逐步被包围。

黄百韬兵团被歼灭时，黄维兵团已经被包围，危在旦夕。这样，国军原定的徐蚌会战计划已经无法继续实行，就变成了如何保住剩下的部队的问题。但这时候国军在徐州附近还有两个集团可以使用。一个是已经南撤到了蚌埠的刘汝明、李延年两个兵团，另一个是在徐州的邱清泉、孙元良和李弥三个兵团。此外，华中方面还有张轸兵团和在鄂西的宋希濂两个兵团可以用。但问题仍然是徐州方面无人指挥，还是在等杜聿明从东北回来。等到杜聿明结束在辽沈战场组织撤退的任务，回到南京的时候，黄百韬兵团已经被歼灭，黄百韬本人也自杀了，淮海战场的形势也已经急转直下。

于是刘峙提议放弃徐州，向淮河沿线撤退，到蚌埠集中。但杜聿明回到南京之后，认为刘峙的这个意见太消极，现在还不到这个时候。而且各兵团的将领都认为，徐州设有坚固的永备工事，如果要在江淮之间与解放军决战，就不如依托徐州来组织决战。杜聿明给出的上中下三策是，上策是李延年、刘汝明两个兵团向北进攻，统帅部再增调五个军到徐州，这样就可以和徐州的国军南北夹击，击破中野，解救黄维兵团，并打通津浦铁路。中策是徐州的三个兵团坚守不出，代价是放弃黄维兵团，徐州的物资储备是足够的，唯一不足的是粮食只能支持一个月。

杜聿明给出的下策是从徐州撤退，和刘峙一样，撤到蚌埠，汇合李延年、刘汝明兵团，再向北攻击，解救黄维兵团。下策的条件是黄维要能够守得住，坚持得到这个时候，同时统帅部要下定决心，要撤就一路直接撤到蚌埠，不要撤离徐州之后又打，也就是杜聿明自己说的“打就不能撤，撤就不能打”，所谓“拉出来再打”是千万要不得的。因为依托徐州坚固工事，尚可坚持一段时间，解放军攻坚能力不足，也啃不动三十万人的重兵集团。但如果离开徐州，在运动战中和解放军交手，那就等于白白葬送三个兵团。

杜聿明在南京说得好好的，统帅部也同意了这个方案，徐州部队先全力撤退，经萧县、永城向阜阳集中，再折向东，到达蚌埠。这当然是一个绕远路的方案，之所以这样做，是因为此时津浦线上的重要据点宿州、固镇已被解放军占领，而且黄维兵团正被包围在蒙城东北的南坪集、双堆集地区。这就是说，杜聿明的部队是要绕着黄维兵团的包围圈走，到达阜阳之后就等于到了黄维兵团的侧背。所以，杜聿明到徐州之后下达的撤退命令也是这样，要求携带七天物资，到阜阳之前不补给。

这时粟裕还在和中央商讨下一步的作战方案，也就是消灭黄维之后的下一个目标是打谁，此时最先考虑的仍然是各个集团中实力最弱的李延年和刘汝明两个兵团。所以，11月28日杜聿明在南京面授机宜之后返回徐州，下达撤退命令，要求十一月三十日晚开始撤退的时候，华野各部仍在忙着阻援，或者协助中野围歼黄维兵团，其余在围歼黄百韬兵团时牺牲较大的部队则进行整顿补充，并未做好阻止杜聿明集团逃离徐州的准备。这就是说，杜聿明这个方案实际上是不错的，如果认真执行，是有机会逃出生天的。

杜聿明本来要求连续行军三天之后再休整，但撤退刚一开始，李弥兵团本来的任务是担任全军后卫，却跑到全军最前面去了，邱清泉兵团因为人数多，总共五个军，所以在撤退的时候比较混乱，过了萧县之后，担任兵团后卫的四十五师又遭到解放军追击部队的截击。邱清泉要派兵回去救援，各军长都认为没有必要，邱清泉却坚持要把他最心疼的第五军的这个老部队接出来，于是又派部队回去救援四十五师。邱清泉这一停，杜聿明也只好跟着停，到十二月二日，整个集团就在萧县到永城之间停下了，刚好让解放军有机会把发起追击晚了的两天路程赶回来。也就是在这两天，解放军的先头部队从追击变成平行前进，最后超越了杜聿明集团，堵住了杜聿明集团的去路。

十二月三日，国军统帅部又突然来了一封信，要求杜聿明不要往永城方向撤退，而是全军掉头向蒙城方向进攻，去解救黄维兵团，信中措辞严厉，说杜聿明如果还是直接向永城方向撤退，置黄维兵团生死于不顾，就将要亡国灭种。杜聿明自己回忆说，当时接到这封信就觉得心头一震，出现了自己事先最不希望的局面，也就是“拉出来再打”。杜聿明内心其实觉得还是应该向永城方向撤退，但又不敢违令，于是着急邱清泉、李弥和孙元良开会，结果是大家都不敢抗命，最后只好决定还是遵令而行，继续耽误撤退的时机。

也就是说，淮海战役中的国军其实并非必败之局，但从统帅部到基层各部队，几乎每个环节都在不断的连续出现明显的失误，才将整个淮海战场的国军全部葬送了。