中国最高军事当局令第五战区集中兵力于徐州附近，准备再次聚歼日军。日军改以部分兵力在正面牵制对方，主力向西迂回，企图从侧后包围徐州，歼灭第五战区主力。4月18日，日军第10、第5师分别从山东峄城（今属枣庄）和临沂西北的义堂地区南进，对守军第2集团军和第20、第3军团及第27军团第59军实施牵制性进攻。守军顽强抗击，至月底，将日军阻止在韩庄、邳县（今邳州）和郯城一线。5月5日，日军开始从南北两个方面向徐州西侧迂回包围。在南面，第9、第13师从蚌埠地区分别沿北淝河、涡河西岸北进，至13日，陷蒙城、永城（属河南）后，向江苏萧县、砀山（今均属安徽）进攻；第3师由蚌埠进入大营集地区，向宿县（今宿州）进攻。在北面，第16师由山东济宁渡运河，至14日，连陷郓城、单县、金乡、鱼台后，向江苏丰县、砀山推进；第14师从河南濮阳南渡黄河，陷山东菏泽、曹县后，直插河南兰封（今兰考）；同时，第10师将韩庄、台儿庄地区的作战交由第114师接替后，在夏镇附近渡过微山湖，向沛县（属江苏）进攻。5月中旬，前方越来越惨烈的战报不断传到武昌国民党军委会蒋介石的案前，徐州突然面临的严重危机，使他那因台儿庄的胜利冲得有点晕乎乎的大脑一下冷静下来。蒋介石突然意识到：日军的意图是要围歼徐州中**队主力。若徐州那50个精锐师被日军吃掉，我还抗什么战？蒋介石立即叫来何应钦、白崇禧、陈诚等人一块研究策划。日军的企图已经暴露，再死守徐州已不现实，何应钦等人亦主张赶紧突围决定放弃徐州。蒋介石口授给李宗仁的十万火急电令：
第5战区司令长官李宗仁：军委会着令你部力避决战，撤离徐州，火速突围。
一、顾祝同第24集团军在苏北，第69军及海军陆战队在鲁中南原地坚持抗战。
二、刘汝明第68军为全军后卫，掩护主力转移。
三、第5战区其余各部，立即向豫皖边区突围……
16日，第五战区命令各部队分别向豫、皖边界山区突围。中**队且战且退，阵形不乱，按部就班地向西、向南撤退。日军阻一处，中**队冲一处，无所不破，大军向河南南部及湖北北部集结，各路都相继冲出重围。为避免与优势之敌作消耗战，当各路敌军向徐州步步合围时，李宗仁令所部各路守军，作稍事抵抗后，即相机撤向山区、湖沼地区，进行“化整为零”的游击战，与敌人纠缠了月余。5月18日黄昏，李宗仁与长官部官兵一应人员700余人，乘夜色经宿县、蒙城，越过敌之包围圈移驻潢川。留守徐州城的刘汝明部在萧县一带伏击日军第9师团，对日军造成重大伤亡。日军见中**队大部已走，企图于徐州城围歼刘汝明部。刘汝明部佯作死守状，及见各路大军撤尽，根据蒋介石的命令，放弃徐州城，巧妙地跳出日军数十万大军的重围，安全转移。敌军不但没有击溃刘汝明部，甚至连一个上尉也没有捉到。日军的华中派遣军的13师团一路杀来，发现李宗仁唱了一出空城计，又令一心想争功的华北方面军大感挫折，日军伤亡了万余人的代价，得到了一座空城。5月下旬，各路大军按命令的路线，全部安全撤抵皖西、豫南地区。日军沿陇海铁路西进，6月6日占领开封。为阻止日军前进，蒋介石9日下令在郑州东北花园口附近炸开黄河大堤，河水经中牟、尉氏沿贾鲁河南泛。日军被迫向黄泛区以东地区撤退。会战结束。