洛阳重镇，中国统帅部并不想轻易放弃。为了给守军打气，蒋介石又是给武庭麟发电报，又是派空军到洛阳空投亲笔信，许诺只要坚守一周,解围的援兵一定到达。蒋委员长作风一贯如此许诺，但是却从来没有兑现过，到后来抗战胜利与共产党的内战中，不知有多少国军高级将领被这种许诺送进了俘虏营。并非委员长不想兑现承诺，只是每次都有“具体情况”，此次蒋委员长一边严令蒋鼎文、汤恩伯收拢部队组织反击，一边命令八战区副司令长官胡宗南派部队出潼关东援。这胡宗南又是一个以副司令长官身份总揽战区大权的蒋介石的得意门徒。如此副职专权的事情在国军中已经见怪不怪了。比如后来杜聿铭在东北和淮海都是“剿总”的副司令长官，却拥有实际指挥权。这样的安排或许对蒋控制下属有利，但是对于战争的胜败却是百害无一利。
胡宗南部出潼关在灵宝一带布防,趁机收编西撤的一战区部队，扩充实力，如后来在第一野战军保卫延安过程中在榆林被击毙的刘勘，其部队就是此时归入胡宗南系统的。至于增援洛阳的赔本生意，精明的胡宗南是不会做的。豫西的国军做出了有限的反击，仅仅使得日军略略后退，确保关中不受日军威胁而已，日军本来的战役目标也没有攻略陕西的内容。
西面指望不上，南面却出现了一丝转机。首先取得战果的部队出人意料竟是五战区的杂牌部队豫南挺进军，该部队在豫南信阳一带与敌独立11旅团纠缠多年，结下了深仇，此次信阳地区日军北进，豫南挺进军一直在尾随袭扰，敌军主力西调洛阳一带，5战区也接到蒋介石要求反攻的命令，豫南挺进军兵分两路，趁虚同时攻占上蔡、漯河两城，再次切断了平汉铁路。在豫中战场一败涂地的情形下，此举无疑极大地鼓舞了军心士气。以至到后来日本投降后，漯河、郾城都被划入了五战区的受降区域。受占领漯河之胜的鼓舞。五战区其他部队也奋勇出击，连克确山、遂平、西平等平汉铁路沿线各要点。退入五战区的汤恩伯主力部队在五战区的支援下也开始反攻，毕竟这些老部队还是有些战斗力的。78、89两军从南召向东北方向反攻，连克鲁山、宝丰两城。31集团军主力13军从方城出击收复了叶县和舞阳。
面对国军的反攻，狡猾的冈村宁次竟然不派部队向南增援，以打通平汉铁路为目的战役此时却将主力部队全部集中于河南境内的陇海铁路沿线，一边从洛阳西工和东关东西对进猛攻，一边继续沿陇海铁路向西扩大战果。21日，国军36集团军司令李家钰将军在陕县秦家坡战死沙场。豫西日军空前嚣张，大有进逼潼关，威胁关中之势，这为胡宗南采取守势提供了充足的理由。
在豫中、豫南日军暂取守势，豫中日军退到许昌防守，豫南日军则退回了信阳，基本恢复了战前的态势。但，这仅仅是国军在豫中战役中的回光返照罢了，冈村宁次此时的重点极其明确，那就是：攻占洛阳。5月25日，古城洛阳终于不守。1万8千守军只有2千来人成功突围进入豫西山区。自5月3日敌军兵临城下，到13日敌军三路会师，再到25日城破，冈村宁次动用了包括装甲第三师团在内的几乎所有主力攻城和阻援，而以豫西民团改编的15军加上川军94师竟然孤军坚守了3周之久，最后重要将领还突围而去，让冈村宁次颇为意外。后来接替冈村宁次担任华北方面军司令的冈部直三郎大将到洛阳巡视，望着飘扬的太阳旗沉思许久，他想些什么？可曾追思到当年的遣唐使到达这座当年名副其实的东京时的感受？不知道。不过他觉得洛阳这个名字对于他们的“太阳旗之国”真是太不吉利了，到此之后怎能“武运长久”？于是下令把自古以来一直注视着天下兴亡的洛阳改名为“福阳”，这种荒唐可笑的行为当然改变不了他们失败的命运。
却说当时冈村宁次攻占洛阳后，经过休整、补充，开始部署兵力要沿平汉铁路南北对进，再次打通平汉铁路，实现战役的根本目标。就在这个间隙，谁也没有注意到，有一支共产党的小部队乘乱越过了平汉铁路。
这就是徐亮率领的西进部队。
附：日军在豫西的部分暴行
豫西沦陷后，日军所到之处，烧杀淫掠，无恶不作，向豫西人民犯下了滔天罪行。兹举要如下：
1、改“洛阳”为“福阳”，强奸妇女数百人，强迫商店开门，若不从，诛其全家。滥发伪钞，小麦每市斗700元、食盐每市斤650元（沦陷前不足5角），洛阳民众过了一年多未吃盐的日子，更有大批民众逃亡戓饿死。
2、偃师：每日强征民夫5000人修铁路，不少民众以“怠工”被处死。
3、宜阳：仅1944年5月一个内，日本制造了石陵大屠杀、水沟庙大屠杀、穆册大屠杀、漫流村大屠杀等12次大屠杀，杀死无辜村民1580人，强奸妇女257人，被奸杀的女子最小仅11岁，她在鱼泉被35个日本兵轮奸而死，被强奸的女子最小的是三乡一董姓女孩，她被十几个日本兵沦奸致残！
4、潭头大屠杀：1944年5月，日寇攻打在栾川潭头的河南大学，将一百多名未来得及逃走的师生集体枪杀，其中包括农学院院长王直青。李某等十多个女生被奸杀。
5、洛宁：《新华日报》1944年6月20日《豫西的班班血债：一个虎口逃生的人谈敌寇集体屠杀我同胞的目击情形》记载：当年四月日寇飞机对洛宁逐村轰炸，其中将范蠡镇炸成平地，无一人幸免。文章的作者在卢氏东张村，见到东张大屠杀后近千具尸体横陈于山坡的情形。
6、嵩县：日酋梅津、左子木每日捉拿村民作耙子练刺刀，死于其手下者不计其数，每日掠夺妇女轮奸，农民张光之妻等，因为有些容貌被捉去做慰安妇。
……
以耿谆为代表的在1944年在洛阳保卫战中被日军俘虏的战俘，竟被日军运回本土充当苦力，大多客死他乡。