部署已毕，冈村宁次攻势正好发动。五月一日，日军右路由应山西攻随县。进至郝家店、孙家寨一线，遭遇守将覃连芳率三个师截住。恶战一日，覃连芳退走。又进至高城，也遭遇守将张轸率三个师截住，恶战两日，张轸也退走。自此两支军轮换截杀，各战一阵即走。
日军右路每进一程，皆要历经恶战。虽连占郝家店、孙家寨、高城、塔儿湾、湖阳，十日进至新野，却折损严重。左路日军主力退后数日发动进攻，在三阳店、洋梓诸镇突破守军防线，一路北进，五月八日攻占枣阳，十二日攻占唐河。左右两路军虽收拢包围圈，中国军队早撤离一空。
冈村宁次欲统军再攻，却见日军主力已进至桐柏山与大洪山两山夹角。远远看去，两山奇峰插天，林木遮天蔽日。观山前山后，不时有人马穿行，左出右入，右入左出，不知伏有多少军马。恐惧顿生，心想：“我未围住支那军，反陷入支那军大阵中。”心知上当，统军急循原路东退。
李宗仁探得日军回撤，统各军分从大洪山、桐柏山深山密林中急冲而出，沿途截杀。襄河两岸，日夜炮声隆隆，人叫马嘶，烟尘滚滚。沿途尽是日军遗弃的枪械、车仗、辎重、弹药、营帐。至五月二十四日，诸处失地尽复。清点战绩，战场日军遗尸五千，伤者加倍。缴获枪械、弹药并一应军需品无数。