次日一早，徐盖先带兵离营，埋伏在城外，只等两军交战，便冲入城中。徐晃带着五千将士，大张旗鼓地来与赵舒交战。两阵对圆之后，徐晃有心混战，为其子制造机会，也不派将出战，便亲自督军上前撕杀，顿时上党城下杀声震天。
这一战，徐晃是抱着必死之心，以求报答曹魏大恩，麾下将士，也都是随其征战多年的精锐。虽然汉军多出数倍，却也急切难以获胜。从早上战到中午，魏军固然死伤过半，而汉军死伤人数也不在其下，只是死了一人，便又有人顶替而上，不像魏军，死一个便少一个。徐晃虽然竭力指挥作战，但苦于兵力过于悬殊，又被汉军团团围住，于是将希望全都寄托在其子徐盖身上，遥望上党，默默祈祷爱子能带兵顺利地进入城中。可是当徐晃的目光移到上党城头之时，身体猛然一振，还道是自己大战之后，老眼昏花，复对旁边亲兵道：“你看看那城头上，是哪家的旗帜？”
左右亲兵都是跟随徐晃死战，哪里顾得上四下打望，此刻听主将问起，才极目望去，大惊道：“将军，城上是汉军旗帜。”徐晃闻言，几乎从马上坠落下来，大骂道：“这逆子成事不足，败事有余。”左右魏军将士都还在忘死血战，可上党失守的消息一传十，十传百的传开之后，在重围之中，他们凭的就是这一股血气，艰难地支撑着防线，如今上党已失，士气大为失落，更加不能抵挡汉军的凌厉攻势。