经过10多天的休整，日军指挥官横山勇于8月3日决心孤注一掷，投入更大的兵力，并亲自上阵督战。日军第116师团于天亮后发动首次冲锋，很快被顽强的中国军队用集束手榴弹炸了下来。夜里，日军组织突击队偷袭，摸进守军阵地，以为大功告成，不料又被隐蔽于侧面的火力封锁了退路，突击队全部被消灭。

　　第68师团一清早发动的冲锋，扑上了一块高地，立即被守军火力压制，趴在地上既前进不得又退不下来。

　　双方形成拉锯战。

　　日军第68师团8月6日终于从北门攻进城，与守军展开激烈巷战。

　　守军处境此时非常艰难，军部与各师之间的联系彻底中断，但尚有一部电台可与重庆联系。方先觉将军含着眼泪，哽咽着口述电文：

　　重庆军事委员会蒋委员长：

　　敌人今晨已由北门冲进来，城内已无可用之弹及可增之兵，危急万分。生等只有一死为国，来生再见。

　　方先觉、周庆祥、容有略、葛先才、饶少伟、孙鸣玉。8月6日夜。

　　蒋介石复电：“援兵明日必到衡阳城，决不延误。”第二天援兵未到。8月7日夜，蒋介石无奈复电：“愿上帝保佑你。”

　　1944年8月8日，坚守了47天的衡阳城终于失守。

　　经过47天的战火，衡阳守军阵地前，中、日两军的尸体堆积如山，城内街市已成为一片废墟，全市5万多幢房屋全遭摧毁，被枪炮击毙者近5万人，伤残者2.5万人，因毒气、细菌瘟疫而死者达3万人。衡阳保卫战是整个豫湘桂战役中孤军守城坚持时间最长、抵抗最顽强、厮杀最残酷的战斗。