炳勋密谈。用金钱地位策反庞炳勋倒戈，在利诱面前庞炳勋最终动摇了。而他反戈一击的第一个目标，便是阵容整齐、训练有素的友军——第6师张自忠部。
深夜，庞炳勋的一个精锐团，悄悄地围住了第6师师部。此刻，师部会议室灯光通明，毫无防备的张自忠正在召开着团以上干部的作战会议。
庞炳勋部将张自忠的高级干部团团包围了。最后，张自忠总算杀出一条血路而逃。
张自忠从此发誓，“此仇不报，我张自忠誓不为人!”
此刻，庞炳勋想起这段往事，悔恨当初鬼迷心窍，反戈相向，同室操戈，现在想想真对不起张自忠。如今张自忠来了，不要说他老弟会报一箭之仇，就是按兵不动，自己今天也死无葬身之地了。
正在沉思中的庞炳勋，当他远远看到身躯高大的张自忠走向自己的指挥所，心中高悬了几天的石头终于落了地。他又吃惊又感动，急忙迎上前去，久久握住张自忠的手。俩人相视，默然良久，数年积怨，顷刻冰释。
张自忠大度地说：“大哥你放心，我决心尽力帮你打赢这一仗!”
庞炳勋神情为之一振，随即风趣地说：“老弟呀，人家说你要在北平当汉j，我才不相信呢。我了解你的为人，所以我大为放心。”
张自忠开怀大笑：“今天倒是要他们看看，我张自忠是不是汉j?!”
当日召开联席作战会议，商讨作战计划。庞炳勋要求张自忠接替城防，但张自忠主张与其坐待敌攻，不如主动出击，以攻为守，并表示愿意承担主攻。他对庞炳勋说：“在敌攻势之下，贵军可以徐徐后撤，诱敌深入，把敌人的右侧翼暴露在中国军队的正面，这样有利于中国军队的攻击。”徐参谋长深以为是，并与张自忠商定14日拂晓发起攻击。统一认识后，由徐祖诒以第5战区司令长官的名义于13日下达了作战命令。主要内容为：
(1)59军以一部确占石家屯一带高地，向葛沟、白塔间分途侧击，牵制敌人之增援；主力由船流至大、小姜庄间渡河，向南旋回，与40军呼应，包围歼灭敌之主力于相公庄、东庄屯、亭子头以南地区。在高里附近之陆战队暂归指挥。
(2)40军以主力由沂河东岸与59军呼应，包围敌之主力歼灭之；在沂河西岸之一部，渡河侧击尤家庄附近之敌。
(3)两军作战地境(略)。
(4)以上各部着于13日晚准备完，14日拂晓开始攻击。
第59军以第38师附野炮第1营为左翼，于13日16时出发，先以1个营占领茶叶山，掩护师主力在石家屯、刘家湖、钓鱼台地区向东展开；第113旅、第112旅为第一攻击部队，进攻张家庄、白塔、沙岭一带敌人；第114旅为预备队，随师部位于刘家湖。第180师附山炮第1营为右翼，13日16时30分出发，至前安静庄、大小姜庄地区向东展开；以第26旅担任第一线攻击部队，进攻徐太平、亭子头一带的敌人；第39旅为预备队，随师部位于中安静附近。军部在进攻开始时位于朱潘村。
第40军的第39师以第115旅与第59军协同，向尤家庄之敌侧击，以第117旅向东、西旺一带之敌进攻。
14日凌晨3时许，59军强渡沂河，向日军第5师团发动猛烈进攻。一时间，枪炮大作，地动山摇。张自忠率军部推进至朱潘，就近指挥作战。当记者请他预测战役胜负时，他坦率地说：“这次攻击是成功，还是失败，现在没有把握。板垣的部队实力很强。不过我将尽全力去做，以求良心之所安。”
张自忠不计前嫌(2)
仓皇溃退、策马泅水而逃的日军骑兵。
左翼38师渡河后，一路冲杀，连克日军坚固阵地四五处。但板垣师团确实是日军精锐，他们迅速停止了对庞炳勋部的攻击，转而全力向38师反扑，双方展开混战，往来几个回合，38师伤亡400余人，被迫退回沂河西岸。张自忠震怒之下，当即将担任主攻的122旅旅长李金镇撤职，命新兵团团长李九思升任旅长，并令其准备再次渡河攻击。右翼180师渡河后，分两路向前攻击。日军出动增援部队与我展开激烈争夺，阵地失而复得者数次。经过奋战，180师以伤亡800余人的代价将敌击退。15日一早，该师乘胜向前推进，日军阵脚混乱，向东西水湖涯溃退。退回沂河之38师15日晨再次渡河攻击，正激战中，忽闻日军偷渡沂河向该师后方迂回。张自忠被迫将38师一部调回，打击偷渡之敌。
由于日军将主力用于对付59军，庞炳勋部正面日军兵力大减。庞炳勋抓住有利战机，率部猛袭日军侧背，有力地配合了59军的正面攻击。
16日拂晓前，日军增援兵力到达，转为反击，由沙岭从2个旅的结合部渡过沂河，向第38师后方“崖头、刘家湖、苗家庄、钓鱼台之线猛攻，并以飞机10余架轰炸”，与第38师预备队第11l旅激战于崖头、苗家庄地区，并攻占了船流、刘家湖。
张自忠根据当时的战况迅速采取措施，调整部署：令第38师以有力的1个团加强茶叶山的防守，作为军的主要支撑点；令军部骑兵营由石家屯东渡沂河，向葛沟、汤头间出击，袭扰敌之后方；令进至河东的部队全部撤回河西，阻击渡至河西的敌人。双方在刘家湖一带展开激烈的肉搏争夺战，刘家湖失而复得者四次，崖头失而复得三次。茶叶山一度被敌占领，旋即夺回。
16日夜10时，59军向敌发起空前猛烈的攻击，雷霆万钧，大地震颤。拼杀至17日凌晨4时，59军胜利攻克日军全部主阵地。
在茶叶山战斗中，228团的3位营长一死两伤。第2营营长冉德明在率部向高地突击时连中数弹，被随身护兵抬下火线。冉营长自知不救，对护兵嘱咐说：“我这伤是救不了啦，我有三个愿望：一是希望张军长能亲自看一看我的尸体；二是给我立一块小碑；三是不要将我的死信告诉老婆孩子，战事平定，希望能把他们送回河北完县老家。”
张自忠得到报告，立即赶来看望。此时，冉营长已停止了呼吸。冉德明是跟随张自忠多年的老兵，曾任张之卫队连连长，彼此亲如手足。张自忠抱起冉营长浑身是血的遗体，连声呼喊着冉德明的名字，泪流满面。按冉德明的遗愿，张自忠派人将他的遗体运往河南郑州，埋在西北军专门安葬死难官兵的“义地”里，为他立了高2米、宽1米的墓碑，碑铭由张自忠亲自题写。此后，张自忠还以冉德明的名义定期给他的家属邮寄生活费。
至17日上午，第59军已伤亡6000余人，第一线作战部队的营长伤亡三分之一，但该部队仍坚守阵地，顽强战斗。徐祖诒参谋长鉴于59军伤亡过重，建议张自忠撤出战斗，转往都城休整。但张自忠杀得性起，不肯撤退。他说：“中国军队伤亡很大，敌人伤亡也大。敌我双方都在苦撑，战争的胜利，决定于谁能坚持最后五分钟。既然同敌人干上了，我们就要用精神和血肉拼命干一场，不打败敌人誓不罢休!”众将领非常赞同军长的意见，纷纷求战。张自忠当即下达命令：除李文田副军长留军部主持工作外，其余各级部队主官一律到前线督战指挥；军总预备队114旅投入战斗；全军所有山炮、野炮和重迫击炮全部推进至第一线，带上所有炮弹，在黄昏前，将全部炮弹倾向敌阵；攻击重点为茶叶山、刘家湖、小苗家庄。
显然，张自忠决心倾尽全力，与板垣征四郎一决雌雄。他斩钉截铁地对几位旅长说：“这次攻击，只许胜，不许败，否则军法无情!”此时日军因伤亡甚众，亦已无力发动强攻。张自忠掌握战机，集中全力组织反击，于当日黄昏后，利用敌人得不到飞机支援而又不惯夜战的有利条件，向河西之敌发动进攻。激战竟夜，以肉搏战将渡至河西的日军击歼近半。在日军遗弃的尸体中发现有第11联队联队长长野佐一郎大佐、第3大队大队长牟田中佐及第9中队中队长等多名军官。又据在刘家湖所俘一等兵陆夫说，这次沂河两岸战斗，第5师团坂本支队伤亡约3000余人。日军大部退向莒县，一部退至汤头。张自忠令第38师的第114旅向汤头方向追击，停止于汤头以南李家五湖一线。其余部队除一部沿沂河西岸茶叶山一带警戒外，全部集结到刘家湖一带休整。沂河以东日军在其主力北撤后，亦向傅家池、草坡一带撤退。
就在中国军队准备向敌发起追击之时，不料日军于17日凌晨5时发起疯狂反扑，中国军队阵地多处告急。但官兵们咬牙与敌死拼。素来顽强的日军，在59军痛击之下，终于丧失了继续战斗的意志，狼狈撤回河东，然后掉头向北逃窜。临沂大捷至此告成。张克侠参谋长兴奋地在日记中写道：“昔日所向披靡不可一世的皇军之板垣师团，为我中华好男儿已打得威风扫地，‘铁军’碰到了打铁汉!”
17日上午11时，蒋介石致电李宗仁、张自忠、庞炳勋，嘉勉临沂之捷，电报说：临沂捷报频传，殊堪嘉慰。仍希督率所部，确切协同，包围敌人于战场附近而歼灭之。如敌脱逸须跟踪猛追，开作战以来歼敌之新纪录，借报国军之气势，有厚望焉。
张自忠不计前嫌(3)
随后，来自各方面的祝捷电报如雪片似飞来，但张自忠并未陶醉在胜利之中，当天他就下令发起追击作战。
各部遵命而动，迅速向北追击。18日，59军在第3军团协同下，将日军第5师团坂本支队包围于汤头一带。正要发起围歼之时，张自忠却突然接到战区命令：“59军留一旅归庞军团长指挥，拒止临沂以北之敌。其余即开赴费县待命。”张自忠只好放弃眼前有利战机，将112旅留归庞炳勋指挥，自己则率其余部队于21日下午冒雨向费县开进。
第一次临沂之战就此结束。
当张自忠、庞炳勋两军于第一次击破进犯临沂的板垣第5师团所部进而向莒县追击后，因津浦铁路正面之敌陷滕县南下，当时为彻底集中兵力击破铁路正面之敌，决定将张自忠军转移于滕县方面。当张军开始西移时，敌又由莒县方面侵入，庞军告急，张军不得不又由费县附近回师临沂，揭开了第二次临沂之战的序幕。在这同时，第5战区又令在海州方面的缪瀓流军（57军）派一个旅增援临沂，归张自忠指挥作战。敌自3月25日起向临沂猛攻，张、庞两军与敌激战至29日，适缪瀓流军增援到达临沂，就决定于30日拂晓出其不意实行反攻。反攻部队将敌截断为两部分，敌主力被迫向北溃退，其一部窜入临沂西侧的朱阵，闭寨困守。从而，取得了第二次临沂之战的胜利。
临沂之战，第59军及第40军以伤亡1万余人的代价造成日军第5师团伤亡约4000余人，挫败了日军攻占临沂的企图。有资料说：“日军以载重汽车运回莒县尸体约一百余车。敌在汤头、葛沟屡次焚化尸体，来不及运回者、就地掩埋者达七八百具。”这是该师侵人中国以来，继平型关受挫后遭到的第二次严重挫折。日军第5师团从3月3日发起临沂作战，苦战至月底，仍未能越雷池半步，这对于日本“铁军”来说，实在是太难堪了。板垣征四郎寝食难安，恼羞成怒，几欲自杀。
更重要的是通过临沂之战，第5战区砍断了津浦路北段日军的左臂，粉碎了日军会攻台儿庄的计划，促成了以后台儿庄会战中，围歼孤军深入台儿庄的矶谷师团的契机。
还值得一提的是，庞炳勋的杂牌军打败日军王牌军，一战成名，赢得各方高度赞赏。
特别是张自忠以其卓越表现，彻底洗刷了他抗战前期的屈辱。3月30日，军事委员会军令部致电李宗仁指出：“张军坚忍抗战，毙敌累累，希传谕慰勉。”同一天，国民政府以张自忠建树奇功，特颁令撤销对他的“撤职查办”处分。这样，张自忠就由59军代理军长而成为名副其实的军长。4月上旬，第1集团军番号撤销，集团军直辖部队分拨张自忠、冯治安、刘汝明、石友三各部。其中姚景川之骑兵第13旅划归59军。至此，原29军部队完全被拆散，宋哲元将军专任第1战区副司令长官。4月8日，姚旅及中央军李仙洲第92军第13师开抵临沂，归张自忠指挥。4月13日，张自忠升任第27军团军团长，辖第59军和第92军，这是后话。
矶谷廉介贪功冒进
台儿庄大捷后，第5战区司令长官李宗仁在台儿庄车站留影。
台儿庄为山东南部峄县境内的一个小镇。位于津浦线台枣（庄）支线和台淮（坊）公路交叉点上，西临大运河，是徐州的门户，也是滕县失守后，屏护徐州的最后一道防线，战略地位十分重要。为了确保徐州安全，战前，中国守军在此构筑了一定的防御工事，筑石墙两英里，内设碉堡70余座。
日本的第2军对于自己在华北战场，一直没有机会充分地发挥战功，加上它在进攻山东之后，中国军队不战而退，更使日本第2军显出相当焦躁与轻敌。加之后期在山东的部队，一再受到中国军队反击，又遭到不少损失，自然怒不可遏地要进行报复。第2军旗下的第5与第10师团，要求华北方面军允许他们向南进攻。华北方面军同意第2军进攻扫荡的建议，也认为日军不能画地自限，因此，向大本营争取到给予第5与第10师团攻击鲁南的许可。不过大本营仍然划出日军南下的禁止线——不得超过临城到临沂的前线。
日军第10师团长矶谷廉介中将，根本就不把中国军队放在眼里，他所率领的第10师团，是一支重装备的机械化部队，又拥有空军协同作战的能力，他在攻占滕县之后，又攻克临城，这是日军大本营给华北方面军的南下禁止线。但是矶谷判断李宗仁手边的部队不足，可以调动的部队，已经先在右翼与板垣的第5师团缠上了，所以他决心大胆深入，越过临城与枣庄前线，准备直捣徐州，一举攻占中国军队第5战区司令部，好为自己建立一个显赫无敌的战功，所以他率部全速南下，根本不接受大本营设给日军在鲁南作战的禁止线。
3月17日，日军第10师团在攻占滕县后，不顾其左翼第5师团被阻，也不待蚌埠方面援军北进呼应，却孤注一掷地向台儿庄扑来，以期一举而下徐州，夺取打通津浦线的首功。
“将军，孤军深入，乃兵家之大忌呀！”参谋长提醒矶谷廉介。
“支那军队，不堪一击!”矶谷不屑一顾地说。“王铭章怎么样?够硬的了吧?可最后还不是被我砍得光光，落了个全师覆灭?!”
此时的矶谷廉介变得骄狂无比，除了台儿庄，眼前已没有中国军队的阻力了，迫不及待、不顾一切地要把屠刀砍向台儿庄。尤其是得知他的兄弟部队板垣师团在临沂战败而不能南下台儿庄会师时，他更是冲动异常，当即决定：挥师南下，迅速攻占台儿庄！他不仅要独占台儿庄、徐州，而且企图一直打过淮河，夺取独占贯通中国南北战场的赫赫战功!
20日，日军第10师团的右追击部队攻占韩庄，隔运河与中国守备部队对峙，左追击队攻占峄县。这时候，鲁南战局的重心移到左翼的津浦铁路。日军面临继续从津浦线南下，直扑徐州，还是向东南展开，夺取台儿庄，突破运河防线，再西取徐州的抉择。日军指挥机关决定放弃前者而选择后者，这是因为：
第一，津浦路正面韩庄以南，山地重重，不利于进攻作战，且仅沿铁路一线，长驱直下，其点、线易受侧面中国军队的攻击，而津浦路东面的枣庄、峄县至台儿庄一带，地势平坦，利于机械化部队展开。占据了这一地带，可以对津浦路南下的日军起侧翼掩护作用，同时也为进攻徐州做好了准备。
第二，此时沿台潍(坊)公路南下，欲与第10师团对徐州取分进合击态势的日军第5师团坂本支队在临沂受阻，无法按期南下。
日军第2军司令部向第10师团转达了以上情况，并令第10师团濑谷支队分出一部分兵力向临沂方面增援。据此，日军第10师团长矶谷廉介命令濑谷支队长：“必须确保韩庄，台儿庄运河一线，并警备临城、峄县，同时应以尽可能多的兵力向沂州(即临沂)方向突进，协助第5师团战斗。”