张自忠刚刚进驻鄂北，日军便频频前来进犯。从1938年11月到1939年4月初，短短4个月里，张自忠指挥所部接连进行了4次中小规模的战役，歼敌不下4000人。其中2月的京山之役战绩尤佳。蒋介石特致电张自忠说：“贵部坚强抗战，屡挫凶锋，使战线稳定，功甚伟。特赏洋2万元，代备死伤官兵抚慰等临时补充之用。”国民政府主席林森签发命令，授予张自忠宝鼎勋章一枚。1939年5月2日，国民政府又颁布命令，为张自忠加授上将军衔。
1939年5月，中日两军在鄂北地区展开了第一次大交锋——随枣会战。日军华中派遣军调集4个师团、2个旅团及坦克、炮兵、工兵等特种部队约12万人，向襄河东岸随县、枣阳地区进攻，企图将第五战区主力包围歼灭于枣阳东北地区。张自忠刚刚在临沂战役中与老熟人坂垣征四郎进行了较量，这次又要与平津时期结识的另一个老熟人冈村宁茨比试身手，这是一个比坂垣更为强劲的对手。此时冈村的职务是侵华日军最精锐的第11军司令官，也是这次战役的最高指挥官，他的战术是“分进合击，锥形突贯，两翼包围”。
这时，张自忠的右翼兵团只辖第29、33两个非嫡系集团军，因战斗消耗和编制压缩，总兵力不足4万人。而右翼兵团当面之敌达3.5万人，若以武器装备因素，则日军整体力量居明显优势。
5月1日拂晓，日军在强大火力支援下，向襄河以东张自忠右翼兵团180师和37师发起猛烈进攻。随枣会战开始了。
守军凭借工事顽强抗击，以血肉之躯支撑着并不坚固的防线，连续打退敌人三次进攻。战至6日，日军发起第四次进攻，阵地终于被突破，狮子山、杨家岗、长寿店、普门冲、黄起庵相继失守。180师师长刘振三被日军隔阻于马家集以西，与师主力失去联络。37师师长吉星文也脱离部队，不知去向。这样一来，33集团军在河东的两个师，均被敌人冲乱。日军乘胜推进，8日攻占枣阳，战局极为不利。张自忠决心东渡襄河，亲赴第一线督战，全力扭转危局。
8日拂晓，大雨瓢泼，天色漆黑。张自忠率幕僚及总部人员冒雨渡河，向东疾进。
渡河之前，当张自忠由总部所在地快活铺行至襄河岸边转斗湾时，意外地碰见了吉星文。张自忠当然明白是怎么回事，厉声责问：“你来这里做什么？”吉答：“我来向总司令报告。”张一听，怒不可遏：“哼，向我报告？你怎么知道我来这里？部队在河东作战，你到西岸干啥？还是卢沟桥抗战的英雄呢，你是狗熊！你赶紧给我过河去，再退我就杀你的头！”
吉星文不敢懈怠，立刻调头返回河东。
张自忠渡过襄河后，将59军所有3个师全部投入战斗，并严令河东所有部队和河防部队全力发起反击，阻止日军北进，截断其后方联络。38师是张自忠手中最得力的部队，该师的参战使战局明显好转。5月10日，该师在田家集以西之大家畈伏击日军辎重联队，一举歼灭其1000余人，并缴获军马数十匹、运输艇30余艘、军用地图、弹药给养和药品一大批。据敌俘虏供称：该辎重联队所输送之物资，系供给主力部队渡河侵犯襄阳、樊城之用的。所携之60艘运输艇一次可输送一个大队的兵力。由于该辎重联队的覆灭，日军渡河攻击襄樊之计划落空了。
右翼兵团其他部队也在张自忠的严厉督饬下，积极向日军侧后发动袭击，几乎完全截断了日军的后方补给线。日军被迫停止北进，以主力部队回师维护补给线，第5战区战局明显缓解。此时战区左翼兵团主力汤恩伯之31集团军，若能及时从桐柏山区向南出击，与张自忠之右翼兵团合力夹击日军，必将造成一次绝好的歼敌机会。无奈，汤氏一味保存实力，使战机失之交臂。对此，李宗仁与张自忠都不胜惋惜。
随枣会战中国军队共歼敌1万余人。其中张自忠右翼兵团歼敌4500余人，缴获军马74匹及大批军用物资；自身伤亡4414人，失踪者2702人，其中又以59军付出代价最大，伤亡达2153人，失踪者2381人。
战后，李宗仁致电张自忠，对右翼兵团的奋勇作战予以高度评价。蒋介石指示李宗仁拨发张自忠部奖赏及补充经费现洋5万元。
经过连续多次的较量，日军也充分领教了张自忠的厉害。于是，张自忠作为一个不好对付的敌手而开始受到日军的尊敬，被他们冠以“现代关公”和“活关公”的称号。
随枣会战后，日军一连几个月没有大的动作，正面战场归于平静。国民党军事当局趁机对全军进行了一次全面整训。
国民政府军事委员会1939年10月，召开第二次南岳会议，决定于同年12月发起“冬季攻势”。冬季攻势的主要目标是击溃侵华日军主力第11军，夺回武汉三镇。为此，以第5、第9两战区为主要攻势地区，2、3战区次之，其他战区策应。
5战区共辖45个师，总兵力约30万人，李宗仁将30个师用于攻击。其中张自忠指挥第29、33集团军和预备兵团第84军，共13个师约9万人，受命攻击京钟公路之敌——战斗力很强的日军甲种师团第13师团，尔后进击汉口。这是第5战区攻势行动的主体，也是全国冬季攻势的重点之一。蒋介石对该方面的作战极为重视，特派军委会魏高参前来担任监军，每日向他报告战况。
12月12日，随着张自忠一声令下，右翼兵团数万大军一齐向当面之敌发起猛烈攻势，枪炮在呼号的寒风中轰鸣，声震山河。
但张自忠未曾料到，日军早在11月底已经破译了蒋介石关于冬季攻势的密码电报，因而日军各部队已预先构筑了甚为坚固的防御工事，而我军恰恰缺乏重炮等攻坚火器，攻势从一开始就进展不利。
经过8昼夜血战，38师终于攻克罗家陡坡北面的曾家大包。随后，又在王家台子一带杀伤日军1500多人。
此后，敌我双方在钟祥、长寿店一线对峙，29集团军也因攻击无进展而与敌相持。
为打破僵局，20日张自忠率领特务营，又一次东渡襄河，进至丰乐河附近的果园村督战。在张自忠督励下，官兵们不顾一切地向敌人猛扑，攻克一个又一个山头。日军被这突如其来的猛烈攻势打乱了阵脚，22日开始向南退却。我军乘胜推进，战局出现有利转机。
但这时由郭仟指挥之江北兵团方面却出现不利形势。日军第13师团集中兵力向汉宜公路反攻，江北兵团伤亡惨重，于22日撤回襄河西岸。这样一来，右翼兵团陷入孤军苦战，日军得以将兵力集中，攻击我右翼兵团，刚刚好转的战局又变得严峻起来。一旦顶不住日军之反扑，那么不仅5战区之冬季攻势会随之破产，而且襄河河防也将出现险情。
我军各路出击部队纷纷告急，要求后撤。设在果园的总指挥部里电话铃声接连不断。74师师长李汉章打来电话说：“现在伤亡太大了，有的地方没有人了，阵地空隙太多、太大，前方非常紊乱，可否稍向后移动，以便整顿战线？”苏联顾问见各方面战况都不妙，也建议后撤。
但张自忠不为所动，他拿起电话，严厉地对李师长说：“来电总说牺牲惨重，营长以上的官长阵亡了几个？今天退，明天退，退到西藏敌人也会跟踪而追。现在是军人报国的时机，我们要对得起国家，对得起民族，对得起已死的弟兄。希望你苦撑几天，以待援军，免得你我成为国家的罪人！现在只准前进，不准后退！阵地就是我们的坟地，后退者死！”
官兵们咬牙坚持，在长寿店南北之线与敌鏖战。张自忠适时将总预备队第84军投入战斗，基本稳定了战线。
12月27日，日军再次向右翼兵团发动凶猛反扑，双方展开拉锯战，伤亡均十分严重。果园总指挥部连遭日军炮火袭击，屋顶塌陷，泥石下泻，但张自忠安坐其间，指挥作战，直到援军到来，战况好转，方移至张家集。
应援右翼兵团的周岩第75军和李及兰第55师于1940年1月初到达前线。2月14日，张自忠下令反攻，日军抵挡不住，向东南溃退，我军跟踪追杀，斩获甚众。
这次全国性冬季攻势，是抗日战争期间正面战场国民党军发动的唯一一次战略性进攻战役。据统计，冬季攻势共歼敌9.2万余人。其中第5战区歼敌3万余人，俘敌36名，是战绩最大的战区；而第5战区又以张自忠之右翼兵团战绩居首，歼敌1万余人。
冈村宁茨承认：“受到敌军顽强、反复进攻的是第3师团的信阳、应山方面，第13师团的襄河河畔及第6师团的崇阳和通城方面。”其所说的第13师团，正是张自忠右翼兵团的打击目标。
在后来召开的一次军事会议上，蒋介石说：冬季攻势以张自忠主持之襄东战场收获最为可贵，实为各战场之模范。
