罗荣桓带着作战科和侦察科的几位干部，随前卫连先头出发了。一开始，他没有上马，很安详地走着，不时同队伍中的同志打着招呼。他不像是带着几千人去突围，仿佛是去参加一次会议甚至像是去散步。大家看着他那从容不迫的神态，紧张的心情顿时平静下来。
队伍出发了，侦察科副科长周云带着侦察员走在最前面，他不时派人回来向罗荣桓报告前面的敌情。敌人的封锁线到了，两股敌人之间的距离只有一公里半。罗荣桓吩咐往后面传令：成三路纵队快速前进。队伍在敌人的缝隙中宛如一条游龙，腾挪闪避，迂回穿插，一共越过三条公路，几次听到敌军的车马喧闹，又悄悄避开了。
到高里，已是敌人后方，果然是守备空虚。部队折而向西，在埠山庄宿营。此地紧靠临(沂)蒙(阴)公路，离临沂城只有25公里。
这时，天已经亮了。在村边不用望远镜就可以看到，敌人的后续部队、辎重队正源源北上。就在敌人鼻子底下，罗荣桓命令派出警戒，就地宿营。当大家和衣躺在草铺上时，远方传来了隆隆炮声，敌人对留田的进攻又开始了。对于劳累了一天的指战员来说，这炮声无疑是绝妙的催眠曲。
这次突围，八路军未费一枪一弹，未损一兵一卒，便安全跳出敌人5万大军的包围圈。
持续50多天的沂蒙反“扫荡”在年底结束，八路军取得重大胜利，根据地也蒙受了重大损失。据统计，人民群众3000余人被害，1万余人被抓，房屋被毁坏达1/4，八路军常驻村庄几乎都成赤地。造成这种局面的客观的原因是敌强我弱，主观原因则是工作中存在一些失误。
罗荣桓和陈光总结了沂蒙反“扫荡”的经验教训，指出：这次反“扫荡”反映了领导上对敌后斗争的长期性、严酷性认识不足，表现为群众工作薄弱而机关庞大，周转不灵以及不切实、不深入、铺张、形式主义的作风盛行。罗荣桓等建议，请中央派刘少奇来山东总结山东工作，展开批评与自我批评，明确山东今后方针，加强团结，以利于今后的斗争。
1942年4月，刘少奇一行由苏北到达山东分局和一一五师师部驻地山东省临沐县朱樊村。经过仔细研究，刘少奇在山东分局委员扩大会议上作了报告，他在肯定并列举了抗战以来山东工作的主要成绩的同时，批评了认为八路军已占优势的过于乐观的错误观点，组织抗敌自卫军的错误作法和群众观念薄弱，未充分发动群众的错误以及党内存在的主观主义、形式主义的作风。
随后，与会者结合刘少奇的报告开展了批评与自我批评，对山东抗战以来4年的工作做了总结，刘少奇此行对推动山东工作的转变起了关键性作用。
1942年以后，罗荣桓认真总结了山东抗战中进行游击战的经验，在山东分局党刊《斗争生活》和一一五师《战士》月刊上发表了一系列军事论文，阐述了游击战争战略战术的许多具体问题，丰富和发展了游击战争的战略战术。
在日军对敌后根据地频繁进行“蚕食”、“扫荡”和“合围”的情况下，罗荣桓于1942年提出：“在敌人后方，我们还是游击战，不可能过早地转为正规战。”而这种游击战“必须成为分散性、地方性、群众性的”。
分散性游击战的战场是敌占区和根据地之间的边沿游击区。罗荣桓对此十分重视，并撰写了《坚持我们的边沿游击区》专门阐述这一问题。他指出，不坚持边沿游击区，就不会有巩固的抗日根据地，必须把坚持边沿游击区提到战略高度来认识。他认为，边沿游击区的斗争方针应是深入隐蔽，扎根于群众之中，要用妇救会、儿童团乃至看坡队、打更队、戒烟会、戒赌会、忠义保国团等政治色彩不浓的组织形式将群众组织起来同敌人进行各种形式的斗争。罗荣桓认为，坚持边沿游击区及在敌占区执行任务的有效组织形式是武装工作队，它立足于边沿游击区，同时也能逐步深入到敌区，开展军事、政治、经济和文化斗争。
他认为，分散性游击战争不仅是军事斗争，而且是政治斗争，在最困难的1942年，还应当“以政治攻势为主”，所谓政治攻势就是人民军队瓦解敌军原则在敌后游击战争环境下的具体运用。罗荣桓在《分散性游击战争与对敌政治攻势问题》中指出：“我们的斗争一方是公开(在根据地、在部队中)、一方是隐蔽(在敌占区、在群众中)，一方是流血、一方是和平，一方是打、一方是拉，要善于在各方面都采取不同的斗争方式。”按照罗荣桓的指示，山东各地对日伪开展了强大的政治攻势，仅1943年山东即瓦解伪军7000余名。
如同“围剿”和反“围剿”的长期反复是十年内战的特点一样，“扫荡”和反“扫荡”、蚕食和反蚕食的长期反复，是敌后游击战的特点，但是反“扫荡”又具有和反“围剿”不同的特点。他认为，由于敌后根据地的地域狭小，缺乏回旋余地，如果仍然照搬内战时期打运动战的办法，很难突破敌人的包围。因此，罗荣桓提出，必须实行“敌打到我这里来，我打到敌那里去”的翻边战术。即把主力部队，不是设置在根据地的内部，而是部署在靠近一路敌人的根据地的边沿区。当敌人“扫荡”时，不是“敌进我退”、“诱敌深入”，而是“敌进我进”，即在弄清敌人的动向后，趁敌人之包围圈尚未紧缩时，选择敌之弱点，由根据地经边沿游击区，“翻”到敌人后方去，打乱敌人部署，粉碎敌之“扫荡”。他认为，由于敌人是异民族侵略者，在敌占区也十分孤立，加之其兵力稀少，后方空虚，因此八路军在敌占区仍可得到群众支持而取得行动的自由权。
1942年底，当日伪军对山东抗日根据地发动又一次大规模“扫荡”时，罗荣桓运用“翻边战术”，先后发起海陵和郯城战役，夺回大片被敌蚕食的国土，攻克郯城。山东各抗日根据地普遍采用“翻边战术”后，都先后扭转根据地区退缩的局面，由被动转向主动。
抗战后期，罗荣桓主持山东军区工作，精兵简政，配好各级领导班子，搞活山东全局。整风运动中，坚持实事求是，领导山东抗日斗争。
1942年底，因过分劳累，罗荣桓尿血不止。12月，此时中共中央决定，由罗荣桓担任山东军区司令员兼政治委员、第一一五师政委兼代师长，秋天又任命罗荣桓为中共山东分局书记，在山东抗日根据地实现了一元化领导。罗荣桓抱病接受了中央赋予他的重任。山东军区和一一五师合并后，首要任务是精兵简政，配备好各级领导班子。
由于他十分注意处理与来自五湖四海的同志之间的关系，山东军区和第一一五师师部合并后，两个单位的干部之间亲密无间，很快形成为一个团结战斗的整体。
在精兵简政中，部队旅缩编为团，部分团、营也缩编为营、连。对多余出来的干部，罗荣桓着眼于战后，除老弱病残交地方妥善处理安置外，对骨干均予保留，没有位置则降级使用，作为今后部队大发展的后备力量。
1943年4月，罗荣桓的病仍不见好转。经军委批准，于5月底到达淮南区盱眙县黄花塘新四军军部，请奥地利籍泌尿科专家罗生特诊治。罗生特查明，罗荣桓得的是肾病，但究竟是肾肿瘤还是多囊肾，因无X光机，仍无法确诊，只能暂作保守治疗。为了能让他安静地休养，新1943年，罗荣桓(右一)等山东军区领导人与到山东视察的刘少奇(前排左三)合影。四军领导特地把他安排在一个环境清幽的去处，但由于他一心牵挂着山东战局，无心静休，6月20日便踏上归程。
当时，山东战局中的焦点是李仙洲入鲁反共。
1943年初，蒋介石命令李仙洲率领其嫡系部队二十八集团军从皖北进入山东，接替东北军于学忠部的防务，此事引起了在山东的敌、顽、我、友各个方面的强烈反应。日军当时正全力扶植汪精卫，对李部照打不误。于学忠让出并非志愿，是蒋介石对他排挤的结果。李部入鲁扩大了蒋于、李于之间的矛盾。山东国民党的各派有的投奔李仙洲，有的仍倾向于学忠。
罗荣桓审时度势，根据党的统一战线政策，提出欢迎李部入鲁抗战的口号。然而李部入鲁后，却勾结惯匪刘黑七，提出“先打八路，后打鬼子”的口号，占领八路军的根据地。根据这一情况，7月4日罗荣桓致电中央提出：对于部出鲁，给予便利；与此同时，对李部则在自卫的原则下，歼其一部，阻滞他们东进和北上，不让他们接近于部。在于部撤走后，迅速占领他们空出的阵地。经中央批准后，阻李入鲁反共的战斗同时在鲁西南和鲁南打响了。李部竭尽全力也无法接近于学忠的防地，而于部则顺利通过八路军指定的路线撤走，八路军迅速占领了他们空出的阵地，山东的屋脊——沂蒙山区和诸莒山区，新开辟解放区9000平方里。李部在遭受惨重损失后看到北进无望，也撤回皖北。从此，山东已无国民党的主力部队，罗荣桓将这一斗争称为“山东军民的杰作。”
罗荣桓认为，八路军占领沂蒙山区和诸莒山区后，必将引起敌伪的注意。于是向山东的滨海、鲁南、鲁中、清河和胶东五个军区部署了反“扫荡”。从11月起，日军开始进行大扫荡，“扫荡”首先从鲁中开始。罗荣桓看到敌人兵力不足，在“扫荡”鲁中的同时，其他地区兵力空虚，乃命令各军区依据自己情况，主动向敌发动进攻，以牵制“扫荡”鲁中之敌。鲁中军区在反“扫荡”时击毙了曾流窜华北、杀人不眨眼、反复无常、多次投降日军的惯匪刘黑七，为山东人民除去一大害，取得很大胜利。日军见“扫荡”鲁中无效，又突然转向清河地区。罗荣桓电告清河军区黄昏后转到外线打击敌人，同时又命令滨海军区乘机攻打赣榆，迫使伪军李亚藩部1600余人投降。鲁中军区也转入反攻，歼灭伪军吴化文800余人，攻克20余处据点，其他军区也纷纷向敌人进攻。敌人捉襟见肘，被迫于12月中旬撤出清河根据地，“扫荡”失败。这一年，山东八路军共解放国土1.9万平方公里。
1944年6月15日，罗荣桓发表《紧紧掌握对敌斗争、巩固成绩，反对自满》，提出了“为反攻和战后作准备”的任务，也就是为了防止国民党在战后对人民的进攻而准备好山东这一块由共产党单独领导的完整的战略基地，准备好强大的自卫武装力量。
为达此目的，罗荣桓提出的山东总的战略部署是：完全控制沂鲁山区、扩大诸莒山区，使胶济路南的三个战略区连成一片，向胶济路东段两侧地区发展，以打通和加强胶济南路各战略区的联系；在胶济路北，彻底改变渤海区被封锁分割的局面，变游击区为根据地；肃清胶东腹心地区的敌伪势力，创造更有利的局面。
罗荣桓提出：“在实现这一战略部署时，应实行分散性群众性的游击战争和主要方向的集中兵力作战相结合，军事攻势和政治攻势相结合。因为敌强我弱基本形势未变，仍应坚持分散性游击战，但因为回旋余地扩大，可以进行发挥自己长处，避免自己弱点的带游击性的运动战。
按照这些原则，罗荣桓指挥山东军区部队进行了1944年春、夏、秋、冬和1945年春、夏的一连串攻势，消灭包括草野清大队在内的日军4000余人。伪军吴化文、历文礼、张步云、赵保原、张里元等部或被歼或被重创。争取了大股伪军王道、莫正民、张希贤、韩寿臣等部起义，先后编成4个独立旅。这一行动沉重打击了国民党顽固派企图利用伪军在战后反共的阴谋。
1945年7月7日，罗荣桓发表了《处在总反攻前夜的山东解放区》，指出：山东五块大解放区已联成一片，“包括有1700万人口，20万八路军的正规军、游击队，50万民兵与几百万普通的人民自卫武装，已统一成为一支坚持抗战与建设新民主主义的雄厚势力。”
1943年山东实现党的一元化领导后，罗荣桓以很大力量领导了整风运动。要求从精读整风文件入手，认真领会精神实质，着重从文件中去寻找立场、观点和方法，注意联系实际，以提高对于主观主义、宗派主义、党八股的鉴别能力。从1943年冬天开始，整风转入总结党的历史经验的阶段。1944年7月1日，罗荣桓根据在实际革命斗争中的感受和学习党的历史的体会，结合山东整风学习的经验教训，作了题为《学习毛泽东同志的思想》的报告，这是中共党内高级干部专门论述毛泽东思想的较早的文献之一。
整风同时，中央要求审查肃清内奸分子，进行民主检查，但此运动实行过程中走向了极端，但由于罗荣桓坚持实事求是原则，坚持从实际出发，在民主检查中出现的极端民主化倾向很快便得到纠正。对于在运动中发表了严重错误言论的干部，他仍然“强调一切从思想上解决问题，不是从组织上解决问题”，从而避免了反奸斗争的扩大化，保证了山东党的整风运动健康地向前发展。为了有组织、有计划地领导干部的整风学习并结合整风进行审干，决定分期调集各级领导干部到山东分局和各区党委的党校，进行为期数月的整风，在学习时结合个人实际，写出反省自传，收到很好的效果。山东的干部整风运动为反攻和战后斗争做好了思想和组织上的准备。
1944年12月，毛泽东致电罗荣桓等指出：“你们路线是正确的。你们已有丰富经验，估计1945年，山东全党工作会有极大进步。”毛泽东对罗荣桓的工作十分满意。后来，他曾对身边工作人员说：“山东换了一个罗荣桓，全局都活了。”
抗战胜利后，罗荣桓以精简整编保留下的骨干为酵母，以广大有了觉悟的农民为战士，把部队迅速扩大到8个师，12个警备旅，1个滨海支队，1个海军支队加上地方部队，总兵力达28万人，罗荣桓将这28万军队组成五路大军，席卷解放区内敌占中小城市，向各交通要道及大城市挺进。经过一个多月的大反攻，山东全境大部解放，济南、青岛、徐州、连云港等国民党占领的重要城市已像孤岛一样处于解放区的汪洋大海的包围之中。山东5个解放区已完全连成一片，并与华中解放区和冀豫解放区扩大了直接联系。
山东解放区反攻的胜利，直接增强了中国共产党在国共谈判中的地位。1945年9月15日，周恩来在重庆同国民党代表谈判时指出：“山东解放区迄今收复80余县，均已实行民选县长，治理民政，只等中央承认加委……”由于山东绝大部分地区已经解放，9月19日，周恩来又提出山东应作为由中共方面任命省长的4省之一这4省是山东、河北、热河、察哈尔。。
山东，战略地位十分重要。抗日战争中，中共山东分局和罗荣桓领导山东军民开辟了这样一大片解放区，已经成为华北的一个重要战略基地。在抗日战争胜利新的形势下，向北，它是进军东北的出发阵地，向南，又是支持华中的可靠后方。这一块战略基地大大加强了中国共产党在战后的地位，无论是为战还是为和，都创造了十分有利的条件。
