罗荣桓同志在山东工作近7年，任八路军第一一五师政治委员兼政治部主任、山东军政委员会书记、山东军区司令员兼政治委员、中共中央山东分局书记等职。1943年3月后，山东抗日根据地实行党的一元化领导，罗荣桓肩负起了统一领导山东抗战的重任。

在艰苦卓绝的敌后抗日斗争中，他坚决贯彻执行党中央和毛泽东制定的战略方针，紧紧依靠人民群众，积极发展抗日武装，创建、巩固和扩大抗日民主根据地，使之成为我党我军在华北的一个重要战略基地。这不仅大大加强了中国共产党在抗战胜利后的地位，而且为后来全国解放战争的胜利创造了十分有利的条件。

1938年3月中旬，他与代师长陈光先后指挥午城井沟和薛公岭等战斗，保卫了黄河河防。同年秋参加了在延安举行的扩大的中共六届六中全会。在会议发言时，罗荣桓着重谈了坚持抗日游击战争的战略方针和在新形势下加强党的领导和政治工作两个问题。

根据六届六中全会关于派部队去山东敌后建立抗日根据地的决定，1939年3月初，罗荣桓与陈光率第一一五师师部和第六八六团等部进入山东。首战樊坝，全歼伪军一个团，打开了鲁西地区的抗日局面。8月，与陈光指挥梁山战斗，歼灭日伪军300余人，极大地振奋了山东军民，进一步扩大了共产党和八路军的政治影响，也坚定了第一一五师坚持平原游击战争的胜利信心。

日军侵占山东后，中国共产党在山东各地发动抗日武装起义，成立了八路军山东纵队，初步开创了大大小小许多块根据地。与此同时，山东各地国民党势力、地主豪绅、土匪兵痞也乘机拉队伍、抢地盘，出现了司令多如牛毛的局面。

面对错综复杂的环境，罗荣桓充分显示出他善于周密思考、冷静判断、全面分析的领导才能，指挥所属各部队，和八路军山东纵队并肩与日伪军作战，执行中共中央关于在统一战线中坚持独立自主的原则，团结抗日的友军和爱国进步人士，孤立和打击制造磨擦的国民党顽固派，分别在鲁西、鲁南、冀鲁边、鲁中、滨海地区发动群众，建立抗日民主政权，发展人民武装，创建、巩固、扩大了山东抗日根据地。

1940年九十月间，在鲁南天宝山区的桃峪村召开的第一一五师高干会议上，罗荣桓用"插、争、挤、打、统、反"六个字，生动地概括了对日顽斗争的方针。