抗日战争胜利前夕，为适应大反攻的需要，八路军山东军区奉中共中央军委命令组建野战军。其中，第六、第十三团与滨海军区独立第三团被合编为山东解放军第一师。
1945年8月，山东解放军第一师展开对日伪的反攻作战后，迅速沿胶济铁路前进，沿途摧毁日伪的抵抗，于9月2日进逼诸城，将县城包围起来。此时，日本已宣布无条件投降，驻诸城日军撤往高密。诸城县城内只剩下伪军张步云部。
山东解放军第一师多次劝说张步云开城投降、戴罪立功，但张竟置国家民族大义于不顾，继续公然与人民为敌，并扬言“就是杀老百姓吃，也要死守诸城”。山东解放军第一师立即决定攻克诸城，消灭这股伪军。
9月4日，第一师各团按作战计划进入阵地。晚10点，攻城部队在炮火掩护下向诸城外围敌人发起进攻，一团炸毁东关外碉堡，攻入东关，与敌展开巷战，20分钟后完全占领东关，直逼城下；攻打西关的部队在成功爆破围墙后立即冒雨发起冲锋，将守敌消灭。张步云见状，一面命令属下“继续死守”，一面以“去国民党军李延年部处搬救兵”为借口，化装逃走。
9月6日晨，第一师攻城部队向城内伪军发动攻势。炮兵用密集火力摧毁了城东南炮楼，并击中了张步云的指挥部。7时左右，城内敌人组织了500多人的“敢死队”，出西门进行反扑，攻城部队与敌人展开激战，1小时后，将敌人“敢死队”全部消灭。随后第一师一面继续进行攻城的准备，一面在城外部署部队，准备随时打击突围之敌。
下午6时，攻城部队冒雨发起总攻。爆破组在围城部队的火力掩护下，迅速将炸药运抵西北门外。随着一声巨响，爆破组炸开了西北门，攻城部队迅速冲入，和敌人展开巷战。不久，东北门、南门也被攻克，至夜8时15分，第一师部队攻占全城各个要点，伪军一部被歼，一部缴械投降。伪军残部1000余人企图从东南门向城外突围，遭到城外伏击部队的迎头痛击，很快被歼灭。
此战，山东解放军第一师毙伤伪军300余人，俘2100余人。缴获了守敌的所有武器弹药以及兵工厂、火药厂。9月8日，攻城部队举行入城式。