日本宣布投降后，棗莊地區的日軍分別駐在棗莊、臨城、滕縣、陶莊小窯以及津浦鐵路沿線官橋、沙溝、韓莊車站據點上，因鐵路被抗日軍民扒掉，其據點成為一個個孤立點。這些日軍雖然知道大勢已去，卻既不向國民黨軍隊投降，也拒絕向八路軍繳械。由于蔣介石命令日軍不要向共產黨八路軍和新四軍投降，抗戰后的政治、軍事形勢日趨復雜。鑒于這種情況，魯南軍區根據朱德總司令的命令，按照中共中央山東分局、山東軍區的指示，爭取先機，趁國民黨軍隊還沒有到達棗莊之際，開展強大的政治攻勢和軍事攻勢，強令日軍無條件繳械投降，拒絕投降者就堅決消滅。

1945年11月中旬，盤踞在臨城的兩個大隊1000余名日軍拒絕向國民黨第十九集團軍陳大慶部繳械，準備南逃徐州。臨城的日軍及其家屬乘一輛鐵甲列車于夜間開出，轉移到沙溝附近時，看到前面的鐵路已被魯南鐵道大隊破壞，又試圖退回臨城。這時鐵道大隊把事先埋在鐵軌底下的炸藥拉響，日軍的退路被截斷。日軍鐵甲車在欲進不能、欲退無路的情況下，只好停滯于此。鐵道大隊馬上將鐵甲車包圍起來，大隊長劉金山寫了一封命令日軍向鐵道大隊繳械投降的信，叫通訊員送給鐵甲車上的日軍。日軍頭目回信說，交槍可以，但必須交給大太君，不能交給鐵道大隊。這時他們已在鐵甲車周圍挖了工事，作好了抵抗準備。鐵道大隊將這一情況向魯南軍區匯報后，司令員張光中命令劉金山、鄭惕分別到沙溝和姬莊，向日軍鐵甲車大隊和日鐵聯隊發出警告：日軍除了繳械投降，沒有其他出路。劉金山向鐵甲車大隊長太田義正詞嚴地申明了八路軍立場后，日軍答應請示上級后再答復。下午，日軍派人送信說，可以按鐵道大隊提出的條件繳械投降。

1945年12月初的一天下午，太田帶著全體日本官兵及家屬，在距沙溝車站不遠的一片開闊地里集合，以分隊為單位向鐵道大隊交出了帶來的武器彈藥。這次日軍交出的武器彈藥，鐵道大隊用了20來輛牛車才運到魯南軍區。第二天，鐵道大隊在檢查中發現仍有不少武器被他們拆成零件裝進箱子藏了起來。經過嚴正交涉，又收繳了500多支步槍、手槍及大宗彈藥。日軍繳械投降后，拿著鐵道大隊開的路條，惶惶如喪家之犬，向徐州逃去。

?