1928年4月蔣介石發(fā)起第二次北伐，北伐軍迅速擊潰山東境內(nèi)的奉系軍隊，逼近濟南。張宗昌為保住地盤還曾向日軍求援，可日軍只是借機進駐濟南卻并不真心幫他 。隨著北伐軍步步緊逼，戰(zhàn)局愈發(fā)不利，張宗昌在1928年4月30日深夜帶著親信逃離濟南，撤離前還炸毀了黃河鐵橋，5月1日北伐軍便順利進駐濟南 。

一戰(zhàn)期間日本就奪取了德國在山東的權(quán)益，還獲得了在濟南、青島的駐軍權(quán)與膠濟鐵路相關(guān)特權(quán)。這讓日軍能輕松從青島、天津等地調(diào)兵，沿膠濟鐵路快速運兵至濟南，日本以“保護僑民”為借口，派第六師團等部隊進駐濟南，實則想阻撓北伐推進以保住其在山東的特權(quán)，當(dāng)時田中義一內(nèi)閣對中國推行強硬的侵略政策，早已做好尋釁準備。

5月1日北伐軍進駐濟南后，日軍提前在城區(qū)構(gòu)筑工事、蓄意挑釁。蔣介石為順利北伐下令部隊避免與日軍沖突，這種妥協(xié)態(tài)度讓日軍毫無顧忌地完成了向濟南的增兵與部署。5月3日，日軍借士兵沖突、阻撓貼標(biāo)語等小事開槍，隨即展開無差別屠殺；還闖入山東交涉署，殘忍虐殺交涉員蔡公時及17名職員。蔣介石采取妥協(xié)態(tài)度下令避戰(zhàn)，可日軍仍持續(xù)進攻，5月11日攻占濟南，期間大肆奸淫擄掠。此次慘案造成中國軍民6123人死亡、1701人受傷，財產(chǎn)損失近3000萬元。

慘案引發(fā)全國反日浪潮，中共發(fā)聲揭露日軍罪行并抨擊國民黨妥協(xié)政策，日軍在濟南屠殺手無寸鐵的軍民，甚至殘害外交人員，其暴行遭到世界輿論的譴責(zé)。而美、英等列強，因日本獨占山東的行為損害了他們在華利益，也通過外交渠道對日本的侵略行徑表達不滿，日本在國際上逐漸陷入孤立。 當(dāng)時日本的核心侵略目標(biāo)是經(jīng)營東北、滲透華北，長期駐守濟南需投入大量兵力和物資，這會分散其在關(guān)鍵區(qū)域的力量。且北伐軍當(dāng)時已繞道北上，日本阻撓中國統(tǒng)一的短期目標(biāo)落空，繼續(xù)占領(lǐng)濟南失去關(guān)鍵戰(zhàn)略意義。

濟南慘案發(fā)生后中日持續(xù)交涉，1929年3月簽訂的《中日濟案協(xié)定》中，國民政府作出保障日僑安全等妥協(xié)讓步。這給了日本臺階，使其能在表面上“體面撤軍”，既沒丟失在華既得利益，又避免了長期占領(lǐng)帶來的持續(xù)消耗，最終選擇撤出濟南，且未承擔(dān)任何責(zé)任。 抗戰(zhàn)勝利后，慘案始作俑者酒井隆被逮捕審判，1946年被執(zhí)行槍決。該事件也讓國民政府對日幻想破滅，同時加劇了中日民族矛盾。