就在协议达成的第二天，在济南，在青岛，日军主动联系国军队的指挥官，通告上海和平协定主要内容，并开始协商撤军事宜，最沒面子的是济南方面，见面第一件事情就是向国军队请求给与食物支援，城内的日军现在都已经被逼的在啃树皮了，再无粮食补充接下去估计要吃人了，日本山东派遣军司令官宇恒一成现在也是破罐子破摔了，什么武士的尊严都不讲了，见着白崇禧就是一个劲的鞠躬，一个劲的道歉，一个劲的恳请，四五十岁的人了还玩双目含泪的把戏，总之搞的白崇禧很是不好意思，最后大手一挥，同意了，不过只给了日军一天的量。
小日本还算讲信用守合同，十分顺从的从济南和青岛撤军了，为了顾及日本人的面子，日军并沒有被要求进行任何投降仪式，只是被勒令放下武器，然后从济南撤出，青岛方面甚至还允许日军携带武器弹药离开。
而制造了临淄惨案的本庄繁师团，由于政治的需要，也都成功的逃脱了国军队的追究，已经在这十几天围城变得惶惶不可终日的日军官兵在获得生机的时候也不再高喊什么武士道精神了，在吃了一个礼拜以來的第一顿米饭之后，他们在宇恒一成大将带领下整整齐齐的从济南城开了出來，然后依次上了火车前往天津，他们将在那里登船回日本。
不过这种时候还是不可避免发生了一点小意外，青年军第一师师长张自忠突然走到日军第师团师团长本庄繁面前，狠狠的给了一个耳光，这引起了一阵骚乱，不过手无寸铁的日军面对国军队的机枪时不得不选择克制自己的情绪，这也是日本人的一个优点，一旦输了就不唧唧歪歪了，老老实实服从指挥，挨了打的本庄繁也忍受了这巨大的羞辱，嗨了一声不用多事，张自忠却愤怒的告诉他：“你的狗命姑且让你留下，待來日必定双倍奉还。”
几乎与此同时，薛岳十分轻松的就从日本人手里接管了青岛，引发五四运动的山东问題从青年军猛虎旗在青岛升起的那一刻就算是彻底的解决了。
消息传到北京，传到天津，传到上海，传到南京，传到武汉，北京大学，清华大学，燕京大学，南开大学等等高校的教授、学生们都纷纷为之鼓掌叫好，辜鸿铭甚至亲笔写下了“百年国耻，一朝得雪”八个大字，裱好了送往南京以示感谢，在知识分子的眼里，国民政府自然是南京那个，至于武汉，讲究风骨的他们还真沒放在眼里。
也几乎是在这个时候，日军军部少壮派也因为这场山东的战事发生了巨大的分裂，形成以永田铁山为首的皇道派和以荒木贞夫为首