路收复了兖州、青州、司州、豫州，中路和西路的桓氏则出兵攻克了鲁阳和洛阳，并收复了梁州和益州。
至此，淝水之战前秦、东晋以淮河－汉水－长江一线为界的局面改成了以黄河为界，整个黄河以南地区重新归入了东晋的版图。
淝水之战的巨大胜利，谢安的事先筹划功不可没，而且谢安从战前的围棋赌墅到战后的小儿辈大破贼，自始至终一直采取极为冷静的态度。
对于稳定当时建康的人心起到了关键的作用。此次战争使谢氏的声望达到顶峰，但当时会稽王司马道子专权，奸谄小人开始乘机煽风点火，捏造罪名陷害忠良。
谢安与孝武帝之间渐生嫌隙，一日，孝武帝召桓伊宴饮，谢安坐陪。
孝武帝命桓伊吹笛，桓伊神色自若的吹了一曲，然后放下笛子说臣对于筝的情分不如笛，然而足以用来与歌管配合，请允许臣奏筝歌唱，并请求来一个吹笛人为臣伴奏。
孝武帝认为他在音乐方面有才能，就下令让一个御妓奏笛。
桓伊又说御府的人与臣必定配合不好，臣有一奴擅长与臣配合。
孝武帝更加赏识他的放纵轻率，于是允许他把家奴召来。
家奴吹起笛子，桓伊就抚筝而歌唱怨诗说为君既不易，为臣良独难，忠信事不显，乃有见疑患，周旦佐文武，《金朦》功不刊，推心辅王政，二叔反流言。
他的歌声慷慨激昂，俯仰可观。谢安为之落泪，眼泪将衣襟沾湿。
一曲终了，谢安越席来到桓伊的身边，捋着自己的胡须说使君在此表现得很不一般呐，搞得孝武帝面露愧色。
太元十年四月，谢安借口救援苻坚，主动交出手上权力，自请出镇广陵的步丘，建筑新城来避祸，孝武帝在西池为谢安设筵饯行，并敬酒赋诗。
谢安虽受朝廷嘱托，但隐居东山的志趣始终未消失，每每露于形色，及至出镇新城，携带全家前往，制造泛海的船只和装备，打算等到天下大体安定后，从水道回东山。
可惜不久后，谢安病重病，上书朝廷请求估量时局停止进军，并召其子征虏将军谢琰解甲息兵，命龙骧将军朱序进据洛阳，前锋都督谢玄与彭城、沛县之敌对峙。
委任谢玄为督察，如果二城守敌凭借地形顽抗，待来年涨水，东西夹攻，孝武帝诏令侍中赴新城慰劳，谢安获准返回建康。
他听说自己的车驾已进入建康的西州门，自以为壮志不成，功业未就，因而感慨万分，对所亲近的人怅然道。