从前桓温执政时，我常常担心不能保全自身，忽然有一天梦见自己乘坐桓温的车驾走了十六里地，看见一只白鸡后停了下来。乘坐桓温的车驾，预兆将代替他执掌朝政。
十六里，从我执政到今天刚好十六年了，白鸡属酉，如今太岁星在酉，是凶兆，我这一病大概再也起不来了！
于是上书逊位，孝武帝派侍中、尚书晓喻朝廷旨意，之前谢安从石头出发，金鼓忽然破碎，又加上谢安说话从不出差错，这一天忽然出现谬误，众人觉得十分奇怪。
同年八月二十二日，谢安病逝于建康，享年六十六岁。孝武帝闻讯后，在朝堂里哭吊三天，赐棺木、朝服一具，衣一套，钱百万，布千匹，蜡五百斤，追赠太傅，谥号文靖。
永初元年六月十四日，刘裕代晋称帝，建立刘宋，当时前朝东晋的封爵中只有王导、谢安、温峤、谢玄与陶侃子孙的爵位未被废除。
晋简文帝逝世后，谢安与王坦之挫败权臣桓温篡位的意图，桓温死后，他更与王彪之等共同辅政。