秦凉既平，武帝拟按功行赏，偏朝上一班奸臣，又复出来禁止，毕竟隆众可否邀赏，且看下回再表。
这表呈上，武帝很为嘉纳，即召群臣集会进止。贾充荀勖冯紞，力言未可，廷臣多同声拥戴，且言秦凉未平，不该有事东南。武帝因饬祜且缓进兵。祜复申表固请，大略谓：“吴虏一平，胡寇自定，但当速济大功，不必游移。”武帝终为廷议所阻，未肯急进。祜长叹道：“天下不快意事，常十居八九，当断不竭，天与不取，恐将来转无此机遇了。”既而有诏封祜为南城郡侯，祜固辞不拜。平时嘉谟入告，必先焚草，所引士类，不令当局得闻，或谓祜紧密过分，祜慨然道：“美则归君，古有常训。至若荐贤引能，乃是人臣本务，拜爵公朝，谢恩私室，更加我所不取呢。”又尝与从弟琇书道：“待边事既定，当角巾东路，言归故里，不肯以盛满见怪。疏广见汉史。便是我师哩。”如此志行，颇足令先人取法。咸宁四年春季，祜得病颇剧，力疾求朝，既至都下，武帝命乘车入视，使卫士扶入殿门，免行拜跪礼，赐令侍坐。祜仍面请伐吴，且言：“臣死在朝夕，故特入觐天颜，冀偿初志。”武帝好言慰谕，决从祜谋。祜乃趋退，暂留洛都。武帝不忍多劳，常射中书令张华，奉命访祜。祜语华道：“主上自受禅后，功德未著，今吴主不道，正可吊民讨伐，混一六合，上媲唐虞，何如舍此不图呢？若孙皓不幸早殁，吴人更立令主，虽有众百万，也未能轻越长江，后患反不浅哩。”华连声同意。祜唏嘘道：“我恐不能见平吴盛事，将来得成我志，非汝莫属了。”华唯唯受教，复告武帝。武帝复令华代达己意，欲使祜卧护诸将。祜答道：“取吴不必臣行，但取吴今后，当劳圣虑，事若未了，臣当有所付授，但求皇上审择便了。”未几疾笃，乃举杜预自代。预已起任度支尚书，应第二回。至是因祜保举，即拜预为镇南大将军，都督荆州诸军事。预尚未出都，祜已疾终私第，享年五十八。武帝素服临丧，恸哭甚哀。是时天适酷寒，涕泪沾着须鬓，瞬息成冰，及御驾还宫，特赐祜东园秘器，并朝服一袭，钱三十万，布百匹，追赠太傅，予谥曰成。