在和东吴帝国不断斗智斗勇的过程中，羊祜感觉到自己有些老了，虽然他的志向仍未退缩，虽然他理想仍未消逝，但头上不断增长的白发，却在明确的告诉羊祜，时间在消逝，在那个年代，自己已经是个五十多岁的老人了。
公元274年，羊祜的老对手、老知己陆抗含恨去世，这位从未谋面的至交去世，让羊祜感到深深的悲痛，更让羊祜感到了生命的脆弱和短暂。羊祜意识到，灭吴的时机到了，趁自己还行的时候，必须行动了。
276年，羊祜给司马炎上书，请求讨伐东吴，在奏章里，羊祜分析：司马昭掌权的时候，已经灭亡了蜀国，只剩下了吴国，从那时到现在，已经十三年了。如果不用一次大规模折行动把吴国彻底消灭，那么战争就永远没有停息的时候。现在长江之水的险峻不如蜀国的高山峻岭，孙皓的残暴又远远超过了刘禅，东吴百姓的苦难早已大过蜀国，而西晋的兵力也比以往任何时候都强盛，不在此时统一全国，却还要实行防守政策，这样下去是不会长久的。如果现从四川、江陵、武汉、建业几路发兵，吴国就会面临处处危急的绝境，只要有一处被摧毁，就会引起上下震动，即使再聪明的人也无计可施、首尾不能相顾，所以讨伐东吴一定能够成功。
司马炎接到奏章，十分赞成，准备采纳羊祜的意见进攻东吴。可是当时除了东吴地区，西晋还面临着已经持续六年的大西北的秃发树机能暴乱，所以，朝中有不少人不同意羊祜的意见，尤其是羊祜从不巴结的朝中红人贾充、荀勖、冯紞，更是大力反对，只有杜预、张华等极少数大臣赞成羊祜的计划。在这种情况下，司马炎只好又把进攻东吴的计划暂时搁浅。
满怀希望的羊祜在襄阳左等右等，等来的却是这个消息，不禁仰天长叹：“天下不如意的事情十之七八。天赐的良机却就这样错过，真是让人仰天长叹啊！”
羊祜的梦碎了，他只能眼睁睁的看着自己为皇帝统一全国的梦想被无情的阻挡。而我们现代人以客观的眼光去看那段历史，羊祜的建议对吗？如果对，为什么不能实行呢？
我说这个建议是对的，不仅对，而且对于吴国形势的分析是一针见血。但它不能实行，因为它是在错误的时间，由错误的人向错误的人提出的。
我们早已说过，士族政治的核心成分是士族，士族的最高利益是家族利益，所以厌战和反战的思潮占据统治地位，当然很好理解，士族同胞们说了，只要我们家能天天吃香喝辣，管你什么天下一统，管你什么最佳时机，我的家族现在已经天天吃香喝辣，打了能怎样？不打又怎样？万一打败了呢？崇高的理想，已经离士族们越来越遥远，他们宁肯抱着自己的金银细软饿死，也不会跟着皇帝去打一场胜负未知的仗。
但我总认为，像贾充、荀勖、冯紞那样的超级老油条，很难想象他们看不出东吴早已不堪一击，但他们依然不会同意伐吴。羊祜是谁？他是从来不鸟我们的，皇上要是听了他的意见，而伐吴竟然成功，他就是天下第一功臣，我们呢？所以，敌人同意的就是我们反对的，为了我们的威信，为了我们几个家族的利益，绝对不能同意，绝对不能！
在悲愤和不解之中，羊祜病倒了。但是，此刻在他心中最重要的事情，仍然是消灭东吴。
我要在临死的时候再试一次！我要在临死的时候再见皇帝一面！
278年8月，重病的羊祜请求回到首都拜见司马炎，司马炎准奏。到了都城，司马炎让人们用车子把羊祜抬进宫殿，羊祜向司马炎当面陈述伐吴的计划，司马炎非常赞赏，表示愿意认真考虑灭吴的建议。
在洛阳没待了几天，羊祜就接到噩耗：自己的姐姐羊徽瑜、被司马炎尊为景献皇后的司马师的妻子，去世了。姐姐的去世，使得视亲情为生命的羊祜无限悲痛，病情更加恶化，很快就已经不能离床，司马炎看到这种情况，就派一个叫张华的大臣，去羊祜那里询问伐吴的计划。