当时在西晋和东吴边界，东吴筑了一座要塞，叫做石城（湖北钟祥），这个地方三面被汉江包围，而且背靠大山，绝对是个易守难攻的军事要塞。而且，石城离襄阳才一百多公里，东吴军队一天之内就能打一个往返，只要这个堡垒存在，羊祜就不能安心的种田，为了防止东吴骚扰自己的种田计划，羊祜想办法让东吴军队自己放弃了石城，然后自己占据了这里，一连修建了五个军事要塞，牢牢卡住了这个东吴从荆州进攻的咽喉要道。从此以后，石城以西再也见不到东吴军队，羊祜成功的压制了东吴帝国的攻势，挽回了西陵大败的颜面，同时也让更多的东吴人意识到，西晋虽然失败过一次，但是它的实力仍然是压倒性的，它输得起。
在绝对优势的震慑下，羊祜开始大肆收买东吴人心。凡是他的部队经过边境的时候，只要在吴国境内割了吴国百姓的粮食，全都记下数量，然后按照当时的市价，折合成丝绸布匹再送给东吴。羊祜每次与部下在边境打猎，从来不超过边境线，有时候碰到东吴军队也在边境打猎，有的猎物被吴军射伤跑到西晋地界的，羊祜都要把猎物还给东吴。羊祜每次与吴国交战，都要约定日期才开战，不搞突然袭击。部下有劝羊祜偷袭吴军的，羊祜也不表示反对，就请他来喝酒，把提议偷袭的人灌醉，让他说不出话来。
羊祜这样的以德服人，完全征服了东吴百姓官员的心，相对于最喜欢杀人的孙皓，羊祜所代表的西晋简直就是正义的化身，以至于东吴的官兵和百姓在称呼羊祜的时候，都不说他的名字，而是尊称他为“羊公”。荆州军区在羊祜的领导下，虽然有过一次西陵战败，但是经过多年的积累，仍然是兵强马壮、后勤充足，这样的功绩，自然会被司马炎看在眼里，所以在276年，羊祜被任命为征南大将军、开府仪同三司，重新享受一品大臣的待遇。
自从羊祜专心以德服人以后，在己方已经赢得过一次胜利的情况下，东吴帝国的将领还是一波一波的前来投降。公元274年7月，东吴平虏将军孟泰、偏将军王嗣投降；公元276年8月，又一个东吴皇族、京下督孙楷也来投降。羊祜对投奔的东吴官员，也都给予充分的信任，从来不控制他们的人身自由，如果这些人想回东吴，羊祜也丝毫不加阻拦。
有一次，吴将陈尚、潘景来进攻羊祜，被羊祜击退，在追击中被杀死，羊祜敬佩他们的忠诚，为他们举行了隆重的葬礼，并且陈尚、潘景的家属来奔丧的时候，羊祜十分尊敬的对待他们，让他们带着陈尚、潘景的遗体回到东吴，使得陈家和潘家人感激的五体投地。
又有一次，吴国将领邓香领兵进攻夏口（汉口），对夏口进行了大规模的掠夺，使得夏口遭受重创。羊祜对邓香的行为十分气愤，悬赏把他从吴国给绑架了过来，抓来后，羊祜只把邓香教训了一顿，就又叫士兵把他放回东吴。邓香感激羊祜不记前仇，最后率领部队投降。又有一次，羊祜的部下在边界抓到两个吴军将领的孩子，羊祜知道后，马上命令将孩子送回东吴。277年5月，吴将夏详、邵颉（杰）率七千多人来投奔羊祜，当初被放回的那两个孩子的爸爸也率领部队，跟着一起来投降。
看着这么多的东吴将领来归顺，羊祜知道自己的方法已经见效，但它知道，给东吴最后一击，还要彻底征服那个人的心，这个人就是东吴的守护神陆抗。
接下来的，就是西晋和东吴两位最杰出统率意志的较量。
相对于羊祜来说，陆抗注定要成为悲剧的一方。论实力，无论是领土面积、人口、部队人数，东吴都和西晋没法比；更要命的是，战争其实是政治的延续，羊祜所代表的是一个新兴的王朝，而陆抗所守护的，是一个精神病一般的杀人狂皇帝和一个人心已经崩溃的没落政权。这个政权既不能保护东吴士族的利益，也不能保护东吴百姓的利益，它已经完全和它的国民成为对立的双方，稍微有一点常识的人都会知道，东吴一定会失败，而绝顶聪明的陆抗，却要凭着自己的一腔热血，去守护东吴，像一个老船长，怀着悲壮的心情，站在已经千疮百孔的破船上，和船一起慢慢沉没。
但陆抗毫不后悔，也毫不气馁，他坚强的守在对西晋的第一线，顶住了东吴北部、西部边界的巨大压力，极力替孙皓去打捞已经失尽的人心。
由于隔江相对，羊祜和陆抗经常派遣使者往来。陆抗曾经当着很多人的面儿夸羊祜，说他的器量，即使是古时候的名臣乐毅、诸葛亮也比不上。陆抗送给羊祜的酒，羊祜拿起来就喝；陆抗病了，向羊祜求药，羊祜就把制好的药送给陆抗，陆抗也拿起来就吃。很多将领都劝陆抗不要吃敌人送来的东西，怕陆抗被害，陆抗就说：“怎么会有用毒酒杀人的羊祜呢？”
羊祜和陆抗是死敌，但又是知己，他们的交往，可说是英雄之间的惺惺相惜；他们的交往，又是意志的较量。他们是死敌，是命运让他们成为敌人；但战争又让他们成为了知己，因为他们都有着共同的理想，这就是为国家和君主用尽忠诚。
陆抗对身边士兵说的一席话，道出了他和羊祜亦敌亦友的心声：“羊祜专门树立恩德，而我们如果不以恩德回报，这就等于不打就已经认输了。现在双方各自保住疆界就可以了，我们不能再想着去占小便宜。”
羊祜和陆抗交往的事情，当然瞒不过孙皓。当这位一心只想着杀人的皇帝，知道自己最重要的大臣，居然和敌人打得这么火热的时候，他的肝都要气炸了。但是，孙皓离不开陆抗，而且陆家在东吴的势力和威望，又无人能比，所以孙皓第一次没有立刻杀人，而是派使者去责问陆抗，陆抗说：“一个小城市都不可以不讲信义，更何况大国呢！我如果不这样做，正是显示了羊祜和西晋的恩德，伤害的只能是我们自己啊。”
使者回去，把陆抗的话原原本本的告诉孙皓。孙皓非常聪明，一听这话，就知道陆抗是在责备自己，但出人意料的是，孙皓这回居然没有发怒，他默默的让使者把话说完，然后就默默的让使者告退了。