羊祜先在西晋这边建筑了五座城池。这样，西晋在荆州以东就形成了一道坚固的防线。不仅如此，羊祜还在这些城池里发展商业，增加两国的贸易。羊祜下令，凡是东吴的百姓来西晋的地盘上做买卖、探亲戚，西晋的士兵一律不许阻拦。这样，西晋这边的人气就高了起来。东吴的老百姓来西晋，跨越边境线就像是回家一样容易。时间一长，东吴的人就觉得西晋比东吴好。
每次边境发生摩擦，羊祜一定要下战书，然后在约定的时间打一仗。羊祜讲信义，陆抗也只好与羊祜讲信义。于是，两国的仗打起来，就好像是在搞军事演习。你擂一通鼓，我擂一通鼓。你派出一员大将，我也派出一员大将。两军拼杀一阵便鸣金收兵。更有意思的是，如果哪国抓了对方的俘虏，一定要好酒好菜招待，再派人给对方送回来。
当然，羊祜的军队中也有反对羊祜这种做法的。他们认为羊祜就像是战国时候的宋襄公一样迂腐不堪。一次，两军又约定第二天打仗。这天，几位将军在一起商量，决定第二天突袭东吴军队。这件事很快就被羊祜知道了，羊祜什么也没有说，只是请这几位将军喝酒，把他们灌得大醉。等他们酒醒的时候，仗已经打完了。将军们知道这是羊祜给自己面子，再也不敢造次了。
一次，有两个小孩从东吴的军营里跑出来，越过了边境线，跑到了西晋的军营里。按照西晋的军纪，东吴人误入军营，一律当成奸细，格杀勿论。可当士兵把这两个小孩送到羊祜的中军帐时，羊祜不仅不杀，反而赐给小孩很多吃的、玩的，派人送回东吴军营。东吴的将士深知羊祜的为人，非常敬重他，亲切地称他为“羊公”。有几位将军还偷偷地带着士兵，投降了羊祜。陆抗对于羊祜的做法，真的是束手无策。他下了一道命令，要严守阵地，不要轻易出兵，不要占西晋军队的小便宜。否则，格杀勿论。
正当羊祜的“以德取胜”的计谋快要得逞的时候，羊祜病死在了荆州。羊祜去世的消息传出后，市场罢市，农民罢工，荆州地区一片哭泣声，就连东吴的军队也为之戴孝，可见羊祜在人们心中的分量。
13年后，西晋的大将杜预率军灭了东吴。有人称赞杜预。杜预却说，我哪里有什么能耐，这完全仰仗羊公的恩德呀！