是日，羊祜領着衆将外出圍獵，正碰到孫峻也來打獵。
羊祜下令：“我軍不可越界。”
衆将得令後，隻在涼國國地面打圍，絕不能進犯吳國邊境。
孫峻歎道：“羊都督紀嚴明，不可輕犯。”傍晚各自退回。
羊祜回到軍中後，察看捉到的禽獸，被吳國軍兵先射傷到的都送還。
吳軍自然十分高興，就去報告孫峻。
孫峻召來人詢問：“你家都督能飲酒否？”
來人回答：“必須佳釀，羊都督方飲。”
孫峻笑道：“我有珍藏多年的鬥酒，現在托你去送給你們将軍，并且拜上都督：這酒是孫某自釀自飲，特奉送上，以謝昨日出獵之情。”
來人領諾後帶酒而去。
左右問孫峻：“将軍把酒送給他，有什麼意圖？”
孫峻說：“他既施德于我，我怎麼能無以回報？”
衆将全都愕然。
卻說來人回去見到羊祜後，把孫峻所問并且送酒一事全部禀報。
羊祜笑道：“他也知吾好飲酒？！”于是命人開壺取來飲用。
部将陳元說：“其中恐怕有詐，都督勿飲。”
羊祜笑道：“孫峻絕非此等小人！豈會下毒？不必疑慮。”竟然一飲而盡。從此之後派人通信，經常來往。
一日，孫峻派人問候羊祜。
羊祜問道：“你家将軍身體可好啊？”
來人答道：“我家将軍卧病數天沒有出帳。”
羊祜說：“我料他所生之病和我相同。我已經配制成熟藥在此，可以送于他服用。”
來人帶藥回去見孫峻。
衆将驚呼：“羊祜乃大敵也，此藥定生不良！”
孫峻卻言道：“非也！豈有下藥害人的羊叔子？爾等不要疑慮。”于是服用其藥，第二天病情痊愈，衆将都來拜賀。
孫峻說道：“羊叔子專門用德，本将軍若施暴，他便能不戰而服人。如今我等應當保守疆界，不要謀求小利。”
衆将即刻領命。
忽然有人報告吳主派遣使臣來到，孫峻接入詢問。
使臣說道：“陛下傳谕将軍：要急速進兵，莫要讓涼軍先攻。”
孫峻說道：“尊使暫且先回，臣随後就有疏章上奏。”
使臣辭别而去，孫峻立即寫成奏疏派人送到建業。
近臣呈上後，孫紹拆開觀看，疏中細述不能伐涼的原因，并且勸告吳主修德慎罰，以安内為念，不應當再窮兵黩武。
孫紹看完後大怒道：“朕聽說孫峻在邊境與敵私通，現在果不其然！”于是派使臣罷免了孫峻兵權，降為司馬，派左将軍孫綝代領其軍兵，群臣都不敢勸谏。
吳神鳳帝孫紹恣意妄為，窮兵屯戍，上下無不有怨言。
左右丞相滕氏兄弟、老将留贊後嗣留平、大司農樓玄三人看到孫紹無道，直言苦谏，相繼被殺。
前後多年間，孫紹斬殺忠臣四十多人，他出入常帶五百鐵騎，群臣恐懼，卻不敢如何。
羊祜聽說孫峻被罷免兵權，孫紹失德，看到伐吳有可乘之機，就寫表派人前往洛陽請求伐吳，表中曰：“夫期運雖天所授，而功業必因人而成。今江淮之險，不如劍閣；孫紹之昏，過于劉璋；吳人之困，甚于巴蜀，而大涼兵力，盛于往時：不于此際平一四海，而更阻兵相守，使天下困于征戍，經曆盛衰，不能長久。”
韓炜看完表章後大喜，便下令興師。
可六部重臣皆言國庫空虛，不易動兵，韓炜無奈，隻得作罷。
羊祜聽說涼帝不肯發兵，歎道：“天下不如意事，十常八九。今拱手相送卻不能取，真是天大之遺憾！”
到了太初十四年，羊祜入朝奏辭歸鄉養病。
此時韓炜已然垂垂老矣，但依舊去親自探病，病榻前問道：“卿家有何安邦之策來教寡人？”
羊祜答道：“孫紹暴虐至極，現今可不戰而克。如孫紹不幸去世，吳國再立賢君，那麼吳國就不是陛下所能輕易攻取的了。”
韓炜大悟道：“朕現就派卿家領兵前往讨伐，何如？”
羊祜說：“臣已經卧病多年，不能再擔此重任。陛下要另選智勇之士方可。”
時年十一月，羊祜病危，韓炜車駕親臨問安。
韓炜來到卧榻前，羊祜流淚說道：“臣，萬死不能報效陛下大恩！”
韓炜也老淚縱橫哭道：“朕深恨當初不能用卿伐吳之策，現如今誰能接替卿去伐吳？”
羊祜流淚說道：“臣将不久于人世，不敢不說出臣之忠言：信王殿下可擔當此任。如果真要伐吳，必用信王。”說完想起什麼，将案頭奏章扔進火盆。
信王韓照，乃韓炜與馮娉婷之幼子，隻喜兵法韬略，作風簡樸，從不結黨營私。如今大涼着實不似從前，賈诩、郭嘉、趙雲、典韋等老一代文武紛紛去世，韓炜老而彌堅，卻精力有限，朝局異常混亂，在羊祜眼裡，韓照實在是不可多得的好皇子。
韓炜詫異問道：“舉善薦賢是一樁美事，卿家為何舉薦之後立即焚掉奏稿，不讓他人知曉？”
羊祜答道：“拜官公朝，謝恩私門。臣，從不如此行事。”說完後便微笑閉目，與世長辭。
韓炜老淚縱橫，大哭回宮，追贈羊祜為上将軍、賜爵巨平郡王。
荊州百姓聽說羊祜死後，罷市大哭，江南守邊将士也都哭泣。
太子韓涼思念羊祜在時，常在岘山遊覽，就在上面建廟立碑，四時祭享。往來人看到其碑文的無不流淚，所以取名叫做堕淚碑。
所謂：曉日登臨感涼臣，古碑零落岘山春。松間殘露頻頻滴，疑是當年堕淚人。
涼帝韓炜聽了羊祜遺言，拜信王韓照為鎮南大元帥，都督荊州諸事。韓照為人老成練達，不但精通兵略，還好學不倦，最喜愛讀左丘明《春秋傳》，坐卧經常攜帶，每次出入必定派人帶在馬前。
韓照奉了父皇之命，在襄陽撫民養兵，積極準備伐吳。
這時吳國老臣、老将都已經去世，吳主孫紹每次宴請群臣，下令都必須喝醉，又封黃門郎十人為糾彈官。
宴罷後再各自奏報過失，有冒犯的或者剝其面，或者鑿其眼，因此國人更加恐懼。