跟隨曹操以後，張遼隨軍征討，多有戰功，曹操亦益待之如親信;又從勸關羽降於曹操。赤壁戰中，張遼親載曹操脫難，並射傷東吳名將黃蓋。赤壁戰後，曹操獨任張遼引李典、樂進等守合肥，以御孫權。後孫權果引軍入寇，張遼智激李典後三人一同出戰，自率二千餘騎打敗敵軍十萬，威震逍遙津，名揚天下。讓張遼一戰成名的逍遙津在歷史上是真實存在的。東漢建安十三年，曹操基本統一了北方，擁有強大軍事實力的曹操開始把矛頭指向劉備和孫權，鑑於赤壁之戰，吳、蜀兩國聯手使形勢發生了顯著的變化。不敢輕舉妄動的曹操，
暫且放棄統一江東，派大將張遼等在合肥屯兵息軍養士;一面親率大軍西征張魯，試圖奪取漢中，進一步擴張自己的實力。
建安二十年，孫權趁曹操西征之際親自率兵十萬進攻合肥，此時合肥城內僅有張遼、李典、樂進及薛悌等不足萬人駐守。兩軍對峙，衆寡懸殊，這場戰爭似乎結果也是顯而易見的。
商議禦敵之策，大家想到曹操讓護軍薛悌帶來的一封書信，於是展開閱讀，信中言道：”若孫權軍來到，張、李將軍出戰;樂將軍守護軍，不得與戰。“諸將百思不得其解，張遼便說：”曹公遠征在外，待其救兵來時，敵軍必定已攻破我們了。所以曹公教我等衆將，迎而擊之，摧折敵軍鋒銳，以安衆人之心，然後方可堅守。“衆人此番言論，頗爲感動。於是，在夜間募集敢於逆擊敵銳之士，在天將破曉之時，張遼被甲持戟，獨自先登直陷敵陣，立殺數十人，斬其二將，並於陣中大呼己名，”大漢蕩寇將軍張遼在此，東吳鼠輩誰敢接戰?!“之後，士氣大發，軍心力齊，在重圍之中竟也殺出了一條血路，直至孫權麾旗之下。這把孫權嚇得不知所措，一時間竟然恐懼而不敢動。
此戰東吳精銳盡出，十萬大軍竟爲張遼的七千守軍所破，連孫權本人也差點爲曹軍所俘，幸賴淩統、甘寧、呂蒙等人奮力死戰，才得以脫身。合肥逍遙津一役，是張遼畢生最閃光的佳作，演義說”這一陣殺得江南人人害怕，聞張遼大名，小兒也不敢夜啼“，可稱爲防守戰術的經典戰例。
孫子云：兵乃詭道。一個”詭“字，突出了許多遊離于軍隊物質實力之外的決勝因素。何謂”詭“?——利而誘之，亂而取之，實而備之，強而避之，怒而撓之，卑而驕之，佚而勞之，親而離之——一言蔽之，便是”攻心術“。 張遼深諳這兵家之道，不管是在家鄉還是在沙場，張遼都是一隻鷹，鷹擊長空，當他擁有目標時，對手就如口中的獵物，一擊必中，無法反抗。
