203年,張遼隨曹操到黎陽討伐袁譚、袁尚聯(lián)軍,因戰(zhàn)功而晉升為中堅將軍。但袁尚堅守鄴城,久攻不下,曹操便返回許都,命張遼和樂進攻下了陰安,遷徙當?shù)鼐用竦胶幽稀?04年隨曹操成功攻下鄴城,又轉攻趙國、常山...

203年,張遼隨曹操到黎陽討伐袁譚、袁尚聯(lián)軍,因戰(zhàn)功而晉升為中堅將軍。但袁尚堅守鄴城,久攻不下,曹操便返回許都,命張遼和樂進攻下了陰安,遷徙當?shù)鼐用竦胶幽稀?04年隨曹操成功攻下鄴城,又轉攻趙國、常山,招降緣山多個賊軍及黑山賊孫輕等。205年,隨曹操成功討滅袁譚,攻下海濱,并擊敗遼東的賊兵柳毅等。還軍到鄴城,曹操親自出城迎接,邀請張遼共乘一車以示榮耀,并任命張遼為蕩寇將軍。接著張遼又率軍攻打荊州,平定了江夏各縣,在臨穎屯兵,受封為都亭侯。207年,曹操要征討在柳城的袁尚,張遼進諫:“許城,是天子所在的地方?,F(xiàn)今天子就在許都,曹公北征甚遠,若劉表派遣劉備攻擊許,占據(jù)它號令四方,您的形勢將會大去?!辈贿^,謀士郭嘉卻不認為劉表會有所行動,曹操遂繼續(xù)北伐袁氏。207年,張遼隨同曹操北伐,途中遇上烏桓軍,張遼斗志昂揚,力勸曹操接戰(zhàn)。曹操十分欣賞張遼的斗心,又看見烏桓的軍隊尚未排成陣形,于是將自己的麾旗授予張遼暫用,任命張遼為前鋒出戰(zhàn),烏桓軍大驚,單于蹋頓更被張遼所斬。

208年,荊州未定,曹操派張遼還駐長社。臨出發(fā)前,軍中有人謀反,趁夜中制造動亂起火,全軍混亂。張遼對左右說:“不要亂動。這不會是全營的人都發(fā)生動亂,必定有制造叛亂的人,想要引起其他人的騷動而已?!北懔钴娭胁皇欠磁训娜肆⒖贪察o坐下。接著張遼率領數(shù)十親兵,立于陣中。不一會,即查獲生事者的頭領,并將其斬殺。后世章回小說《三國演義》中則將此節(jié)情節(jié)改寫為東吳將領太史慈使計派遣吳兵混入魏軍城中,打算結連張遼軍中的養(yǎng)馬后槽一起制造禍亂騷擾魏軍,而張遼則冷靜悉破策略,號令全軍不反者皆靜坐,沒多久副將李典便抓住了吳兵及后槽,張遼更將計就計引太史慈入城,對其伏擊,最后令太史慈傷重身死。正史是病死。