吕布集团本来已经数次战胜曹操，但因蝗灾大起，吕布集团缺粮求助于乘氏李家。
乘氏李家假装帮忙，以肥牛、酒、胡饼麻痹了吕布集团，却趁机将吕布集团击破。
吕布集团溃退之后，同仇敌忾、卷土重来，猛烈地报复了乘氏李家，李典的至亲李乾也被吕布集团所杀。
但在合肥城面对东吴大军的侵攻之际，张辽依然能够不计前嫌地邀请李典共同出战，李典也同样展现了顾全大局的风度，愿与张辽一同出战。
张辽曾在吕布集团当中与曹军旧将们惨烈厮杀，因此，他与于禁、乐进等人不和，也是合情合理。
然而有一次，张辽却与他的护军武周产生了矛盾，于是，张辽来见扬州刺史温恢，希望请胡质来担任他的护军。
胡质以生病为借口，推辞了任命，张辽、胡质出屋之后，张辽对胡质说：
“我非常地器重你呀，而你为什么要如此辜负我呢？”
胡质说：“古人管仲、鲍叔牙相交，管仲在生意分红时取走了很多，鲍叔牙仍然相信他不是贪心的人。
管仲在参军打仗时常常逃跑，鲍叔牙仍然相信他不是胆小的人，听闻诋毁管仲的流言，鲍叔牙不会相信那些流言。
这样的交情才能长久啊！武周身为雅士，在往常，您对他赞不绝口，如今却因为一些小事就产生了矛盾。
何况我胡质才能浅薄，怎么能始终得到您的信任呢？这才是我不愿就职的原因啊。”
张辽非常感激胡质所言，于是便改过自新，与武周又恢复了和睦。
张辽不仅能征惯战，而且善于统兵，投降曹操之后多年守卫合肥，让东吴屡屡进攻无果。
公元213年，张辽与臧霸同为征濡须口的前锋，后攻破孙权江西营，擒获孙权都督公孙阳。
公元214年五月，孙权亲征皖城，张辽从合肥向皖城驰援，在增援途中得知皖城失守。
于是张辽在硖石的南面迅速筑起了一座堡垒，作为合肥的前哨，同年七月曹操征伐孙权，同年十月曹操无功而返，自合肥还。
曹操在离开合肥时，带走了大批部队欲作西征之用，给屯驻合肥的张辽与乐进、李典等将领只留下了七千余人。
张辽得知曹操有西征之意，认为合肥即将孤立无援，孙权必会趁机来攻，于是开凿了藏舟浦，用来隐藏舟船。
公元215年，曹操率领重兵西征张鲁，让护军薛悌送去一封信函，信函边还写明，要在有敌人来攻时再打开来看。
不久，东吴首领孙权率领十万大军进围合肥，张辽与诸将打开信，信中说：“若孙权军来到，张、李将军出战，乐将军守护军，不得与战。”
曹操只在信中明确了3位将领的分工，但是，完全没有提及何时出城、何时撤退、出城人数、攻向哪里、如何接应等具体措施，况且将在外君命有所不受。
因此合肥诸将们都充满疑虑，张辽根据曹操远征汉中而合肥缺乏后援的现状，做出了分析，消除了诸将的疑惑，李典也对张辽所说的话表示赞同。