亲任之。若迟疑顾望，便当杀之。”李绩似明白唐太宗的心意，奉诏之后，“不及家而去”。
唐高宗李治即位后，召回李绩，授任检校洛州刺史，洛阳宫留守，进开府仪同三司、同中书门下，参掌机密，不久，又拜尚书左仆射。他惧怕盈满，遂于永徽元年(65o)上表，请求解除了左仆射职务，但仍以开府仪同三司的身份知政事。四年，又被册为司空。早在贞观年间，李绩以勋庸图形于凌烟阁，至此，高宗又命人为他画像，并亲自为他写序。
永徽六年(655)，高宗欲废王皇后，立昭仪武则天为皇后。此事在朝臣中引起了一场轩然大波。以顾命大臣长孙无忌、褚遂良为首的元老坚决反对，李义府、许敬宗等政治上的失意者却极力支持。李绩在表面上同意长孙无忌等大臣的意见，而暗中却赞成此事。他曾与许敬宗等人“密表劝请”。这年九月，一天退朝后，高宗召长孙无忌、李绩、于志宁、褚遂良入内殿，再次商议废立皇后之事。褚遂良以破釜沉舟的决心，表示誓死力争。李绩见此情形，却“称疾不入”，巧妙地回避了，而褚遂良因死力相争，几乎招致杀头之祸。过了几天，高宗私下向李绩表示：自己愿立武昭仪为皇后，顾命大臣坚决反对，自己感到棘手难办。李绩不以为然地说：“此陛下家事，何必更问外人！”李绩虽未明言支持立武昭仪，但他劝高宗把此事看作家事，不必理会外廷的意见，实际上是支持高宗废立皇后的举动，因此，“上意遂决”。
在李绩的暗中支持下，唐高宗不顾长孙无忌等人的反对，决定立武则天为皇后。这年十一月初一日，高宗临轩，李绩奉命赍玺绶册封武则天为皇后。
在废立皇后一事的激烈政争中，决定了朝臣的沉浮。长孙无忌、褚遂良等反对派，先后被贬到地方，有的自缢身死，有的被治罪。支持者李义府等人则飞黄腾达，李绩也格外受到亲重。在高宗东封泰山时，他任封禅大使。在途经他的故乡时，皇后亲自去看望他寡居的姐姐，赐给衣物，还封为东平郡君。李绩不慎坠马伤足，高宗亲自慰问，并把御乘赐予他。
褚遂良、韩瑗因极谏而遭杀身之祸，此后群臣多缄默不言。一天高宗与侍臣议政，谈及了隋炀帝，说：“炀帝拒谏而亡，朕常以为戒，虚心求谏，而竟无谏者，何也？”李绩顺口阿谀说：“陛下所为尽善，群臣无得而谏。”
乾封元年(666)，唐朝再次出兵高丽。十二月，高宗以李绩为辽东道行军大总管，率六总管分水、6两军出发。这位年逾古稀的老将军风采不减当年，能谋善断，指挥若定。翌年二月，李绩率军渡过辽水，抵达新城(今辽宁铁岭南)，他对诸将说：“新城是高丽西境镇城，最为要害，若不先图，余城未易可下。”遂至城西南，依山筑栅，围困新城。城中窘迫，遂开门投降。由于攻克了新城，进军很顺利，“自此所向克捷”，接连攻下十六城。
总章元年(668)二月，李绩攻下扶余城(今吉林四平)，高丽王子泉男建派五万兵前来救援，在薛贺水与唐军相遇。李绩军奋力冲杀，大破高丽兵，斩获三万余人，接着挥师南下，九月，攻克了大行城(今辽宁丹东南)，唐军诸路人马与李绩会师，进至鸭绿栅，再破高丽兵，追击二百余里，攻下了辱夷城，进而包围了平壤城(今朝鲜平壤)。高丽王高藏派王子泉男产率九十八人打着白旗投降(参见唐灭高丽之战)。李绩又活捉了泉男建，于是“高丽悉平”。李绩胜利归来，在到达京师近郊时，高宗先命把高藏献于昭陵，以告慰九泉之下的唐太宗；然后具备盛大的军容仪式，高奏凯歌，进入京城。为了嘉奖李绩的赫然战功，加封太子太师，增实封通前一千一百户。
总章二年(669)十一月，李绩患病，且病情逐渐加剧。高宗及太子屡赐良药，又召回其在外地的子弟侍臣。子弟请医治病，李绩不许进门，说：“我山东一田夫耳，攀附明主，滥居富贵，位极三台，年将八十，岂非命乎？修短必是有期，宁容浪就医人求活！”
李绩见房玄龄、杜如晦辛苦创家立业，但后来被不肖子孙倾家荡产，深感痛心，他自以为病体难愈，遂把子孙们召来，当面向其弟李弼嘱托后事说：“我见房、杜平生勤苦，仅能立门户，遭不肖子荡覆无余。吾有此子孙，今悉付汝。葬毕，汝即迁入我堂，抚养孤幼，谨察视之。其有志气不伦，交游非类者，皆先挝杀，然后以闻。”
十二月三日，李绩病卒，享年七十六。高宗悲痛地流着眼泪说：“绩奉上忠，事亲孝，历三朝未尝有过，性廉慎，不立产业。今亡，当无赢资。有司其厚赗恤之。”令在光顺门为他举哀，七天不上朝。并赠官太尉、扬州大都督，谥贞武，陪葬昭陵。在安葬那一天，高宗于未央古城楼哭着送丧，还诏令百官送丧至故城西北。所造坟墓按照汉代卫青、霍去病故事，形似阴山、铁山及乌德鞬山，以旌表他破突厥、薛延陀之功。这座形似三山的坟墓至今仍矗立在陕西礼泉县九嵕山之下，成为其功绩的历史见证。
李绩在其戎马生涯中，能谋善断，有杰出的军事才干。他每次行军作战，“用师筹算，临敌应变，动合事机”。因而在攻灭东突厥，平定薛延陀，征服高丽等重大军事战役中，都取得了重大胜利，唐太宗曾极口称赞他“古之韩(信)白(起)、卫(青)霍(去病)岂能及也”。上元元年(76o)，唐肃宗把他与李靖一起，誉为历史上十大名将之一，配享武成王(姜太公)庙。
李绩在政治上也很有建树。在隋末天下“同苦隋政”之时，他踊跃投身于农民起义的洪流中，为发展、壮大瓦岗军作出了一定的贡献，为推翻隋皇朝的残暴统治发挥了作用。在唐皇朝平定天下、维护国家的统一中也建有功勋。尤其在维护边境的安定与和平上更是战功赫然。唐太宗曾高度评价他说：“参经纶而方面，南定维扬，北清大漠，威振殊俗，勋书册府。”
