他哭着对雄信说：“平生誓共为灰土，岂敢念生，但以身许国，义不两遂。虽死之，顾兄妻子何如？”因用刀割下一块股肉，请雄信吃下，说：“示无忘前誓。”
在处死窦建德不久，唐高祖又征调窦建德旧将入长安，原旧将惊惧不安，于是刘黑闼又串通李密旧将兖州总管徐圆朗起兵反唐。河北各地窦建德旧将及豪右多杀官吏响应，一时发展到数万人，声势浩大。刘黑闼攻陷了冀州，进逼宗城(今河北威县东)。时李绩任黎州总管，屯守宗城，抵挡不住，欲退保洺州，途中遭黑闼追击，步兵五千人，皆没于阵，李绩幸免于难。李世民奉命讨伐刘黑闼，双方对峙于洺水城。李绩率兵逼近黑闼勇将高雅贤营垒，杀高雅贤，攻破其营(参见洺水之战)。在平定刘黑闼后，李绩又奉命进击徐圆朗。唐军乘胜而进，徐圆朗连战失利，最后弃城夜逃，为人所杀，“其地悉平”。
武德六年(623)，李绩又随从李孝恭、李靖讨伐辅公祏(参见唐灭辅公祏之战)。他率步兵一万人，渡过淮水，一举攻占了寿阳(今安徽寿县)。公拓之将陈正通率兵十万驻守梁山，派其大将冯惠亮率水军十万，把大舰锁连江中，以阻断水路，还于江西筑造营垒，分守水6要道，以阻止官军。李绩率军攻破其营垒，惠亮单舟逃走。李绩乘胜进击，正通兵溃，逃回丹阳(今江苏南京)。辅公祏见全线崩溃，遂丢弃丹阳城，连夜逃去。李绩“纵骑追之于武康，江南悉定。”
武德八年(625)，东突厥颉利可汗屡次掳掠并州一带，高祖命李绩为并州行军总管，以抵御突厥。唐太宗即位后，拜为并州都督(治太原)。并州是唐朝的发祥地，又是北方的门户，军事要地。从此由李绩开始经营，独当一面。
李绩知人善任，举贤荐能。早在瓦岗时，常与魏徵、高季辅、杜正伦等才能之士交往频繁，他一旦发现人才，“即加礼敬，引入卧内，谈谑忘倦，”经他引荐的，后多位至通显，当时人称其有“知人之鉴”。在他镇守并州初年，张文瓘以孝悌闻名，明经及第，补为并州参军。李绩见文瓘一表人才，曾称赞他为“今之管(仲)、萧(何)”。一次李绩入朝，文瓘与同僚二人为他饯行，李绩分别赠给那二个同僚佩刀与玉带，而对文瓘却一无所赠，文瓘不解其意，心中疑惑，李绩遂解释说：“子无为嫌。若某，冗豫少决，故赠以刀，欲其果于断；某放诞少检，故赠以带，俾其守约束。若子才，无施不可，焉用赠？”因极力引荐，高宗朝张文瓘位至宰相。
贞观三年(629)十一月，突厥再次入寇河西。诏命兵部尚书李靖为定襄道行军大总管，率十几万大军出击(参见唐灭东突厥之战)，以李绩为通汉道行军总管，从云中进军，在白道与突厥颉利可汗兵遭遇，大败突厥兵。颉利可汗派使者请和，太宗派鸿胪卿唐俭出使突厥。李绩与李靖一起议论军事，认为颉利可汗虽然兵败，人马尚多，若进入碛中，与九姓互保，道路险阻，难以追及。今唐俭在那里，防备松弛，我军若迅速出击，突厥必不战而降。这一策略正和李靖不谋而合，他高兴地说：“公之此言，乃韩信灭田横之策也。”果然，李靖袭击颉利可汗牙帐，颉利可汗欲逃入碛中，李绩早已屯军碛口。颉利可汗前进受阻，后有追兵，其大酋长率其部落一并投降了李绩。李绩俘虏五万多人，胜利而归。
李绩镇守并州凡十六年，令行禁止，四夷宾服，号为称职。贞观十五年(641)，征为兵部尚书，封英国公。唐太宗深有感触地说：“隋炀帝不解精选贤良，镇抚边境，惟远筑长城，广屯将士，以备突厥，而情识之惑，一至于此。朕今委任李绩于并州，遂得突厥畏威远遁，塞垣安静，岂不胜数千里长城耶？”
李绩尚未赴京就任，薛延陀真珠可汗乘唐太宗君臣东封泰山之机，纠合同罗、回纥等族军队二十万，穿过漠南，袭击已归降的突厥，俟利苾可汗抵御不住，率部落进入长城内，派使者告急。太宗立即调兵遣将，反击薛延陀。新任兵部尚书的李绩为朔州道行军总管，率步兵六万，骑兵二千屯守羽方。
十二月，薛延陀可汗之子大度设率三万骑兵逼近长城，适遇李绩率唐军赶到。大度设见尘埃冲天，兵威强盛，望而生畏，遂率其众从赤柯泺北逃。李绩从部下及突厥兵中选精骑六千，由直道拦击。他越过白道川，于青山与薛延陀军相遇。大度设整军迎战，列阵长达十里。突厥兵先出战，结果败下阵来。大度设乘胜追击，恰好李绩率军赶到。薛延陀万箭齐射，唐军马伤亡很大。李绩命骑兵下马，手执长槊，一直朝前猛冲，薛延陀溃不成军。这时，副总管薛万彻又及时赶到，夺取了薛延陀战马，唐兵合力冲杀，斩首三千余级，俘虏五万余人(参见唐击薛延陀之战)。大度设狼狈北逃，到了漠北，又遇上了特大暴风雪，“人畜冻死者什**”。
唐军反击薛延陀大获全胜，其使臣回国时，唐太宗教训他说：“吾约汝与突厥以大漠为界，有相侵者，我则讨之。汝自恃其强，逾漠攻突厥。李世绩所将才数千骑耳，汝已狼狈如此！归语可汗，凡举措利害，可善择其宜。”
战事结束后，李绩入为兵部尚书、同中书门下三品。李绩的才干与忠贞，博得了唐太宗的亲重和殊遇。一次李绩患有暴病，药方说胡须灰可以治疗，太宗毫不迟疑地把自己的胡须剪下，为他调药。李绩感动得涕泪交流，在入谢时顿首出血。翌年，李治立为太子，太宗让他辅佐太子，因转任太子詹事，加官特进，仍知政事。在一次宴会上，太宗对李绩说：“朕将属以孤幼，思之无越卿者。公往不遗于李密，今岂负于朕哉！”李绩流泪辞谢，噬指流血。不一会儿，李绩喝醉了酒，太宗脱下御服，亲自披在他的身上。
贞观十八年(644)，唐太宗将进击高丽(参见唐太宗攻高丽之战)，以李绩为辽东道行军大总管，率步兵、骑兵及兰、河二州归降的胡兵计六万人，向辽东进发。第二年三月，李绩从柳城(今辽宁朝阳)出师，先虚张声势，给人以出击怀远镇的假象，而暗中进军甬道。四月，从通定镇渡过辽水，抵达玄菟(今辽宁铁岭南)。高丽惊慌失措，关闭城门自守。接着李绩攻占了盖牟城(今辽宁抚顺)，俘虏了二万余人，缴获粮食十几万石。李绩又乘胜进军，兵临辽东城(今辽宁辽阳)下。
李绩开始攻城，唐太宗也率一万甲骑赶到。高丽害怕唐军抛石车，乃于城上积木筑战楼，以抵御抛石。李绩把抛石车排列在城下，抛石击城，块块巨石飞射城上，无坚不摧；另一方面又用撞车撞其楼阁，所撞之处，无不倾倒。这时又刮起了南风，李绩乘机纵火，点着了城西南楼。大火迅即蔓延到城中。风助火势，火借风威，全城立时浓烟滚滚，烈焰腾腾，城内一片混乱。唐军一举攻克了辽东城，烧死俘虏高丽兵万余人。
在攻占辽东城后，唐军乘胜围攻白岩城(今辽阳东南)。白岩城靠山临水，四面险绝难攻。李绩以撞车撞城，又用抛石车飞石击城，飞石流矢雨点般射向城中。高丽守将孙代文抵挡不住，遂举城请求投降。于是，唐军又攻占了白岩城。
贞观二十年(646)，刚从辽东班师不久，薛延陀部发生了内乱，李绩奉命率兵讨乱，在乌德鞬山大破其军，大首领梯真达官率众投降，咄摩支可汗向南逃往荒谷之中。李绩派通事舍人萧嗣业前去招降，其部落犹首鼠两端，李绩遂派兵进击，前后斩首五千级，俘虏三万余人。
唐太宗十分欣赏李绩的军事才干，又钦佩他的忠诚。贞观二十三年(649)，在临终前，唯恐他身为两朝元老，难以驾驭，特意将他出任为叠州都督，并向太子面授机宜，说：“李绩才智有余，屡更大任，恐其不厌服于汝，故有此授。我死后，可
