秦王李世民由于长年在外征战，所以选千余精锐骑兵作为亲兵，皆着黑衣黑甲，号称玄甲队。每次冲锋陷阵，李世民都披上黑甲亲率玄甲队作为先锋，伺机进击，所向披靡，敌人畏惧。尉迟敬德归唐后，与骁将秦叔宝、程知节、翟长孙共同统领玄甲队，保护李世民。武德四年（621年）正月，屈突通与赞皇公窦轨带兵巡营，猝与王世充军遭遇，交战不利，李世民即率玄甲队驰赴救援，大败王世充军，俘其骑将葛彦璋，斩俘6000余人，王世充逃回洛阳。
三月，夏王窦建德率10 余万大军西援洛阳，水陆并进，与王世充部将郭士衡数千人会合，进屯虎牢东广武山，并在板渚筑宫，与王世充相呼应，威胁唐军侧背。李世民命齐王李元吉等继续围困洛阳，亲率精兵步骑3500人于二十五日进驻虎牢。二十六日，李世民率骁骑500出虎牢，在其东20多里处侦察窦建德军营，沿途设伏，令李世绩、程知节、秦叔宝分别统领。然后与尉迟敬德仅带4骑继续前进。李世民对尉迟敬德说：“吾执弓矢，公执槊相随，虽百万众若我何！”又说：“贼见我而还，上策也。”在离其营3里处，猝与窦军游骑相遇，李世民于是大呼“我秦王也”，引弓射杀一将。窦建德军中大惊，窦建德急忙派五六千骑兵前来追逐。4名骑兵见状大惊，李世民说：“汝弟前行，吾自与敬德为殿。”于是尉迟敬德随李世民殿后，且战且退，当追兵将要追上时，便引弓射杀一人。追兵见状惧而止步，随后又追来，如此再三，每次都有死者，李世民前后射杀数人，尉迟敬德在保护李世民的同时，也杀十余人，窦建德军不敢再逼。待李世民将追兵引入伏击处，李世绩等奋起进击，大破之，并斩首300余级，俘其骁将殷秋、石瓒。窦建德军被阻于虎牢东月余（一说20余日）不得西进，几次小战又都失利，将士思归。五月初二，窦建德军倾巢而出，擂鼓挑战。时王世充侄子王琬在窦建德军中，骑着隋炀帝的骢马，铠甲甚鲜。王琬骑着骢马故意到阵前炫耀于众。李世民是爱马之人，不禁赞叹道：“彼之所乘，真良马也。”尉迟敬德见状，便请求将马抢过来。李世民急忙制止道：“岂可以一马丧猛士？”但尉迟敬德决心已定，率高甑生、梁建方直入窦军，擒王琬，引宝马而归，窦军虽众，却无人敢挡。待到中午，窦军饥疲思归，李世民见时机成熟，遂下令出击，窦军士卒迅速崩溃，窦建德也为唐军所俘。唐军主力回师洛阳，王世充见大势已去，被迫于五月初九率太子、群臣等2000余人投降。
七月，窦建德旧部刘黑闼起兵反唐（参见刘黑闼起兵反唐之战），很快占据河北大部郡县和河南部分地区（参见刘黑闼攻唐河北之战）。九月初四，突厥又入侵原州（治平高，今宁夏固原），唐以尉迟敬德为行军总管，将其击退。十二月十五日，李世民命奉命征讨刘黑闼。
武德五年（622年）三月，李世民和在洺水以南扎营。刘黑闼多次挑战，李世民均坚壁不战，以挫其锋。此时双方已相持60余日，刘黑闼暗中率军袭击李世绩军，李世民率略阳公李道宗袭击刘黑闼军侧后以救援李世绩，结果被刘黑闼包围。此时尉迟敬德率勇士冲入包围，大破帮阵，将李世民和李道宗救出。二十六日，唐军大败刘黑闼，刘黑闼逃入突厥。随后尉迟敬德又随军平掉响应刘黑闼的徐圆朗。尉迟敬德因功被授予秦王府左二副护军。唐统一大业基本完成后，北方的突厥不断南侵，成为唐朝的主要敌人，尉迟敬德在与突厥的作战中也屡立战功。早在四年九月，尉迟敬德便曾击退过突厥军。武德六年（623年）七月初九，突厥侵犯原州。十一日，进攻朔州，右武侯大将军李高迁被击败，尉迟敬德奉命带兵救援。武德七年（624年）七月十二日，突厥袭扰陇州（治汧源，今陕西陇县），尉迟敬德（时任护军）再次奉命进击突厥。
从太原起兵到统一全国过程中，李世民屡建奇勋，威望很高，并形成了以秦王府谋士和勇将为核心的实力雄厚的政治集团，秦叔宝便是其中之一，对太子李建成构成严重威胁。李建成为保住太子地位及皇位继承权，与齐王李元吉结交，共同反对李世民。武德七年六月，李建成乘李渊去仁智宫（在今陕西宜君境）避暑，指使亲信杨文干发动叛乱，企图除掉李世民，夺取帝位，但叛乱被很快平息，李建成也受到唐高祖李渊训斥。武德九年（626年）六月，李建成在夜宴酒中下毒，致使李世民心中暴痛，吐血数升。
鉴于秦王府多骁将，李建成、李元吉欲收买诸将，以为已用。由于尉迟敬德是李世民手下大将，所以便先向尉迟敬德下手。李建成首先用高官厚禄收买尉迟敬德，派人以他说：“愿迂长者之眷，敦布衣之交，幸副所望也。”并赠金银器物一车。但尉迟敬德不为所动，推辞道：“敬德起自幽贱，逢遇隋亡，天下土崩，窜身无所，久沦逆地，罪不容诛。实荷秦王惠以生命，今又隶名籓邸，唯当以身报恩。于殿下无功，不敢谬当重赐。若私许殿下，便是二心，徇利忘忠，殿下亦何所用？”（《旧唐书？尉迟敬德列传》）李建成闻讯大怒不已，从此不再与尉迟敬德往来。事后，尉迟敬德将此事告诉李世民，李世民对他说：“公之素心，郁如山岳，积金至斗，知公情不可移。送来但取，宁须虑也。若不然，恐公身不安。且知彼阴计，足为良策。”李元吉等深忌尉迟敬德，知道他在李世民身边要想除掉李世民就非常困难，见软的不行，便来硬的。李元吉派刺客去行刺尉迟敬德，尉迟敬德知道后，故意把几重门都大开，自己则安卧不动，刺客几次潜入尉迟敬德庭院内，见此情景反而不敢下手。李元吉见行刺不成，便在唐高祖李渊面前陷害他，李渊也正想剪除李世民的羽翼，便下诏将尉迟敬德逮捕，准备问斩。李世民闻讯赶忙营救，经多方面周旋，才将尉迟敬德释放。这样，李建成、李元吉对尉迟敬德的软硬兼施均未得逞。李建成、李元吉收买程知节、段志玄等秦府勇将的计划也没能成功（而李世民却用重金收买了李建成部将常何和太子率更丞王晊）。于是改为陷害秦府谋臣房玄龄、杜如晦，二人被唐高祖李渊逐出秦府。此时李世民的心腹只剩下长孙无忌尚在秦府中，尉迟敬德、长孙无忌与雍州治中高士廉、左候车骑将军侯君集等日夜劝李世民杀李建成、李元吉，但李世民仍犹豫未决。
在众人的劝说下，李世民终于决定先发制人。但还需与房玄龄、杜如晦二人再仔细商讨一下，于是便去召二人，但二人由于已被赶出秦府，不准他们再进。李世民又让长孙无忌密召二人，但二人却说：“有敕不许更事王，今若私谒，必至诛灭，不敢奉命。”（《旧唐书？尉迟敬德列传》）李世民闻讯大怒不已，便对尉迟敬德说：“玄龄、如晦岂背我耶？”然后又将自己的佩刀摘下交给尉迟敬德，并说：“公且往，观其无来心，可并斩其首持来也。”（《旧唐书？尉迟敬德列传》）尉迟敬德知道房玄龄、杜如晦是李世民的重臣，对起事的成败起着很大的作用，于是又与长孙无忌一起晓示二人：“王已决计克日平贼，公宜即入筹之。我等四人不宜群行在道。”房玄龄、杜如晦二人也知事关重大，于是穿上道袍，改变妆束，与长孙无忌一同进入秦府。尉迟敬德为防止别人看见，便从另一条路返回秦府。玄武门事变 六月初三，李世民密奏建成、元吉****后宫妃嫔，并欲杀他，似为王世充、窦建德报仇，李渊愕然，声称明日早朝鞫问。
四日清晨，李世民率尉迟敬德、侯君集、张公谨、刘师立、公孙武达、独孤彦云、杜君绰、郑仁泰、李孟尝等九将伏兵玄武门（长安太极宫北面正门）内。李建成、李元吉行至临湖殿感觉有变，慌忙掉马准备返回东宫和齐府。李世民从后面招呼他们，李元吉张弓即射，仓促间控弦不开，皆未中的，李世民则趁机射杀李建成。此时，尉迟敬德率70骑赶至，左右箭射李元吉，李元吉中流矢坠马，逃入树林中。李世民纵马追赶，但衣服被树枝挂住，坠马落地。李元吉见状，立刻赶到，夺弓将扼杀李世民。在此危难之时，又是尉迟敬德及时赶到，跃马喝叱李元吉，李元吉见到尉迟敬德，放开李世民，欲趋武德殿，尉迟敬德边追边射，将李元吉射杀。这时，东宫翊卫车骑将军冯立、副护军薛万彻和屈唾至直府左车骑谢叔方率东宫、齐府精兵2000人赶来，猛攻玄武门，形势危急。关键时刻，尉迟敬德持建成、元吉首级赶到示众，东宫、齐府士卒遂溃散。
