武德九年六月一日，太白金星于白天划过长空，据《旧唐书。天文志》的说法，金星白昼划过长空是预兆着会发生政权更迭。
六月三日，金星再次于白天划过长空，太史令傅奕向李渊呈送密奏，称“太白见秦分，秦王当有天下。”李渊将这份密奏转交给李世民，其用意是暗示要他自杀来澄清嫌疑。
李世民马上回复一份密奏，控告李建成、李元吉二人淫乱后宫，并欲冤杀他，奏章中有一句：“臣于兄弟无丝毫负，今欲杀臣，似为世充、建德报仇。臣今枉死，永违君亲，魂归地下，实耻见诸贼！”李渊看后愕然，回复李世民说，他将于明日在宫中召见两兄弟和众大臣，一起来对质明白。
这件事马上被李建成由张婕妤处得知。如前所述，李建成决定和李元吉一起入宫拆穿李世民的谎言。
与此同时，李世民却已率领尉迟敬德、长孙无忌、侯君集、张公谨、刘师立、公孙武达、独孤彦云、杜君绰、郑仁泰及李孟尝等人，于六月四日凌晨埋伏于玄武门内，同时命高士廉释放狱中囚犯，分发武器，来增强秦王府的兵力。
到六月四日清晨，李建成和李元吉进入玄武门，走到临湖殿，发现殿边有马影闪动，心知不妥，拨转马头，回奔东宫。李世民从后面呼叫二人停下，李元吉回关张弓连射三箭，但心慌意乱之下三次都没能将弓接满，以致三箭未射到李世民马前已经力衰而落。
李世民却勒停坐骑，稳稳当当地对准李建成一箭射出，当场将之射杀。那边李元吉也被尉迟敬德射伤落马，但并不致命。李世民的坐骑却为流箭所伤，失去控制冲入林中，致使李世民被树枝勾住腰带而附坠马。李元吉追过去夺他的弓欲将之绞杀。尉迟敬德及时赶到将他赶跑，最后也将之射杀。
玄武门的事情很快传到东宫、齐王府，冯立、薛万彻、谢叔方等人率精兵来救。秦王府将领张公瑾神力惊人，独力将宫门关上。宫门才关上，东宫兵将的马匹已撞到门上。
当时驻扎在玄武门的兵将大多持观望态度，两不相助。而其中有敬君弘挺身助李世民一方作战，他的亲随劝他观望一下，至少等兵力集结起来后再战。但他不听，和同是玄武门守将的吕世衡一同出战，结果战死。
东宫、齐王府等兵将攻打玄武门不成功，又另生一计。薛万彻率兵转而攻击秦王府。此时秦王府兵力大部分集中在玄武门，府中只剩几个文官留守，所以众人大惧，眼看一时三刻间就会被攻破。
在这千钧一发中，尉迟敬德想出妙计，将李建成、李元吉的首级割下来，送到秦王府示众。
东宫、齐王府等人见首脑已死，登时军心焕散，顿作鸟兽散。薛万彻见无法约束手下，率骑兵数十人逃离长安，躲进终南山中。李世民派尉迟敬德全身披挂，手持长矛直入宫中面见李渊。
李渊大惊失色，问：“今日乱者谁邪？卿来此何为？”尉迟敬德答：“秦王以太子、齐王作乱，举兵诛之，恐惊动陛下，遣臣宿卫。”
李渊对旁边的大臣说：“不图今日乃见此事，当如之何？”萧、陈叔达等本是“秦王派”的官员回应：“建成、元吉本不预义谋，又无功于天下，疾秦王功高望重，共为奸谋。今秦王已讨而诛之，秦王功盖宇宙，率土归心，陛下若处以元良，委之国务，无复事矣。”
李渊到此地步，也只得说：“善！此吾之夙心也。”于是依言下旨。
当时双方军队还在酣战，尉迟敬德将圣旨宣布，裴矩又到东宫传旨，东宫、齐王府的军心更加无法收拾，终于全部散走。
最后，李世民将李建成五个儿子李承道、承德、承训、承明、承义和李元吉五个儿子李承业、承鸾、承将、承裕、承度全部杀死。
李渊眼见一群心爱的孙子全被砍下人头，哼都没敢哼一声，自知身处危境，李世民血淋淋的屠刀只怕下一次就要架到他脖子上了，急忙在事变后第三天（六月七日）立李世民为太子；过了几天就表示要退位；两个月后（八月），李世民就正式在东宫显德殿继位为帝。
之所以是在东宫里登基，是因为他向李渊许诺，只要李渊有生之年，皇宫都由他来住，自己只住在东宫。但到贞观三年，李世民政权稳固后开始大举清洗武德年间的旧臣，以便提拔新人。
李渊从中闻到火药味，连忙表示自己愿让出皇宫。李世民自然要表示坚持前诺，李渊当然也坚持不再住皇宫了。于是最后还是李世民从东宫搬到皇宫里住，李渊迁往弘义宫（改名大安宫）。
据说最初，众人开始商议如何应对东宫和齐府初五准备好的这场阴谋，意见很不一致，有人主张逃离京城，到洛阳去，那里有李世民的心腹温大雅和张亮，又有人主张往西去追秦叔宝他们统带的几万精兵，有了那支人马就可以和东宫、齐府对抗。
长孙无忌却说出了一个和众人都不一样的方案，他说“不能离开长安，只要出了长安，无论往东还是往西，东宫和齐府都可以向天下诏告我们是叛贼，一仗打下去，不知得打到何年何月，就算最后赢了，那也是惨胜，收拾起残局来还不知得费多大力气！依我看哪，咱们哪儿都不去，就在长安把该办的事儿都办妥了算。”
此言一出，屋里立马炸开了锅。李世民开言道“如果采行辅机的法子，怎么做才最有胜算？”提出这么一个问题来，显然是倾向于采用长孙无忌的方案。
房玄龄从李世民的目光中看出了某种期待，开口说道“我们兵少，不能摆开架势和东宫、齐府在长安城里对决，只有在一个他们失去了羽翼保护的地方动手，才能有胜算。”李世民点点头，接着问“到哪里去找这样一个地方？”房玄龄稍微一顿，轻轻吐出两个字来“皇宫。”
这两个字一出口，仿佛在空中响起一声惊雷，众人的目光刷地都转向了李世民，观察着他的表情。这确实是个东宫和齐府的羽翼保护不到他们的地方。不过，这么做实质上就是造反。因为根据唐律，大臣不经同意带兵器进宫，哪怕只带一柄短刀，就罪同谋逆，更何况带一支兵进宫去拿当今的太子和齐王呢？李世民脸上现出犹豫之色。
在长久的沉默中，长孙无忌再也忍耐不住了，他盯着李世民问道“怎么，殿下你不愿意？”
李世民用低沉的语气说“唉，那毕竟是皇宫呀，父皇他在呢！”长孙无忌带着火气说道“殿下真心记着这个父皇，可皇上他这几年可曾真的把你当成亲儿子？谁看不出来，你那么大的功劳，他却像防贼一样步步都在防着你呀？”李世民脸上一紧，长孙无忌的话戳在了他心里的痛处，一种冰凉的感觉渗透了全身。
这时，一向稳重的房玄龄也激动起来“殿下，先发制人，后发制于人，情势十万火急，您不能再犹豫了！抛掉那心魔吧！太子和齐王他们既然敢谋杀你，已足以证明他们心如禽兽，将来难保不学炀帝谋弑皇上，除掉他们，虽然可能一时会负不忠不孝之名，但是，却能保皇上晚年平安，实际上是大忠大孝呀。”
长孙无忌看看房玄龄，从心底里升起一股佩服，明明也是在劝李世民造反，他偏能说出个与众不同来，让人觉得这反造得理直气壮！
李世民陡然找到了自我安慰的理由，他挺直了腰杆，一咬牙对众人道“好，那咱们就先发制人！”
接下来，李世民和他的心腹部下们开始商量具体的行动方案。
这个计划第一要紧的是找个理由把东宫、齐府一齐诱进皇宫去，这种伎俩长孙无忌显然十分在行，他建议次日李世民就进宫控告李建成和李元吉与后宫里的尹德妃和张婕妤淫乱，皇帝至宠这两个妃嫔，听到以后一定会大怒，召建成、元吉二人进宫查问。
男人爱面子，谁都不能容忍自己戴绿帽子，更何况是当天子的男人。这招儿虽然有些下作，但众人一致认为舍此别无良方。
长孙无忌带来已经买通常何的消息后，秦府开始了动手的准备，李世民先派人秘密将一些家眷送出城去，藏到一些可靠的亲友那里，以免事急时落到东宫或齐府的势力手中为人所制。
然后，按照事先的计划，李世民夤夜独自进宫叩见李渊，向其密奏李建成、李元吉淫乱后宫，与尹德妃和张婕妤通奸的苟且之事。
听过李世民的一番陈奏后，李渊当然雷霆震怒。怒火攻心的他传旨，让李建成和李元吉于次日进宫面圣。因为二人手里掌有重兵，为了防止发生意外，他把接见这两个儿子的地点定在了太液池的一艘画舫上，做出一副父子同游赏园其乐融融的假象，以免他们事先生疑。
李建成和李元吉万万没有想到，在他们伫马于驰道上远望玄武门犹豫不决的当口，门楼里有一双眼睛已经悄悄地注视着他们了，那双眼睛不是别人，正是他们准备在次日谋杀掉的强大政敌秦王李世民。
天亮以前，李世民就和长孙无忌带着尉迟敬德、侯君集、张公谨、刘师立、公孙武达等九位秦王骁将，在常何和敬君弘的掩护下登上了玄武门门楼。
因为怕暴露目标，他们先只带来了一百名秦府骑兵，都换了禁卫军的号衣混在守军里。其他的八九百人则由房玄龄、杜如晦以及长孙无忌的舅舅高士廉等人带着留在秦府里，只等李世民他们在宫中一发出信号，他们便会杀出秦府，冲进宫去，控制住玄武门。
当那个宦官拦住李建成和李元吉的时候，门楼上所有人的心都悬到了嗓子眼上。陷阱已经布好，如果猎物退缩回去，后果就将不堪设想。
幸好，当李建成的亲随驰马过来后，一眼看见了守在门楼上的常何，二人是军中的旧相识，常何倒是十分镇定，和来人亲热地说了几句荤话，那人笑着走了，接着，事情就又回到了预先设定的轨道上。
据说太原起兵是李世民的谋略，李渊曾答应他事成之后立他为太子。但天下平定后，李世民功名日盛，李渊却犹豫不决。李建成随即联合李元吉，排挤李世民。李渊的优柔寡断，也使朝中政令相互冲突，加速了诸子的兵戎相见。
是年，李建成向李渊建议由李元吉做统帅出征突厥，借此要把握住秦王的兵马，然后趁机除掉李世民。李世民在危急时刻决定背水一战，先发制人。
武德九年六月初四（626年7月2日），李世民向李渊告发了李建成和李元吉的阴谋，李渊决定次日询问二人。李建成获知阴谋败露，决定先入皇宫，逼李渊表态。在宫城北门玄武门执行禁卫总领常何本是太子亲信，却被李世民策反。
六月四日，秦王亲自带100多人埋伏在玄武门内。李建成和李元吉一同入朝，待走到临湖殿，发觉不对头，急忙拔马往回跑。李世民带领伏兵从后面喊杀而来。李元吉情急之下向李世民连射三箭，无一射中。李世民一箭就射死李建成，尉迟恭也射死李元吉。
东宫的部将得到消息前来报仇，和秦王的部队在玄武门外发生激烈战斗，尉迟敬德将二人的头割下示众，李建成的兵马才不得已散去。之后，李世民跪见父亲，将事情经过上奏。
3天后，李世民被立为皇太子，诏曰：“自今军国庶事，无大小悉委太子处决，然后闻奏”。2个月后，李渊退位，李世民登基。
武德九年六月四日，清晨，一切看起来都跟平常一样。李建成和李元吉汇合之后，从东边走近玄武门。让李建成比较放心的是，玄武门这个最重要的地点，守卫的将军是自己的人。
但是，他做梦也没有想到，玄武门屯守的将军，对于发生在眼前的战斗，要么抱着观望态度，要么跟随了李世民，唯独没有人肯为太子拼命。
其中，当天在玄武门当值的常何，正是李世民从太子阵营争取过来的军官，而在这一天，起到了关键作用。
李建成到达临湖殿的时候，发现情况异样，立刻拨马回撤，但是已经来不及了。李世民出现了，高声叫住李建成。我们不知道李世民说了什么话，在大战来临之际，显然李世民要从容得多。而李建成和李元吉此时发现情况不妙，李世民的伏兵出现了，他们全副武装，杀气腾腾。
李元吉首先摘下弓箭，但是他太紧张了，虽然兄弟不容，势同水火，但是他们看来从没有预计过会有这样的场面。所以，李元吉的弓箭竟然再三不彀，就是拉不开弓搭不上箭。还是李世民沉着，一箭射出，箭头穿过李建成的喉咙，李建成当场毙命。
这一箭，李建成猝不及防，他愣在那里，只听得一声弦响，接着箭头穿透空气，带着风声，直奔自己而来。就在一瞬间，李建成听到自己喉骨的破裂之声。他的眼睛，应该一直盯着二弟李世民，这个自己的亲兄弟，这个自己的政治对手。
在这一刻，他拉弓射箭，动作娴熟，潇洒而轻松。李建成到死都不明白，二弟的箭法，为什么这么高明。这是玄武门事变的第一箭，是由李世民亲自发出的，这第一箭就定了乾坤，解决了最主要的对头。
随着李世民的第一箭划破玄武门清晨浓重的空气，李世民的伏兵众箭齐发，李元吉中箭落马。李建成和李元吉虽然随从不多，但毕竟也有一小队，他们应该有所还击。双方的混战开始，于是出现以下的镜头。
李世民的马受了惊，跑到丛林里，被挂到树上，一时间人马受困，不能起身。这不是李世民应有的动作。当他发出第一箭以后，自己也被这一箭吓呆了。
大哥的眼睛，好像就没有眨过，一直圆睁睁地看着自己。他眼看着大哥喉咙上插着自己射出的那一箭，一声不响地从马上翻落，再就没有动弹过。
他知道，他的亲兄弟，让自己这一箭彻底送走了。他的内心一定不是滋味，心中方寸已乱，竟然忘记了控制坐骑。当他终于醒过来的时候，马已经被树枝绊住，自己也被困住不能动弹。更没有想到的是，他受困的地点，正好距离李元吉很近。
李元吉看到这个情况，立刻奔来，他取了李世民的弓箭，准备用弓弦勒死李世民。双方展开搏斗，千钧一发之际，尉迟敬德一边大喊，一边飞马赶到。李元吉一看敌我悬殊，转身逃跑，他想跑回武德殿。尉迟敬德当然不会放过，立即从他的背后开弓射箭。
这是玄武门事变的第二箭，也是非常重要的一箭。这一箭解决了李建成阵营的第二号人物。尉迟敬德和李元吉，是天下最擅长使用长矛的两个人，但是在最后决战时刻，竟然没有长矛，只有弓箭。
当初，李元吉发誓要亲手杀掉尉迟敬德，他可能从来没有想到过会有今天这样的场面，这是李元吉人生的最后一个镜头。长箭带着风声，深深地穿进李元吉的身体，李元吉一头跌倒在地。
尉迟敬德是战场上的老手，他在一箭杀了李元吉之后，竟然知道从容取下李元吉的人头。当然，李建成的人头也被取下。李世民和他的伏兵一起，迅速进入玄武门。不久，东宫和齐王府的卫兵也赶到玄武门，开始攻打玄武门。
这时，李世民的秦王府是没有设防的，所以当东宫的薛万彻高喊要去攻打秦王府的时候，守卫在玄武门上的将士非常紧张，因为那里太容易受到攻击了。
这时，又是尉迟敬德，及时地把李建成和李元吉的人头高高举起，让他们手下的士兵知道首领已死，继续作战没有意义。于是攻打玄武门的李建成、元吉的军队开始溃散。