梁師都佔據之地，都是關中的北部地區，離長安很近，要是被他南下奪得了長安，那關中可就沒李傢什麼事了。

這時再拖下去，已是徒勞無益，於是李隱面見李淵道：“當斷不斷，反受其亂，李家欲成大事，就在此事！”

李淵聽後，在屋中來回走動了半響，最後在窗邊停下，抬頭仰望窗外的天空，沉默許久後，轉身看著李隱，毅然道：“箭在弦上，不得不發，既然如此，那我們李家就反了吧！”

……

三月二十日，王威、高君雅邀請李淵明天到晉祠祈雨，李淵答應了，王威、高君雅心中暗喜，雙目寒光閃動，他們計劃明天在晉祠埋下伏兵，等李淵去祈雨的時候，突然發動，一舉將李淵擊殺！

不過王威、高君雅不知道的是，當天夜裡，李隱與李世民便帶兵去了晉陽宮城的外面，晉祠就在晉陽宮中。

翌日，王威、高君雅隨李淵一同前往晉祠祈雨，晉陽宮城的外面的時候，忽然喊殺震天，殺出一隊人馬，將王威、高君雅團團包圍了，率領這些人馬的人，自然便是李隱和李世民了。

王威、高君雅臉色發白的看著李淵道，“唐國公，你這兩個兒子是要做什麼？”

李淵露出笑容道：“有密報稱，你二人暗中勾引突厥人，欲禍亂太原，你們這種亂臣賊子，我作為太原留守，自然是不能坐視不管的。”

高君雅捋起衣袖大罵道：“真正的亂臣賊子是你這老匹夫！”

李淵聽後，並不生氣，向李隱與李世民點了點頭，二人見此，立即指揮軍隊衝殺上前，一舉將王威、高君雅生擒，李淵將他們暫時投進監獄之中。

隨後，李隱帶著人馬假扮突厥人，在晉陽城外耀武揚威了一番之後才揚長而去，投進監獄。

太原軍民都以為確實是王威、高君雅把突厥人招來的，於是李淵便順理成章的將王威、高君雅二人處死，並懸首示眾。

李淵隨即傳檄河東諸郡，要諸郡奉其號令，然後開倉賑濟貧民，招募士兵的，從軍者絡繹不絕。李淵命令將招募來的人分為三軍，分左、右軍，通稱為義士。

裴寂等人、李隱等人聯名給李淵上尊號為大將軍，三月二十四日，李淵自任大將軍，設定大將軍府。

李淵任命裴寂為長史，劉文靜為司馬，唐儉和溫大雅為記室，溫大雅仍和他弟弟溫大有共同掌管機密，任命武士為鎧曹，劉政會和武城人崔善為、太原人張道源為戶曹，上人姜謨為司功參軍，太谷長殷開山為府掾，長孫順德、王君廓、竇琮和鷹揚郎將高平人王長諧、天水人姜寶誼、陽屯為左、右統軍，其餘的文武僚佐都按照才能授予官職。

李淵又封李建成為隴西公、中領軍大都督，中三統軍由他統轄；封李隱為靈武公，左領軍大都督，左三統軍由他統轄；封李世民為敦煌公，右領軍大都督，右三統軍歸他統轄；封李元吉為姑臧公，李智云為平涼公，李建成、李隱、李世民三人人各設定官府僚屬，李元吉、李智雲則分別掛名了副右軍大都督、副左軍大都督，但不掌兵。

中領軍府、左領軍府和右領軍府，都歸屬於大將軍府，按理說來，李淵應該自領中領軍大都督，親自統領中領軍府才對，但無奈多出個李隱，以他的功勞實力，不給他個領軍大都督是不行的，所以只能如此安排了，不過中領軍府實際上仍是李淵實際指揮。李建成從中協助。

李隱加官進爵後，自然不會虧待了跟從他的人，他任命李靖為左領軍府司馬，宋正本為左領軍府長史，張亮為左領軍府參軍記室，周安、劉弘基、黃君漢、蘇定方將領則全都升任為左領軍府的統軍都尉，眾人對此無不欣喜，互相慶賀。

當李淵誅殺王威、高君雅，自領大將軍的這一刻，其實已經是正式造反了，當然李淵是不會承認他這是造反的