(一) 最初的模樣：聚眾為盜
瓦崗軍是隋末群雄的一支，始於翟讓、單雄信、徐世勣。
《資治通鑑卷一百八十三》：韋城翟讓為東都法曹，坐事當斬。獄吏黃君漢奇其驍勇，夜中潛謂讓曰：「翟法司，天時人事，抑亦可知，豈能守死獄中乎！」讓驚喜叩頭曰：「讓，圈牢之豕，死生唯黃曹主所命！」君漢即破械出之。讓再拜曰：「讓蒙再生之恩則幸矣，奈黃曹主何！」因泣下。君漢怒曰：「本以公為大丈夫，可救生民之命，故不顧其死以奉脫，奈何反效兒女子涕泣相謝乎！君但努力自免，勿憂吾也！」讓遂亡命於瓦崗為群盜，同郡單雄信，驍健，善用馬槊，聚少年往從之。離狐徐世勣家於衛南，年十七，有勇略，說讓曰：「東郡於公與勣皆為鄉里，人多相識，不宜侵掠。滎陽、梁郡，汴水所經，剽行舟、掠商旅，足以自資。」讓然之，引眾入二郡界，掠公私船，資用豐給，附者益眾，聚徒至萬餘人。
《舊唐書・單雄信傳》：
單雄信者，曹州人也。翟讓與之友善。少驍健，尤能馬上用槍，密軍號為「飛將」。
《舊唐書・李勣傳》：
李勣，曹州離狐人也。隋末徙居滑州之衛南。本姓徐氏，名世勣，永徽中，以犯太宗諱，單名勣焉。家多僮僕，積粟數千鐘，與其父蓋皆好惠施，拯濟貧乏，不問親疏。大業末，韋城人翟讓聚眾為盜，勣往從之，時年十七，謂讓曰：「今此土地是公及勣鄉壤，人多相識，不宜自相侵掠。且宋、鄭兩郡，地管御河，商旅往還，船乘不絕，就彼邀截，足以自相資助。」讓然之，於是劫公私船取物，兵眾大振。隋遣齊郡通守張須陀率師二萬討之，勣與頻戰，竟斬須陀於陣。
大體上，翟讓是犯了法的隋朝官員，被迫落草為寇。單雄信是翟讓的好朋友，驍勇善戰。徐世勣則出身富戶，曾斬張須陀。有軍事、有金錢，卻少了遠見，只知「劫公私船取物」，乃瓦崗軍初期的模樣。
曹州位處山東。大業七年 (公元 611 年) 秋，河北、山東大水，漂沒三十餘郡，餓殍滿野。適逢瓦崗軍聚眾起事亦在大業七年，前者明顯導致後者出現。
(二) 蒲山公李密加盟
瓦崗軍成為具規模的反隋力量，多得李密的加盟。
《舊唐書・李密傳》：
李密，字玄邃，本遼東襄平人。魏司徒弼曾孫，後周賜弼姓徒何氏。祖曜，周太保、魏國公；父寬，隋上柱國、蒲山公，皆知名當代。徙為京兆長安人。
李弼是西魏八柱國之一，官拜趙郡公。北周時為太師，進封趙國公，死後追封魏國公。他曾在爾朱天光手下為別將，後歸順宇文泰，協助擊敗高歡。換言之，李弼屬關隴武將系統。
關隴集團出身的李密，跟楊玄感是好朋友，楊玄感的父親楊素，正是關隴集團核心人物，也是隋煬帝的心腹。
楊玄感黎陽起兵，標誌著關隴集團內部分裂。李密作為關隴集團中反隋煬帝的一分子，於玄感兵敗後，輾轉投靠瓦崗軍。
《資治通鑑卷一百八十三》：
密察諸帥唯翟讓最強，乃因王伯當以見讓，為讓畫策，往說諸小盜，皆下之。讓悅，稍親近密，與之計事，密因說讓曰：「劉、項皆起布衣為帝王。今主昏於上，民怨於下，銳兵盡於遼東，和親絕於突厥，方乃巡遊揚、越，委棄東都，此亦劉、項奮起之會也。以足下雄才大略，士馬精銳，席捲二京，誅滅暴虐，隋氏不足亡也！」讓謝曰：「吾儕群盜，旦夕偷生草間，君之言者，非吾所及也。」
「吾儕群盜，旦夕偷生草間」這是瓦崗軍組成的初衷。可是，李密卻不以為然，主張「席捲二京，誅滅暴虐」。此處李密和瓦崗軍諸人 (即山東豪族) 已有理念上的分歧。
李密人際手腕出眾，招納不少豪傑，《資治通鑑卷一百八十三》：
會有李玄英者，自東都逃來，經歷諸賊，求訪李密，云「斯人當代隋家」。人問其故，玄英言：「比來民間謠歌有《桃李章》曰：『桃李子，皇后繞揚州，宛轉花園裡。勿浪語，誰道許！』『桃李子』，謂逃亡者李氏之子也；皇與后，皆君也；『宛轉花園裡』，謂天子在揚州無還日，將轉於溝壑也；『莫浪語，誰道許』者，密也。」既與密遇，遂委身事之。前宋城尉齊郡房彥藻，自負其才，恨不為時用，預於楊玄感之謀。變姓名亡命，遇密於梁、宋之間，遂與之俱游漢、沔，遍入諸賊，說其豪傑；還日，從者數百人，仍為遊客，處於讓營。讓見密為豪傑所歸，欲從其計，猶豫未決。
加上立下不少戰功，《資治通鑑卷一百八十三》：
密因說讓曰：「今四海糜沸，不得耕耘，公士眾雖多，食無倉稟，唯資野掠，常苦不給。若曠日持久，加以大敵臨之，必渙然離散。未若先取滎陽，休兵館谷，待士馬肥充，然後與人爭利。」讓從之，於是破金堤關，攻滎陽諸縣，多下之。
滎陽太守郇王慶，弘之子也，不能討，帝徙張須陀為滎陽通守以討之。庚戌，須陀引兵擊讓，讓向數為須陀所敗，聞其來，大懼，將避之。密曰：「須陀勇而無謀，兵又驟勝，既驕且狠，可一戰擒也。公但列陳以待，密保為公破之。」讓不得已，勒兵將戰，密分兵千餘人伏於大海寺北林間。須陀素輕讓，方陳而前，讓與戰，不利，須陀乘之，逐北十餘里；密發伏掩之，須陀兵敗。密與讓及徐世勣、王伯當合軍圍之，須陀潰圍出；左右不能盡出，須陀躍馬復入救之，來往數四，遂戰死。所部兵晝夜號哭，數日不止，河南郡縣為之喪氣。
又懂得以退為進，《資治通鑑卷一百八十三》：
有賈雄者，曉陰陽占候，為讓軍師，言無不用。密深結於雄，使之托術數以說讓；雄許諾，懷之未發。會讓召雄，告以密所言，問其可否，對曰：「吉不可言。」又曰：「公自立恐未必成，若立斯人，事無不濟。」讓曰：「如卿言，蒲山公當自立，何來從我？」對曰：「事有相因。所以來者，將軍姓翟，翟者，澤也，蒲非澤不生，故須將軍也。」讓然之，與密情好日篤。
翟讓終於對李密予以高度信任，「讓乃令密建牙，別統所部，號蒲山公營」是一個好證明。
(三) 招納北齊重臣後人
李密請來祖君彥。
《新唐書・李密傳》：
祖君彥，齊仆射孝徵子。博學強記，屬辭贍速。薛道衡嘗薦之隋文帝，帝曰：「是非殺斛律明月人兒邪？朕無用之。」煬帝立，尤忌知名士，遂調東都書佐，檢校宿城令，世謂祖宿城。負其才，常郁郁思亂。及為密草檄，乃深斥主闕。密敗，世充見之，曰：「汝為賊罵國足未？」君彥曰：「跖客可使刺由，但愧不至耳！」世充令撲之。既困臥樹下，世充已自欲盜隋，中悔，命醫許惠照往視之，欲其蘇。郎將王拔柱曰：「弄筆生有余罪。」乃蹙其心，即死，戮屍於偃師。
《北齊書・祖珽傳》：
祖珽，字孝徵，范陽狄遒人也。父瑩，魏護軍將軍。
《魏書・祖瑩傳》：
祖瑩，字元珍，范陽遒人也......
瑩年八歲，能誦詩書，十二，為中書學生。好學耽書，以晝繼夜，父母恐其成疾，禁之不能止，常密於灰中藏火，驅逐僮僕，父母寢睡之後，燃火讀書，以衣被蔽塞窗戶，恐漏光明，為家人所覺。由是聲譽甚盛，內外親屬呼為「聖小兒」。尤好屬文，中書監高允每歎曰：「此子才器，非諸生所及，終當遠至。」
時中書博士張天龍講尚書，選為都講。生徒悉集，瑩夜讀書勞倦，不覺天曉。催講既切，遂誤持同房生趙郡李孝怡曲禮卷上座。博士嚴毅，不敢還取，乃置禮於前，誦尚書三篇，不遺一字。講罷，孝怡異之，向博士說，舉學盡驚。後高祖聞之，召入，令誦五經章句，並陳大義，帝嗟賞之。瑩出後，高祖戲盧昶曰：「昔流共工於幽州北裔之地，那得忽有此子？」昶對曰：「當是才為世生。」以才名拜太學博士。徵署司徒、彭城王勰法曹行參軍。高祖顧謂勰曰：「蕭賾以王元長為子良法曹，今為汝用祖瑩，豈非倫匹也。」敕令掌勰書記。瑩與陳郡袁翻齊名秀出，時人為之語曰：「京師楚楚，袁與祖；洛中翩翩，祖與袁。」再遷尚書三公郎。尚書令王肅曾於省中詠悲平城詩，云：「悲平城，驅馬入雲中。陰山常晦雪，荒松無罷風。」彭城王勰甚嗟其美，欲使肅更詠，乃失語云：「王公吟詠情性，聲律殊佳，可更為誦悲彭城詩。」肅因戲勰云：「何意悲平城為悲彭城也？」勰有慚色。瑩在座，即云：「所有悲彭城，王公自未見耳。」肅云：「可為誦之。」瑩應聲云：「悲彭城，楚歌四面起；屍積石樑亭，血流睢水裏。」肅甚嗟賞之。勰亦大悅，退謂瑩曰：「即定是神口。今日若不得卿，幾為吳子所屈。」
......瑩以文學見重，常語人云：「文章須自出機杼，成一家風骨，何能共人同生活也。」蓋譏世人好偷竊他文，以為己用。而瑩之筆札，亦無乏天才，但不能均調，玉石兼有，製裁之體，減於袁、常焉。性爽俠，有節氣，士有窮厄，以命歸之，必見存拯，時亦以此多之。其文集行於世。子珽，字孝徵，襲。
據此，祖君彥是北齊重臣的後人，而且屬於北方儒臣集團。
另外，有程知節。
知節之曾祖父程興，是北齊兗州司馬。祖父程哲，是北齊晉州司馬。父親程婁，是濟州大中正，後追贈使持節瀛州諸軍事、瀛州刺史。
隨著裴仁基 (祖父裴伯鳳為北周汾州刺史。裴仁基「少驍武，便弓馬」，隋文帝開皇初年為親衛，從軍參加平陳戰役，作戰勇猛，後為漢王楊諒親信。隋煬帝楊廣即位，楊諒造反，裴仁基苦苦勸諫，被囚入獄中。楊諒兵敗，煬帝拜裴仁基為護軍)、秦叔寶 (以勇猛驃悍著稱，原為來護兒部將) 等人的投降，瓦崗軍聲勢日益浩大。
不過，從戰鬥力上講，瓦崗軍並非最強，《資治通鑑卷一百八十三》：
世充士卒皆江、淮剽勇，出入如飛。世充先索得一人貌類密者，縛而匿之。戰方酣，使牽以過陳前，噪曰：「已獲李密矣！」士卒皆呼萬歲。其伏兵發，乘高而下，馳壓密營，縱火焚其廬舍。密眾大潰，其將張童仁、陳智略皆降，密與萬餘人馳向洛口。
(四) 翟讓被殺及其影響
翟讓無遠見，非成大事之徒，《資治通鑑卷一百八十三》：
讓謂密曰：「今資糧粗足，意欲還向瓦崗，公若不往，唯公所適，讓從此別矣。」讓帥輜重東引，密亦西行至康城，說下數城，大獲資儲。讓尋悔，復引兵從密。
李密卻壯大了瓦崗軍，儘管其表示「將軍姓翟，翟者，澤也，蒲非澤不生，故須將軍也」，一山始終不能藏二虎，《資治通鑑卷一百八十四》：
總管崔世樞自鄢陵初附於密，讓囚之私府，責其貨，世樞營求未辦，遽欲加刑。讓召元帥府記室邢義期博，逡巡未就，杖之八十。讓謂左長史房彥藻曰：「君前破汝南，大得寶貨，獨與魏公，全不與我！魏公我之所立，事未可知。」
「大得寶貨，獨與魏公，全不與我」，翟讓正在失勢！
然而，翟讓畢竟尊重李密，《資治通鑑卷一百八十四》：
翟讓司馬王儒信勸讓自為大塚宰，總統眾務，以奪密權，讓不從。讓兄柱國滎陽公弘，粗愚人也，謂讓曰：「天子汝當自為，奈何與人！汝不為者，我當為之！」讓但大笑，不以為意，密聞而惡之。
凡不知深謀遠慮者，待人普遍較真誠，反之，則疑心重重，終萌生先下手為強的念頭，李密便是這類人。
《舊唐書・李密傳》：
密聞其言，陰有圖讓之計。會世充列陣而至，讓出拒之，為世充所擊，讓軍少失利，密與單雄信等率精銳赴之，世充敗走。明日，讓徑至密所，欲為宴樂，密具饌以待之，其所將左右，各分令就食。密引讓入坐，以良弓示讓，讓方引滿，密遣壯士自後斬之，並殺其兄寬及王儒信。讓部將徐世勣為亂兵所斫，中重瘡，密遽止之，得免，單雄信等頓首求哀，密並釋而慰諭之。於是詣讓連營，諭其將士，無敢動者。乃命徐世勣、單雄信、王伯當分統其眾。
值得注意是李密的手法，翟讓的兄長及司馬被殺，徐世勣、單雄信竟獲釋放而慰諭之。李密顯然不是要將舊人全數肅清，他只想牢牢掌握瓦崗軍的領導地位，以實現反隋大業。
翟讓死後，瓦崗軍徹底擺脫草莽、流寇氣，文官、武將兩系統並立，一律聽從李密號令，儼如準政府。
(五) 投降李唐陣營
李密為王世充所敗，投降李唐陣營。李唐陣營也是準政府規模，按道理，瓦崗軍應散入李唐政府，為李唐政權效力。
但是，瓦崗軍之所以有準政府規模，全賴李密一人的貢獻、付出。要李密放棄多年來的辛苦經營，恐怕是不可能的事。
李密卒之作反，落得被殺的下場。瓦崗軍的徐世勣、程知節、秦叔寶等為李唐陣營所吸納，瓦崗軍解散。
唐高宗欲廢王皇后改立武昭儀，關隴集團、漢人士族俱反對，李勣 (即徐世勣) 一句「此陛下家事，何必更問外人」令形勢逆轉，由此可知山東豪族在唐朝仍然具有影響力，與關隴集團、漢人士族鼎足而立。
