韦城翟让为东都法曹，坐事当斩。狱吏黄君汉奇其骁勇，夜中潜谓让曰：“翟法司，天时人事，抑亦可知，岂能守死狱中乎！”让惊喜曰：“让，圈牢之豕，死生唯黄曹主所命！”君汉卽破械出之。让再拜曰：“让蒙再生之恩则幸矣，柰黄曹主何！”因泣下。君汉怒曰：“本以公为大丈夫，可救生民之命，故不顾其死以奉脱，柰何反效儿女子涕泣相谢乎！君但努力自免，勿忧吾也！”让遂亡命于瓦岗为羣盗，同郡单雄信，骁健，善用马槊，聚少年往从之。离狐徐世绩家于卫南，年十七，有勇略，说让曰：“东郡于公与绩皆为乡里，人多相识，不宜侵掠。荥阳、梁郡，汴水所经，剽行舟、掠商旅，足以自资。”让然之，引众入二郡界，掠公私船，资用丰给，附者益众，聚徒至万余人。
时又有外黄王当仁、济阳王伯当、韦城周文举、雍丘李公逸等皆拥众为盗。李密自雍州亡命，往来诸帅间，说以取天下之策，始皆不信。久之，稍以为然，相谓曰：“斯人公卿子弟，志气若是。今人人皆云杨氏将灭，李氏将兴。吾闻王者不死。斯人再三获济，岂非其人乎！”由是渐敬密。
密察诸帅唯翟让最强，乃因王伯当以见让，为让画策，往说诸小盗，皆下之。让悦，稍亲近密，与之计事，密因说让曰：“刘、项皆起布衣为帝王。今主昏于上，民怨于下，锐兵尽于辽东，和亲绝于突厥，方乃巡游扬、越，委弃东都，此亦刘、项奋起之会也。以足下雄才大略，士马精锐，席卷二京，诛灭暴虐，隋氏不足亡也！”让谢曰：“吾侪羣盗，旦夕偷生草间，君之言者，非吾所及也。”
会有李玄英者，自东都逃来，经历诸贼，求访李密，云“斯人当代隋家”。人问其故，玄英言：“比来民间谣歌有桃李章曰："桃李子，皇后绕扬州，宛转花园里。勿浪语，谁道许！""桃李子"，谓逃亡者李氏之子也；皇与后，皆君也；"宛转花园里"，谓天子在扬州无还日，将转于沟壑也；"莫浪语，谁道许"者，密也。”旣与密遇，遂委身事之。前宋城尉齐郡房玄藻，自负其才，恨不为时用，预于杨玄感之谋。变姓名亡命，遇密于梁、宋之间，遂与之俱游汉、沔，徧入诸贼，说其豪杰；还日，从者数百人，仍为游客，处于让营。让见密为豪杰所归，欲从其计，犹豫未决。
有贾雄者，晓阴阳占候，为让军师，言无不用。密深结于雄，使之托术数以说让；雄许诺，怀之未发。会让召雄，告以密所言，问其可否，对曰：“吉不可言。”又曰：“公自立恐未必成，若立斯人，事无不济。”让曰：“如卿言，蒲山公当自立，何来从我？”对曰：“事有相因。所以来者，将军姓翟，翟者，泽也，蒲非泽不生，故须将军也。”让然之，与密情好日笃。
密因说让曰：“今四海糜沸，不得耕耘，公士众虽多，食无仓廪，唯资野掠，常苦不给。若旷日持久，加以大敌临之，必涣然离散。未若先取荥阳，休兵馆榖，待士马肥充，然后与人争利。”让从之，于是破金堤关，攻荥阳诸县，多下之。
荥阳太守郇王庆，弘之子也，不能讨，帝徙张须陁为荥阳通守以讨之。庚戌，须陁引兵击让，让向数为须陁所败，闻其来，大惧，将避之。密曰：“须陁勇而无谋，兵又骤胜，旣骄且狠，可一战擒也。公但列陈以待，密保为公破之。”让不得已，勒兵将战，密分兵千余人伏于大海寺北林间。须陁素轻让，方陈而前，让与战，不利，须陁乘之，逐北十余里；密发伏掩之，须陁兵败。密与让及徐世绩、王伯当合军围之，须陁溃围出；左右不能尽出，须陁跃马复入救之，来往数四，遂战死。所部兵昼夜号哭，数日不止，河南郡县为之丧气。鹰扬郎将河东贾务本为须陁之副，亦被伤，帅余众五千余人奔梁郡，务本寻卒。诏以光禄大夫裴仁基为河南道讨捕大使，代领其众，徙镇虎牢。