时右骁卫大将军来护儿以舟师自东莱将入海趣平壤，玄感遣家奴伪为使者从东方来，诈称护儿反。六月，乙巳，玄感入黎阳，闭城，大索男夫，取帆布为牟、甲，署官属，皆准开皇之旧。移书傍郡，以讨护儿为名，各令发兵会于仓所。郡县官有干用者，玄感皆以运粮追集之，以赵怀义为卫州刺史，东光尉元务本为黎州刺史，河内郡主簿唐祎为怀州刺史。
治书侍御史游元，督运在黎阳，玄感谓曰：“独夫肆虐，陷身绝域，此天亡之时也。我今亲帅义兵以诛无道，卿意如何？”元正色曰：“尊公荷国宠灵，近古无比，公之弟兄，青紫交映，当谓竭诚尽节，上答鸿恩。岂意坟土未干，亲图反噬！仆有死而己，不敢闻命！”玄感怒而囚之，屡胁以兵，不能屈，乃杀之。元，明根之孙也。
玄感选运夫少壮者得五千余人，丹阳、宣城篙梢三千余人，刑三牲誓众，且谕之曰：“主上无道，不以百姓为念，天下骚扰，死辽东者以万计。今与君等起兵以救兆民之弊，何如？”众皆踊跃称万岁。乃勒兵部分。唐祎自玄感所逃归河内。
先是玄感阴遣家僮至长安，召李密及弟玄挺赴黎阳。及举兵，密适至，玄感大喜，以为谋主，谓密曰：“子常以济物为己任，今其时矣！计将安出？”密曰：“天子出征，远在辽外，去幽州犹隔千里。南有巨海，北有强胡，中间一道，理极艰危。公拥兵出其不意，长驱入蓟，据临渝之险，扼其咽喉。归路旣绝，高丽闻之，必蹑其后，不过旬月，资粮皆尽，其众不降则溃，可不战而擒，此上计也。”玄感曰：“更言其次。”密曰：“关中四塞，天府之国，虽有卫文升，不足为意。今帅众鼓行而西，经城勿攻，直取长安，收其豪杰，抚其士民，据险而守之。天子虽还，失其根本，可徐图也。”玄感曰：“更言其次。”密曰：“简精锐，昼夜倍道，袭取东都，以号令四方。但恐唐祎告之，先已固守。若引兵攻之，百日不克，天下之兵四面而至，非仆所知也。”玄感曰：“不然，今百官家口并在东都，若先取之，足以动其心。且经城不拔，何以示威！公之下计，乃上策也。”遂引兵向洛阳，遣杨玄挺将骁勇千人为前锋，先取河内。唐祎据城拒守，玄挺无所获。
祎又使人告东都越王侗与樊子盖等勒兵为备，修武民相帅守临清关。玄感不得度，乃于汲郡南渡河，从之者如市。使弟积善将兵三千自偃师南缘洛水西入，玄挺自白司马坂逾邙山南入，玄感将三千余人随其后，相去十里许，自称大军。其兵皆执单刀柳楯，无弓矢甲冑。东都遣河南令达奚善意将精兵五千人拒积善，将作监、河南赞治裴弘策将八千人拒玄挺。善意渡洛南，营于汉王寺；明日，积善兵至，不战自溃，铠仗皆为积善所取。弘策出至白司马坂，一战，败走，弃铠仗者太半，玄挺亦不追。弘策退三四里，收散兵，复结陈以待之；玄挺徐至，坐息良久，忽起击之，弘策又败，如是五战。丙辰，玄挺直抵太阳门，弘策将十余骑驰入宫城，自余无一人返者，皆归于玄感。
玄感屯上春门，每誓众曰：“我身为上柱国，家累巨万金，至于富贵，无所求也。今不顾灭族者，但为天下解倒悬之急耳！”众皆悦。父老争献牛酒，子弟诣军门请自効者，日以千数。
内史舍人韦福嗣，洸之兄子也，从军出拒玄感，为玄感所获；玄感厚礼之，使与其党胡师耽共掌文翰。玄感令福嗣为书遗樊子盖，数帝罪恶，云：“今欲废昏立明，愿勿拘小礼，自贻伊戚。”樊子盖新自外藩入为京官，东都旧官多慢之，至于部分军事，未甚承禀。裴弘策与子盖同班，前出讨贼失利，子盖更使出战，不肯行，子盖命引出斩之以徇。国子祭酒河东杨汪，小有不恭，子盖又将斩之；汪顿首流血，乃得免。于是将吏震肃，无敢仰视，令行禁止。玄感尽锐攻城，子盖随方拒守，玄感不能克。然达官子弟应募从军者，闻弘策死，皆不敢入城。韩擒虎子世咢、观王雄子恭道、虞世基子柔、来护儿子渊、裴蕴子爽、大理卿郑善果子俨、周罗睺子仲等四十余人皆降于玄感，玄感悉以亲重要任委之。善果，译之兄子也。