取得黎阳仓，稳定住形势之后，杨玄感便开始露出了他的獠牙。
杨玄感宣布在黎阳城内，关闭城门，大搜男夫，充作兵丁。又下令打开黎阳仓的库藏，分发给众人，并设置官署，废除杨广登基以来的一切新定制度，所有制度都按开皇年间的办法来办。
杨玄甚至连杨广改州为郡也不承认。
他又送文书到周围的州郡，以讨伐来护儿为名，让他们发兵，到粮仓所在地相会。
此时元务本、赵俊用等人才后知后觉地发现杨玄感这不像是要剿匪，反而是要造反。二人后悔不已，但是二人已经上了杨玄感的贼船，这时候作为杨玄感攻破黎阳仓的功臣，二人也下不了船了。
杨玄感为了收拢人心，对于此二人倒是不吝封赏，他将汲郡一分为二，东部以黎阳城为治所设黎州，元务本为黎州刺史。西部以卫县为治所设卫州，赵俊用为卫州刺史。
又以杨氏旧臣河内郡主簿唐祎为怀州刺史。
此时杨玄感手上有一万五六千人，他又挑选输送军粮的民夫中身强力壮者五千余人，丹阳、宣城郡的水手三千人，联合诸郡兵员，勉强凑了两万五千余人。
不得不说杨广在河北的穷兵黩武倒是帮了自己的忙，因为多重天灾人祸，黄河两岸的兵源早就枯竭，杨玄感虽然大肆搜索，可也没有征到多少人。
而且出人意料的是，黎阳仓内的确粮食充足，但是武器甲胄却没有多少，一部分被杨广在上一次征讨高句丽的时候给霍霍了，剩下的也早就拉到了涿郡。
有些跟想象的不一样，但杨玄感没有办法，只得用帆布作牟甲，而士兵每人只有一柄单刀，一个柳条盾，没有弓箭，也没有铠甲。
这样的军队，跟那些造反的民军没多大区别。
但事已至此，造反可没有回头路，无论如何也得进行下去。
杨玄感有些想家了，在弘农郡他的老巢，可是储备了无数的物资，都是为了造反用的，但现在全都用不上。
准备妥当之后，四月十八日，杨玄感杀三牲誓师，并以治书侍御史游元祭旗。
游元曾跟随黄明远北伐，此时已经六十岁的他还在黎阳督运军粮。杨玄感起事之后，便扣押了游元，并劝其投降。
游元乃是名臣，若能从之，必能大涨义军声望。
杨玄感对游元说道：“杨广乃是一个独夫，逞肆暴虐，已经使自己陷于绝远之地。今天下大乱，暴民四起，这是上天要亡了杨广。如今我亲率义兵，诛杀无道之君，匡扶社稷，乃是顺应天命，游公何不与我一同来做此事。”
游元愤怒地斥责道：“杨玄感，你也是国之重臣，深受国恩之人。汝父先楚公深受两代天子的宠信恩遇，近世无人可比，你们弟兄几人也都位居高官显爵，正是对国家竭诚尽节，上报鸿恩之时。今汝父坟土未干，您就亲自策划谋反！死后如何去见汝父。我游元虽不能杀贼，但唯有一死而已，绝不能从命！”
杨玄感无奈，只得将游元关押起来，屡次以兵器威胁，都不能使游元屈服，今日大军誓师，他便本着废物利用的心思，杀游元祭旗。
杀死游元之后，杨玄感走到众人面前，高呼道：“杨广无道，不以百姓为念，致使民不聊生，天下骚扰，死辽东者以万计，此皆杨广之过也。今玄感与君等起兵以救兆民之弊，何如？”
众人也早就对这个朝廷恨之入骨，因此纷纷高呼万岁。
杨玄感看着振奋的人心，心怀大慰。
誓师之后，便是分拨调遣军队。黎阳乃四战之地，又已经疲敝不堪，众人自然不能困守黎阳。
诸将对下一步该怎么走议论纷纷，有人以为趁机南下，还有人建议西进河东，更有人认为应该坚守黎阳······
杨玄感乃问策李密道：“法主（李密小字）兄，子常以济物为己任，今日正是时候，汝观今日之形势，计将安出？”
李密其实在此之前早就思索了杨玄感的出路，略有沉思，便说道：“天子出征，远在辽外，去幽州犹隔千里。辽西之地，南有巨海，北有强胡，中间一道，理极艰危。若公能拥兵出其不意，长驱入蓟，据临渝之险，扼其咽喉。杨广归路既绝，高丽闻之，必蹑其后，不过旬月，资粮皆尽，其众不降则溃，可不战而擒，此上计也。”
杨玄感低着头，听着李密的计策也不说话，思索了良久，这才说道：“法主再说说退一步的策略。”
李密接着说道：“关中四塞，天府之国，虽有卫文升、梁默等人，不足为意。今楚公帅众鼓行而西，经城勿攻，直取长安，收其豪杰，抚其士民，据险而守之。杨广虽还，已失其根本，可徐图也。”
杨玄感还是不是说话，又沉思许久，这才说道：“法主再说说再退一步的策略。”
李密有些吃惊，但还是说道：“若公此二策皆不取，则公可挑选精锐士卒，昼夜倍道，袭取东都，以号令四方。但恐消息败露，洛阳先已固守。若引兵攻之，百日不克，天下之兵四面而至，其结果非仆所知也。”
李密是不建议这一策略的。
杨玄感坐在营帐之中，思索了一夜。
第二日一早，杨玄感便对众人说道：“今百官家口并在东都，若先取之，足以动其心。且经城不拔，何以示威！法主之下计，乃上策也。”
李密再想与杨玄感争辩，却是被杨玄感止住。杨玄感于是率兵向洛阳进发，又命其弟杨玄挺率领骁勇之士三千人为前锋，先攻取河内。
李密眼看杨玄感不纳其策，满是惆怅，最终却无可奈何。
当然若是黄明远见到李密，听到他这三策，怕是会喷他一脸，什么上、中、下三策，尔等纯属纸上谈兵，想当然也。杨玄感难道不知道绝榆关道，入关中不好吗？非不愿尔，乃不能也。杨玄感此时选择叛隋，便是走了一条绝路，根本没有翻盘的任何可能。上策、中策、下策，都是下策，不过是什么时候灭亡罢了。