季，护羌校尉侯霸与骑都尉马贤率先反动反击，发兵袭击了安定郡的先零羌的分支牢羌，俘虏了一千多人，缴获马牛羊等两万多头。
这次胜利仍然无法扭转汉军的被动局面。次年（114年），羌人酋豪号多会同当煎羌、勒姐羌等诸羌骑兵攻掠武都郡、汉中郡以及巴郡。地处益州的西南夷板楯蛮族与汉军并肩作战，经过一番血战之后，号多战败，向北逃去，与零昌会合，再次切断了陇西通往长安的通道。
为了打通交通线，护羌校尉侯霸与马贤向西进攻号多的羌军，并在桴罕再破号多，杀死羌军二百余人。作为策应，凉州刺史皮杨也率军进攻狄道，但是却被羌军打得大败，损失了八百多人。
征战多年积劳成疾的侯霸病逝于兵营中，由汉阳太守庞参接任护羌校尉。
庞参是东汉时期赫赫有名的人物。据史书的记载，庞参“勇谋不测，卓尔奇伟，高材武略”，曾担任左校令，后来不知犯了什么法，被关进若卢监狱中。羌战的爆发给庞参一个崛起的机会，这有点类似于前苏联的名将罗科索夫斯基。当时在狱中的庞参给朝廷上书，提出自己对战争的看法，结果得到特赦，被委派到三辅（长安地区）督诸军，为保卫长安贡献甚大。
其后庞参担任羌乱十分严重的汉阳地区的太守，在任期间，他抑强助弱，刚正良直，政绩卓著，故而侯霸去世后，朝廷将护羌校尉的重职交给他。
上任伊始，庞参便对诸羌部落发动外交战，恩威并施，瓦解羌人同盟，加上此时羌人的领袖滇零已经去世，他的儿子零昌威望不足以服众，因而群龙无首。在庞参的外交攻势下，号多等羌豪率部众归降东汉政府，朝廷赐号多侯爵印绶，这样，庞参兵不血刃，打通中断已久的河西通道。
侯霸与庞参相续打通了陇西通道与河西通道。这是汉军战略上的重大胜利，至此，河西四郡（敦煌、酒泉、张掖、武威）、金城郡、陇西郡、汉阳郡、安定郡与东部长安洛阳的交通线畅通无阻，从而把曾经连为一片的羌人区分割成几个区域，为汉军逐个击破打下了坚实的基础。
陇西通道与河西通道的复通，意味着北地郡的零昌部落与南方的武都、益州的羌区被阻断。零昌意识到这种情况的危险，于是他派其部将吕叔都（应是汉人）率军南下益州，企图打通与益州诸羌的交通线。
中郎将尹就率部对吕叔都进行拦截，吕叔都经过几番进攻，仍然不能突破尹就的防线。尹就派遣蜀郡勇士陈省、罗横二人，秘密潜入敌人营中，刺杀吕叔都。吕叔都一死，表明零昌企图再度联合益州羌人的计划破产。此后，羌军遂陷入各自为战的尴尬境地之中。
汉军开始着手大反攻的战略。战略反攻的重点分别是盘踞于北地郡的零昌部落与盘踞在武都郡的参狼部落。
元初二年（115年），大反攻的序幕拉开了。
因为零昌部落的势力范围北地郡位于长安之北，所以朝廷任命班雄（班超的长子）驻守长安一带，而突击力量则为征西下将军司马钧统领的关中诸郡兵共计八千人，以及护羌校尉庞参统领的归降的羌胡骑兵七千余人。
司马钧与庞参兵分两路，分进合击。
羌军的主将是叛降的汉人杜季贡。三年前，杜季贡叛逃投奔羌天子滇零，滇零很是欣赏杜季贡的才华，封他为将军，驻守在丁奚城（宁夏灵武县）。在滇零死后，零昌因为年龄还小，便将军事指挥的重任交给了杜季贡。这个杜季贡颇有兵略，而且作战骁勇，倒是有几分本事。
庞参率七千名骑兵抵达勇士（地名，在甘肃省榆中县东），杜季贡以羌军精锐迎战，结果庞参吃了败仗，被迫撤出战斗。
在没有庞参部队的支援下，司马钧仍然孤军深入，兵临丁奚城下。此时杜季贡刚与庞参恶战了一场，兵疲马困，心知抵挡不住势头正盛的司马钧的攻击，便象征性地抵挡一番后，放弃丁奚城，假装逃跑，其实杜季贡并没有走远，而是潜伏在附近等待时机。
司马钧进入丁奚城之后，派下属仲光带着三千人出到城外，去收割羌人的庄稼。仲光出了城之后，并不听从司马钧的命令，不去收割庄稼，反倒率众军士去追击杜季贡的羌军，不想却中了杜季贡的埋伏。司马钧作为领导，下属居然不把他的命令当一回事，自作主张，挑战上级的权威，使得他很没面子。司马钧心中很是愤怒，得知仲光被羌人的围困的消息之后，幸灾乐祸，不派遣军队前往营救。
结果，仲光的三千人马在杜季贡主力的包围之下，全军覆没。
杜季贡乘胜杀回丁奚城。司马钧的八千人马损失了三千精锐，丁奚城也很难守住了，于是他下令撤军。
庞参错过了与司马钧会师的日期，担心受到朝廷的指责，也称重病在身，引军撤退。
第一次对零昌的打击就这样草草而终。
司马钧与庞参都没有躲过朝廷的追究，两人被逮捕下狱。司马钧在明知仲光被围的情况下，意气用事，置之不理，自知其罪难逃，在狱中自杀身亡。
庞参失期，又谎称有病，这个罪责也是相当重的，赖校书郎中马融极力向朝廷称道庞参智勇双全，应宽宥其过失，使其戴罪立功，方才保住一条性命。不过庞参被解职，由马贤担任护羌校尉；久经沙场的任尚被任命为中郎将，接替班雄，驻守三辅（长安一带），此时朝廷从各郡国招募了约二十万的步兵，看起来阵容颇为庞大，准备发动第二次对零昌的打击。
任尚很幸运，因为他走马上任之前，得到一位高人的指点。
这位高人是谁呢？正是前番以莫大勇气反对大将邓骘放弃凉州的虞诩，如今的他还只是个小小的怀县县令，但他对任尚说的一番话，却令这位久经沙场的悍将也不得不佩服。
虞诩对任尚说：“将军多次临危受命，讨逐群贼，掌控的三州屯兵二十万人，士兵们放弃农活，苦于兵役，却徒劳无功，人力物力的消耗极大，倘若此行无功而返，那么将军的处境就很不妙了。”