想要弱化左宗棠的影响，最首接的方法就是减缓楚军发展的速度，所以，曾纪泽才想抢先夺取本该属于左宗棠的地盘。
5月初，陈玉成兵团覆灭后不久，曾国藩即挥师东进，接连攻克长江两人岸要塞，大军进逼金陵。洪秀全不得不连发诏令，命李秀成回师西援天京。5月中旬，在洪秀全再三严厉催逼之下，李秀成只得撤上海、太仓之围，率部回到苏州，与众王共商回援天京之议。主力撤退之后，太平军在上海外围的兵力所剩无多，被迫由进攻转为了防御，这就给了淮军扫清上海外围之敌的有利机会。
在经过西个月的募兵与训练之后，丁日昌为曾纪泽又组建了三个团，约一万余人的兵力。新组建的六、七、八团之中，有太平军投降的士兵、有地方团练兵勇，有商贩农民，也有少部分读书人，总之成份相当的复杂。
曾纪泽以胡雪参、张树珊、向望海，分别担任各团团长，并挑选新军中较为出色者担当下级军官。并责令包括团长在内的三团排以及军官，全部进入黄浦军事学堂进修，对他们进行了全方位的西式军事训练培养，以及思想文化教育。而后，又令这些新军军官，配合军校的洋教习，对所辖的新兵进行训练。
由于战场形势的变化多端，曾纪泽需要将新建的三个团马上投入到战斗之中，故而只能采取连打仗，边培训的方式。为了这些军官们的培训成果，曾纪泽特意在黄浦军事学堂的大操场上举行了一次阅兵仪式。
一队队扛着先进枪械的学员，迈着整齐的步伐从阅兵主席台前走过，他们口中高喊着曾纪泽为黄浦军事学堂写下的校训“以服从命令为天职，以保卫国家为荣誉”，士气精神颇为旺盛。
这些学员们的步伐虽然比不上当代军人整齐划一，但这并不是曾纪泽所看重的，令他感到欣慰的是从学员们身上看到的那种振奋的精神，热血的气势。从他们的眼神中，曾纪泽不光可以看到决心与意志，还可以看到智慧的光辉。这不仅仅与八旗、绿营兵的愚蠢、萎靡有着天壤之别，甚至比强悍的湘勇也更胜一筹。
在这些学员的身上，曾纪泽看到了自己的未来与希望。
“我的曾校长，你给的时间太过短暂，我只能把这些学员们训练成这样的效果，希望你不会太失望。”站在曾纪泽身边一同检阅的戈登总教习显然对他的训练成果不是太满意。
“恰恰相反，我很满意。你能在这么短的时间内，把先进的军事素养灌注在他们的身上，这是一件很不容易的事。要知道，毕竟我们这个国家的人民还不够开明，接受新鲜的思想并不是那么自然而然。少校先生，看来我聘请你做这所军校的总教习，确实是一个明智的决定。”曾纪泽给了戈登最高的评价和最真诚的鼓励。
戈登马上来了信心，昂着头说道：“我相信我的这些学生们，会在校长你的平叛之战中，发挥最出色的指挥，并成为淮军每一名士兵的楷模。”
曾纪泽笑了笑，“希望如此，不过，真正的战争才是检验他们是否合格的唯一标准，就让们就拭目以待吧。”