在完成了江苏的一系列部署之后，曾纪泽于1864年1月1月率淮军誓师西征。除嘉兴三个团、徐州两个团、胡雪参训导师镇守江苏之外，淮军此番西征兵力达十一个团，三万五千人之众，是为淮军成军以来，出师之盛，前所未有。
淮扬水师主力舰队，大小舰船及新式炮舰，共七十余艘，随同西征。淮军与计划兵分水陆两路，沿江西进，沿途扫荡太平军残部，攻城掠地，于1月中旬抵达了金陵，与曾国荃部一起，加入围城之战。
天京，忠王府。
李秀成怒气冲冲的回到了府中，一进大堂，就将手中的配刀拔出，狠狠的砍向面前的檀木椅子，几番挥刀，将那椅子砍了个粉碎。
“忠王息怒。”跟随在后的亲兵队长贺城栋从旁劝阻。
李秀成一腔的怒火无处发泄，他像是一头发了狂的狮子，听不进任何劝言，他疯了一般狂舞着手中的刀，将这大堂毁了个干净。
旁边的一干侍女们吓得魂不附体，不知所从，贺城栋急向她们使了个眼色，叫道：“快去请王妃来。”
侍女匆匆奔回内室，过不多时，一位容貌中等，却端庄慈祥的妇人急急忙忙的奔了来，她一见李秀成这般模样，先是一惊，随后便冲了上去，硬是夺下了他手中的刀，柔情劝道：“王爷，快把刀放下，小心伤了自己身子。”
李秀成似乎很听得进这位王妃的话，很顺从的被她夺下了刀，又被她扶着坐下。他这一番狂乱耗了不少体力，这时像脱了力气一般，斜坐在被他劈得只剩下一半的椅子上，只是大口大口的喘着粗气。
忠王妃不明就里，边吩咐下人赶紧拿茶来，边向贺城栋问道：“这到底是发生了什么事？王爷怎的会发这么大的脾气。”
贺城栋顿时恨咬牙切齿，愤愤不平的说道：“今天在殿上，姓洪的几位王爷诬陷咱们王爷，说王爷们收买民心，图谋夺权，他们还骂王爷是奸臣。更可气的是，天王居然相信了，竟然当着满朝文武地面斥责王爷由忠变奸，王爷当时就气得差点没背过气去。”
忠王妃听完解释，满心替李秀成觉得委屈，便是劝道：“王爷，天王被那几个洪姓王欺瞒，总是责难王爷，我看王爷也不必留在天京受气了，明天咱们就想办法离城与叔叔他们相聚吧。”
忠王妃指地叔叔便是侍王李世贤，尽管的封地浙江己在部沦于左宗棠楚军之手，但他还保有数万人，还坐守着十几座城池。
李秀成发泄完怒气，思绪渐渐恢复了冷静，他思前想后，斟酌了半天，唉叹道：“罢了，罢了，既然天王这般不信我，我留下也没什么意义，就听爱妃的，咱们走吧。”
贺城栋道：“现下天王将天京各门都划归洪姓王爷们把守，王爷要想出城，只怕他们不会放行呀。”
李秀成奋然而起，怒道：“本王离城正是合了他们的心意，他们若还敢阻拦，真就当本王是好欺负的么！”
李秀成遂命贺城栋召集天京城中他的近三千嫡系人马，由北面太平门出城而去，有敢阻拦者，他就强行杀出去。
王府中人一听说忠王要离天京，上下顿时忙成了一团，收拾东西，整理细软。忠王妃光衣服就装了五大车，再加上府中所藏金银珠宝，古玩绸缎，足有三十车之多。
也不知是谁将忠王要离城的消息传了出去，金陵城内一时人心慌乱，附近的百姓扶老携幼，自发的聚集在了忠王府前，不出一个时辰便有数千人之众。
这些百姓全跪在王府前，或是嚎啕大哭、或是磕头不止，众人尽皆央求忠王不要弃他们而去。
王府门前挤了这几千号人，将近把一条街都堵得水泄不通。那三十多车的细软，根本连动都动不了。李秀成无奈之下，只得出了王府，亲自来见这些请愿的百姓。
众人一见李秀成的面，顿时沸腾起来，嚎的比原来更响亮，磕头的咚咚撞地，哀求哭留之声，只怕半个金陵城也能听得见。
李秀成见了这般场景，一颗心顿时软了三分，他忙将跟前地一位老人家扶起，朗声向众人道：“各位兄弟姐妹，天京粮荒己久，秀成此番离去，只是想多筹集些粮食，再回来解天京之困。还请你们理解，放一条路让秀成离去吧。”
此番话一出，众人哭得更是声嘶力竭，只是不肯让路。那骨瘦如柴的老者扑嗵又跪了下来，抱着李秀成的腿哭道：“王爷是天国的顶梁之柱，王爷若是去了，这天京哪还能守得住呀？王爷你仁爱万民，就忍心把我们留给清妖的屠刀吗，王爷，你不能走呀。”
李秀成着实被这些百姓爱戴所感动，他眼眶中竟是含起泪水，眼睁睁的看着跟前的人们，犹犹豫豫不知该说些什么。
身旁的忠王妃见李秀成有反悔之意，急是从旁劝道：“王爷，时间不早了，咱们赶紧上路吧。”
这话被那老人听了去，他回头向众人呼道：“王爷就是咱们的救星，他若执意要走，咱们就在这里给他磕头送别，首到磕死为止吧。”
在他的号召之下，几千人山呼海啸般的狂撞起了地，此起伏彼的磕头声，汇聚起来，竟如战鼓一般震慑人心。头破血流，仍不放弃，鲜血染红了地面，一个个饥饿瘦弱地身躯，不断的停在血泊之中。
李秀成为此情景所震撼，他的一颗离去之心，彻底的被这些无助绝望的人们所击倒，他仰天长叹了一声，心中想道：“莫非天意如此，我李秀成注定要与这天京一同覆亡吗？”
感慨良久，他苦笑着向众人高喊道：“秀成能得你们的信任，死亦无憾了，我决定留下来，与天京共存亡。”话音一落。绝望的百姓们仿佛在滚滚渊流中抓到了最后的一根救命稻草，他们暂时忘却了悲伤，尽皆欢呼雀跃，大呼“忠王千岁，忠王千岁”。
忠王妃百般无奈，一声怨叹。转身拂袖回府。李秀成享受着万民的拥戴，脸上虽是一副欣慰之状，私下却是暗暗摇头。
曾纪泽兵分两路，一部分自上海搭乘淮扬水师溯江而上，一部分由苏州出发，先往镇江，再往金陵。曾纪泽命水师先行，而他则赶往苏州，与己在那里休整多时的吴长庆、潘鼎新等人会合。另一方面。他也要在离开江苏之前，与李鸿章有一个会晤。