这时期北伐军的作战部署是：分东路、中路、西路三路进军。何应钦、白崇禧为东路军正、副总指挥，主攻上海、杭州地区；中路军蒋介石、李宗仁为正、副总指挥，主攻南京、安徽地区；唐生智为西路军总指挥，与冯玉祥的国民军从南北夹攻河南省。
到3月下旬，三路北伐军捷报频传，大获全胜。蒋介石的中路军攻克南京后，即将此地作为总司令部大本营，为将来在这里立都打基础，并成立宪兵团，扩大侍卫队。由原司令部高参孙星环任宪兵团团长，蒋孝先任该团一营营长；王世和升任侍卫长；毛庆祥升任机要科长，统管北伐军所有机密文件及“蓝衣队”搜集来的情报。
北伐军进展如此神速，除了因苏联供给精良武器装备外，主要原因是军中的共产党人起到了中坚、骨干作用。共产党人的勇敢和深得人心的政治纲领，令蒋介石惶恐不已。北伐军占领上海不久，“蓝衣队”呈来重要情报，告知蒋介石：共产党于3月23日成立了“上海特别市临时政府”，并通令3月24日为上海市复工、开市、开课日。
这个消息对蒋介石震动很大。共产党的存在对他如芒刺背，他越来越感到一种严重的威胁。蒋介石立刻召集“蓝衣队”核心成员在南京总司令部行营开会，商讨对策。
孙星环一如既往坚持对共产党实行镇压，其他成员都惟蒋介石之命是从。蒋介石与毛庆祥交换了意见，毛庆祥清了清嗓子说：“根据自北伐以来‘蓝衣队’所呈来的报告，共产党对我们的威胁，已经远远超过了其他敌人。在一般人的印象中，北伐的胜利，并不是蒋总司令的功劳，而是共产党人在军队中起到了中坚作用，这也许正是他们的阴谋，以便在全国光复后，来争夺我们辛辛苦苦打下来的天下……事实上，就当前的形势来看；军阀已成翁中之鳖，败局已定。国民党内的政敌，胡汉民、许崇智已被总司令打倒，汪精卫亦深感总司令的强大，自退江山，而李宗仁、白崇禧也于北伐前对总司令俯首称臣。因此，对我们真正构成威胁的是共产党！我过去曾以‘兔未死，狗不烹’来比喻我们和共产党之间的关系。但现在情况已有了根本改变，‘兔’——北方残余军阀已陷入我们的重围，但‘狗’——共产党人已经对我们呲牙咧嘴，露出了凶相，他们成立‘上海特别市临时政府’就是最明显的表现。因此，‘清共’已经成了当前刻不容缓的头等大事，趁他们还没有防备，多杀一个共产党人，我们将来就会少一份危险！”
毛庆祥的这番话，是依照蒋介石的授意说的，众人统一了想法之后，接着研究具体措施。大家一致认为，上海是中国经济文化的中心，更是共产党最为活跃的地方，因此，“清党”的重心应该是上海。上海现由白崇禧掌管，蒋介石对他不完全放心，决定派一位心腹去具体督促。那次在广东财政大楼蒋介石遇刺时，王世和、蒋富寿立了头功，蒋孝先心里一直不服，现见有了机会，自告奋勇去上海。蒋介石点头，并特别吩咐说：“你去到哪里，不能只依赖一个方面的势力，上海共产党是非常强大的，有严格的组织纪律。具体如何实施，你可与驻上海的东路军政治部主任陈群、上海市长杨虎协商。另外，上海表帮势力是一个大可利用的组织，杜月笙等与我拜过把子，他是很有办法的，我写封信要他帮助你，你一定要把上海的共产党人一网打尽。宗禳（毛庆祥）说得对，现在多杀一个共产党，我们将来就少一份危险。你准备好后，马上报告，我再命令各省在同一天实行清党。”他转对孙星环说：“南京这边的清党任务交给你们宪兵团，散会后，你就可以去布置，摸清共产党在南京的活动情况。”
