1976年10月26日，中央作出改组上海市委的决定。10月27日，苏振华、倪志福、彭冲主持召开了上海区局县干部大会。这是他们第二次在上海市广大领导干部面前亮相。会场气氛热烈而紧张。苏振华首先传达了中央改组上海市委和市革委会的决定，宣布了对他和倪志福、彭冲3位同志的任命，宣告彻底夺回了张春桥、姚文元、王洪文已把持10年之久的领导权。

　　射人先射马，擒贼先擒王。苏振华为保证落实中央制定的“既要解决问题，又要稳定局势”的方针，决心从组织、思想上彻底清除“四人帮”遗留的隐患。他与倪志福、彭冲等反复研究，决定从原上海市委常委入手，彻底查清“四人帮”在上海的帮派体系和罪行。

　　从10月27日起，一连数日，苏振华、倪志福、彭冲在锦江饭店亲自坐阵，召开上海市委常委会，规定原市委书记马天水、徐景贤、王秀珍和常委张敬标、冯国柱等人必须参加，自己交代、互相揭发有关发动武装叛乱的问题。

　　马、徐、王3人知道武装叛乱罪责难负，于是避重就轻，互相推诿，能瞒则瞒，能推则推，继续负隅顽抗。

　　苏振华果断决定采取组织措施，将参与武装叛乱拒不交代、民愤极大的原上海市委7个常委交上海警备区监护，实行隔离审查；对有所交代，但罪行深重的陈阿大等6人送回原单位监护，专案审查。“四人帮”上海余党的核心集团就此彻底土崩瓦解。

　　经过深入追查，中央工作组获取了马、徐、王等人发动武装叛乱的一大批罪证，基本查清了“四人帮”余党从10月8日至20日的一系列罪恶活动。

　　11月4日开始，苏振华、新市委又开始领导新一阶段的揭批查行动。这一阶段的运动主要是广泛发动群众，大张旗鼓地揭发批判声讨“四人帮”篡党夺权的滔天罪行，教育群众，政策攻心，帮助挽救犯错误的干部，从上到下分化瓦解“四人帮”的帮派体系。

　　后来，在审判“四人帮”时，法庭出具的各种证据材料有三分之一是上海提供的。主持审判工作的彭真同志曾说:“上海的清查工作最彻底，没有上海的清查，对‘四人帮’的审判就无法进行。