面对国民党的血腥屠杀，中国共产党奋起反击，但是，在最初的时候，曾经选错了合作对象。张发奎是北伐战争的风云人物。北伐期间，他率部初战醴陵，续战平江，随之扑向荆楚门户汀泗桥、贺胜桥，会攻武昌，战江西马回岭，进军河南，立下了赫赫战功，是著名的国民党左派将领。
正因如此，自北伐战争开始，张发奎就与共产党人有过密切的合作。他的部队是共产党员最集中的部队。先后在他部队任职的著名共产党人有廖乾吾、叶挺、曹渊、蒋先云、许继慎、周士第、郭沫若、恽代英、高语罕、张云逸、卢德铭以及贺龙、叶剑英等。到北伐后期，张发奎任第二方面军总指挥后，在张发奎的军队中有2500至3000名共产党员。
其中，叶挺第二十四师、贺龙第二十军就是党发动南昌起义的基本力量；卢德铭第二方面军警卫团是发动秋收起义的主力；叶剑英第二方面军教导团是发动广州起义的主力。
对于张发奎“很红”，国民党党内早有微言。据李宗仁回忆，当时他曾劝张要提防共产党，李对张说：我说你们第四军里，共产党最多，你如对他们不加约束，将来军队会不听你指挥的。张说叶挺和他是广东北江的小同乡，从小便在一起，可以说是如兄如弟，以他和叶的“私人关系”，他认为叶挺绝不会和他为难的。我说：“共产党还谈什么私人关系，他们只知道第三国际的命令，你别做梦了。”张说：“不会的，绝不会的。”
“四一二”政变之后，张发奎主张立即出兵“东征讨蒋”；二次北伐回到武汉后，他也表示“蒋逆为吾人目前之敌人，非出师讨伐不可”。甚至在“分共”之后，张发奎仍大批接纳共产党人，如有人后来回忆“：张发奎将军由汪精卫宣布‘国共和平分家’后，不但不将我们党的同志‘清除’，反而收容被国民党驱逐出来的同志。……我想起在武汉时流行的那一段传说：蒋介石屠杀共产党，朱培德遣送共产党，张发奎收容共产党。”汪精卫也说：“从武汉决定制裁共产党以后，武汉的共产党徒全到四军十一军二十军去了，张总指挥因为中央扩大会议决定并已经明令保护共产党的安全，也无法驳而不要。及至他们到四军十一军二十军工作，张总指挥又以为他们是帮助国民革命，所以优容他们，用恽代英做总指挥部的总参谋长，高语罕做秘书长。”
因此，在汪精卫“分共”之初，党对张发奎还是抱有一定希望的。
7月中旬，“中共中央确定组织民众武装起义的新政策，着手制订湘、鄂、粤、赣四省秋收起义的计划。同时决定以中共所掌握和影响的部分北伐军为基本力量，联合武汉国民政府第二方面军总指挥张发奎，重返广东，实行土地革命，建立新的革命根据地，举行第二次北伐”。
但随着局势的进一步变化，张发奎开始动摇了。“七一五”政变之前，汪精卫加紧策划“分共”，“找第四军军长张发奎商量，张发奎怕控制不了军队，有些犹豫。汪精卫就拿出陈独秀泄露的共产国际的指示，添油加醋地说：‘共产党要消灭国民党，要把军权抓到手上，跟他们合作不下去了，还是分开的好。’”
“七一五”之后，“唐生智正在积极屠杀我党，压迫工农运动。汪精卫已完全投降于唐。张发奎态度虽仍表示反唐，却已深受汪之影响，高唱拥汪，并表示对我们不满，有‘在第二方面军之高级军官中的C.P.分子如叶挺等须退出军队或脱离C.P.’之表示”。
30多年后，张发奎对他当时作出的选择有这样一个说明，他说：我认为，革命完成以前，革命力量不应分裂。但是，如果汪精卫要“分共”，我支持他，因为他对这一问题比我有更清楚的了解。我以前已经说过，军人被告之，服从是他的天职。这可能很危险。年轻的军人易于被引入歧途。在这种情况下，我没有认真地考虑，哪种政策是正确的。因为汪精卫认为这是正确的，我也就这样想。我对于军事的兴趣远高于政治。
一方面是汪精卫拼命地拉张发奎；另一方面，共产党人也一直在做他的工作。与其他国民党人不同，由于张部共产党甚多，他要是“分共”，简直等于自断手足。故他迟迟下不了“分共”的决心。
国共彻底决裂在即，何去何从？是接受共产党人的召唤，站到革命一边；还是冒着部队分裂的危险，附和反革命？张发奎还幻想再拖一拖，但汪精卫不答应，共产党也不可能再等下去了。
从当时面临的具体问题看，汪精卫、唐生智“分共”后，打着“东征讨蒋”的旗号，兵分两路，江北一路为唐生智所部，江南一路为张发奎所部，张部又以贺龙、叶挺部队为前锋，贺、叶无论胜负，都面临“被解决”之忧，而汪、唐坐收渔人之利。
中共方面，则识破了汪精卫此种诡计，希望争取张发奎与汪、唐分裂，一起回广东。
当张发奎的部队到九江、南昌一线后，是继续东进，还是调头南下，必须作出抉择。到了这时，共产党不能再糊里糊涂去当炮灰，或者坐以待毙了，只有对张发奎最后摊牌；或者与我们一起携手回粤；如不愿意，共产党就只有甩开你张总指挥，自己干了！
1927年7月26日，中共中央召开常委会议，苏联军事顾问加伦在会上说：“今日会到张发奎，和他讨论军事，他已赞成”，部队集中南浔路一带，“不再东进，第一步按兵不动，第二步渐次往南昌移动回粤”。
加伦说，张发奎如能赞成回粤，又不强迫叶挺等退出C.P.，在此两条件之下，可与张发奎共同回粤。“若张不能同意上述二条件，那我们就不得已要在南昌干起来”。
在此最后时刻，张发奎动摇了，选择了后退。
7月29日，汪精卫、孙科、张发奎在庐山召开“分共”会议，与会的叶剑英次日返回后告知“，老张靠不住了，他（指张发奎——编者注）说：真是逼得没法，我只好投降右派”，“他们已决定解决叶、贺”。
至此，争取张发奎的工作已经没有希望了，党遂决定以叶、贺部队为主，发动南昌起义。
