随着太平军“第二次西征”的流产，安庆的形势越来越糟糕了。
太平军的当务之急就是正面解安庆之围。因为安庆正处江西、安徽、湖北要冲之地，军事地位极其重要。再说，安庆和天京唇齿相依，正应了那句话“安庆一日无恙，天京一日无险”。如果安庆失守，天京便濒临绝境了。所以，太平天国上下对安庆得失都十分在意。
但太平军攻武昌、保安庆的迂回战略决策没能实现，在和湘军的第一回合较量中，无疑已经败下阵来。
此刻，湘军统帅曾国藩觉得已经没有后顾之忧了，便调动全部军队，开始围攻安庆。
安庆城内的一万多名太平军已经被四万湘军围困了一年的时间。曾国荃的长濠法给太平军出了个难题，割断了城内和城外太平军的联系，他因此也被人们称作“曾铁桶”。
咸丰十一年三月（公元1861年4月下旬），陈玉成放弃武汉，挥军南下，经宿松、石牌，率军攻到集贤关，逼近围困安庆城的曾国荃部。不久，又在城东北的菱湖安营扎寨，与城内守军相呼应，并对围攻安庆的湘军展开攻势。
而此时的李秀成正在浙江作战，当时虽然浙江守军比较薄弱，容易得手一些城池，但是，此时太平军总的作战策略是力保安庆，他却不及时回援安庆，置安庆的安危于不顾，让陈玉成的部队陷入一种孤军奋战的境地。到底出于什么居心，无从知晓。
曾国藩对于太平天国的后起之秀，不敢有丝毫马虎。当得知陈玉成前来安庆解围后，他一面命令曾国荃拼命顶住，坚守待援；一面给驰援景德镇的鲍超飞鸽传书，令他即刻率军回援，准备和陈玉成决一死战。
回过头想想，曾国藩还真有魄力，如果太平军里应外合，清军会陷入被人反包围的窘境。成败就押在曾国荃部的湘军能否坚守了。
陈玉成攻入集贤关后，暂时把安庆的局势稳住了，太平军的士气开始高涨起来。但从天京来援的洪仁玕、林绍璋部，从芜湖来援的黄文金部和捻军，从庐江来援的吴如孝部，都遭到了湘军多隆阿等部的阻击，只攻到安庆外围，无法与陈玉成部会合。陈玉成只好独自率军向曾国荃发动几次猛攻，但都没有什么效果。
于是，在集贤关内孤军奋战的陈玉成对近在咫尺的曾国荃部也无能为力。
在万般无奈之下，陈玉成只好带着部下在菱湖南北两岸筑堡垒十八座，一头连着集贤关，一头系着安庆城。但筑垒只是权宜之计，最终目的还是要赶走围困安庆的曾国荃部。
曾国藩、胡林翼见太平军调兵遣将，也采取了应对措施：把鲍超、成大吉等军调来集贤关，准备合歼陈玉成的太平军；令多隆阿顶住天京和芜湖来的太平军增援军队外，分兵协助鲍超与陈玉成大战。
于是，在咸丰十年四月十日（1861年5月19日），鲍超、成大吉及多隆阿的部分军队抵达集贤关，决定第二天会合曾国荃部里应外合，一举歼灭陈玉成的太平军。
就在当天，陈玉成得知援兵抵达集贤关后，觉得光靠自己的孤军很难解安庆之围，便留下刘玱琳守卫集贤关，自己率领部分军队退走桐城，与外围的洪仁玕等共同商量退敌的策略。
战场上的军情真是瞬息万变，如果你抓住了战机，那么胜利的天平就会向你这边倾斜，曾国藩又一次逮住了机会。
陈玉成低估了曾国藩，他决定离开集贤关的瞬间，就注定了失败的命运。
此刻，留守集贤关的刘玱琳部三面受敌，而刘玱琳手下却只有四千人，好在这些太平军都是陈玉成的精华部队，所以面对三面受敌的困境，也没有乱了阵脚。
对于刘玱琳的威名，曾国藩早已如雷贯耳。虽然有些惺惺相惜，但敌人终究是敌人，对敌人绝对不能手下留情。
所以，曾国藩下定决心要利用这个千载难逢的时机，消灭刘玱琳的部队，他下了死命令：绝不能放过一人，尤其不能放过刘玱琳本人，活要见人，死要见尸。
一场争夺集贤关的恶战即将爆发。
战斗一开始，湘军就先来了个狂轰滥炸，把刘玱琳部的阵地炸了个千疮百孔。然后集中优势兵力向太平军的堡垒冲锋。但精锐就是精锐，在刘玱琳的有力指挥下，湘军的进攻竟然没有取得实质性的进展。
曾国藩恼怒了，如果单挑，湘军可能不是对手，现在是围歼，还这么难吗？他下令湘军一波接一波地猛攻，拿不下集贤关，誓不罢休。
刚开始，面对蜂拥而至的湘军，太平军毫不慌乱，各个以一当十。但时间一久，就经受不住湘军大队人马不停地轮番攻击了。一天下来，便有接近四分之三的太平军战士英勇牺牲。
剩下的太平军将士疲惫不堪，几乎各个都挂彩负伤了。
刘玱琳见大势已去，如果继续坚守，可能都要战死在集贤关，于是，决定趁着夜色率八百多名能动的太平军将士突围。可惜的是，突围的太平军到了马踏石被大水阻隔，前无去路，后有追兵，真正陷入了绝境，结果，被鲍超的“霆军”追上，片刻工夫便被杀了个干干净净。
刘玱琳的这支精锐部队成了湘军的炮灰之后，陈玉成就如同丢了一条手臂，从此，陈玉成部太平军的作战能力大不如从前，陈玉成也逐渐走向了末路。
在攻打集贤关的时候，曾国荃同时派兵全力攻击菱湖的太平军，逐一攻破了陈玉成在菱湖建的十八座堡垒，陈玉成留在菱湖的八千多太平军也因为兵力分散而被全部歼灭了。
一仗下来，湘军与太平军力量对比和攻守形势发生了重大变化，安庆就完全被湘军围得水泄不通。这成为安庆失守、太平军由相持进入被动防守阶段的转折点。
当陈玉成率军到了桐城，听到刘玱琳被湘军包围攻击的消息后，真是后悔莫及。想反攻回救，但已经远离了集贤关，等回去怕黄花菜都凉了，况且，一路上肯定会遇到湘军的阻击，
恐怕既救不了刘玱琳，也回不了安庆城。
无奈之下，只好去讨救兵了。
因为多隆阿在挂车河的阻击，城外的太平军无法援助安庆城内的太平军，而且此时在集贤关战役中获胜的湘军士气正旺。
既然一时冲不破这第一道防线多隆阿部，那么可以迂回前进，所以，陈玉成与洪仁玕、林绍璋等商议后，决定率领五万多名太平军，从湖北蕲州绕道过去，经宿松、石牌，向集贤关发动进攻，进而缓解安庆城的压力。
当陈玉成再次到达集贤关时，已经是七十天以后的事情了，湘军利用这七十多天的时间，打破了安庆城外的所有堡垒，把安庆城紧紧围在了中间。此时的安庆城粮草断尽，形势危急，到了不攻自破的紧要关头。
陈玉成率军攻下集贤关后，故伎重演，筑起几十座堡垒与安庆城头上的守军遥遥相应。这时，安庆城内缺少粮食已经很长时间了，太平军战士连拿刀的力气也快没有了，但他们还是在西门上列队，呼应着增援部队。
人是铁饭是钢，太平军再勇猛，饿着肚子也没法打仗。所以，陈玉成努力想办法把粮食送到城内，但粮食都被湘军给截下了。
看着近在咫尺的兄弟被围困、挨饿，自己却无能为力，陈玉成急在眼前，痛在心里，便与曾国荃的湘军开始激战。太平军抱着草拼命向长濠冲锋，希望能铺就一条通向城内的大道。虽然是有去无回，虽然是血肉横飞，但已经红眼的太平军仍然不停止冲锋，一波又一波的太平军倒在了长濠内。
虽然太平军各个视死如归，可湘军也不是软蛋，他们一面用炮轰炸跳入濠沟的太平军，一面再挖新的战壕，阻击太平军的进攻。战斗进行得异常激烈！
从咸丰十一年七月二十日至七月二十五日（公元1861年8月25日至8月30日），接连血战五天，太平军的尸体在长濠内外堆成了小山，但最终也没能突进曾国荃的内濠，虽然城内疲惫的守军也奋勇杀出与外围的太平军遥相呼应，但也没起什么作用。
结果，陈玉成率领太平军与湘军苦战多日，也没能解安庆之围，倒是城内的守军已经弹尽粮绝，濒临绝境。
