公元552年，陳霸先和王僧辯率軍打敗侯景，收復建康。同年，梁武帝的第七個兒子蕭繹在江陵稱帝。他就是梁元帝。蕭繹的侄子蕭詧看到蕭繹宣佈自己為皇帝，他也想當皇帝，但是他的力量不好。經過深思熟慮，他終於有了一個好辦法，藉助西魏的力量打敗蕭繹。他知道，為了擴大自己的領土，西魏一直想消滅梁國。梁國經歷了侯景之亂，國力大幅度下降。因此，在蕭繹站穩腳跟之前，他派人聯絡了西魏，雙方一拍即合。西魏向長江中游派遣了數萬軍隊。公元555年，魏軍與蕭詧聯手攻佔江陵，殺死蕭繹，蕭詧被封為梁王。西魏認為是時候恢復江南了，於是他們大肆焚燒、殺害和搶劫江陵。他們拿走了城裡所有的金銀珠寶，以及成千上萬的婦女和勞工。蕭詧擁有的只是一個空城。第二年，他自稱為皇帝，在歷史上被稱為後梁。

西魏攻江陵時，陳霸先鎮守京口，王僧辯鎮守建康石城。當他們得知元帝被殺，蕭詧自稱為皇帝時，他們非常生氣。他們不承認自封的皇帝蕭詧，他們在建康建立了蕭繹的兒子蕭方智為皇帝。他是梁敬帝。北齊的高洋，也想把他的領土延伸到長江以南，摧毀梁國。這時，當他看到梁朝空虛，他就把東魏的俘虜蕭遠明送回梁朝當皇帝，以征服梁國。高楊派人去聯絡王僧辯。王僧辯的條件是：如果想把蕭淵明送回梁國做皇帝，他至少也要做丞相。到那時，他將掌握梁國大權，可以為所欲為了。雙方達成協議，王僧辯同意北齊的要求，接回蕭淵明，廢除梁敬帝，立蕭淵明為皇帝。當陳霸先聽到這個訊息時，他非常不滿意。他認為立蕭淵明為帝，一方面對國家不利，另一方面對他自己也不利。因此，他多次向王僧辯建議廢除皇帝蕭淵明，而王僧辯卻置之不理。

陳霸先決定除掉這個給國家和人民帶來災難的叛徒王僧辯。他從江口起兵進攻建康。王僧辯的初衷是穩定一段時間，然後與北齊聯合摧毀陳霸先。但他沒有想到的是，陳霸先已經帶頭襲擊了建康。他聽到城外震耳欲聾的聲音：“殺了王僧辯。”他嚇壞了，命令手下參戰，讓一些人保護他從南門逃跑。與此同時，陳霸先的軍隊突破北門，逼近王僧辯的住所，王僧辯當場被抓住了。他想保住自己的命，所以跪下來道歉並乞求寬恕。然而，陳霸先拔出他的劍，奪走了王僧辯的生命。那天晚上，陳霸先又殺了蕭淵明，復立蕭方智為皇帝。陳霸先認為這裡的局勢已經穩定，於是他率軍前往義興（今江浙太湖兩岸地區）平息叛亂。

事實上，這裡的叛亂是由王僧辯的人挑起的。其目的是將陳霸先從建康轉移，然後與北齊勾結佔領建康。陳霸先接到建康被佔領的訊息後，知道自己中計了。他快速繞道回到建康。他先派部隊沿長江阻擋齊軍的退路，然後包圍石頭城，切斷齊軍在城內的糧水供應。石頭城已經被包圍兩個月了。齊軍缺糧缺水，四分五裂，無法反攻。所以向陳霸先求和，並保證從此再也不會入侵梁國。陳霸先知道這是齊國軍的緩兵之計，也知道自己的處境。於是他想出了一個計劃，派人去北齊索要高洋的聖旨，以確保證北齊將來不會入侵梁國。高洋為了儲存北齊的實力，他答應了陳霸先的要求。於是陳霸先下令放棄對石頭城的圍攻，同時下令消滅王僧辯的殘餘。

陳霸先知道高洋是個反覆無常的人，他不會遵守諾言。因此，他密切擴充自己的軍隊，訓練戰鬥技巧，鼓勵士兵勇敢地殺敵，同時規定了嚴格的紀律。不出所料，在齊梁和談的一年之內，高洋就撕毀了和約，派出5萬人的軍隊進攻梁朝。幸運的是，陳霸先已經做好了充分的準備，尤其是對水軍的訓練，將士們異常兇猛。齊國的大船渡江時，梁國的水軍射出了所有的箭，像雨一樣射向齊軍，造成了無數的傷亡。高洋將齊軍分成幾條路線進攻健康。陳霸先冷靜地迴應，並把部隊分成幾份。每一股都用少量的人來牽制對方，其主力繞到敵人後面，乘其不備，攻打對方。雙方激戰一了個月，齊軍狼狽不堪，未能接近建康城。

由於齊軍沒有房子住，他們只能在泥濘的野地裡過夜。沒有糧食吃，士兵們不得不餓著肚子戰鬥。為了保衛首都，建康城的人們都把家裡最好的食物送到前線去，慰勞將士們。士兵們士氣高昂，與此同時，建康城的百姓也組織起來，與齊軍並肩作戰。這樣，北齊的軍隊就失去了進攻的力量，而陣霸先則帶領軍隊先發起了猛攻。齊軍倉皇逃走。在戰鬥中處於領先地位的水軍，正在長江南岸等待精疲力竭的敵人。齊軍在前賭後追的夾擊下。只有不到10，000人的齊軍渡河逃回了北方。戰爭隨著陳霸先的勝利而結束。陳霸先打敗了北齊軍隊，保衛了長江以南的土地。他備受了江南人民的讚揚。他的聲望越來越高。梁敬帝蕭方智，任命他為陳國公，並接管了朝中的所有權力。