自西晉末年以來，中國四分五裂，多民族政權并存。經(jīng)過二百七十年的民族融合，很多少數(shù)民族都已漢化。隋文帝推翻北周鮮卑族統(tǒng)治，在北方建立起漢族政權。南方的兩個政權都是漢族政權，一是建都于建康（今江蘇省南京市）的陳朝，統(tǒng)轄著三十州地盤二百萬人口；二是割據(jù)在江陵（今湖北省江陵市）的后梁，只有一郡之地。南北對峙不再帶有民族對立的色彩，經(jīng)濟的發(fā)展和交流迫切要求結束分裂局面，國家統(tǒng)一的時機成熟了。

　　隋文帝即位之初，即把統(tǒng)一中國的問題提到了議事日程上來。他向宰相尚書省左仆射（yè）高熲（jiǒng）征求將帥人選，高熲推薦賀若弼和韓擒虎。開皇元年（581）三月，隋文帝任命賀若弼為吳州總管，鎮(zhèn)守廣陵（今江蘇省揚州市），韓擒虎為廬州總管，鎮(zhèn)守廬江（今安徽省合肥市），責成他們經(jīng)略陳朝。九月，隋文帝又任命長孫覽和元景山為行軍元帥，率軍伐陳，而由高熲節(jié)度各支部隊。第二年正月，陳宣帝去世，后主陳叔寶繼位。元景山派鄧孝儒帶領四千隋軍，在今湖北省武漢市一帶打仗，當?shù)氐年惓貙⒔詶壋翘优?，于是陳朝派遣使者請和。隋朝這時還沒有力量立即滅掉陳朝，再加上北方有突厥族的威脅，于是高熲就以"禮不伐喪"（《資治通鑒》卷175）為冠冕堂皇的理由奏請班師。二月，隋文帝便詔令高熲等撤回。開皇七年（587），隋文帝征召后梁主蕭琮（cóng）入朝。后梁地小力弱，不敢違抗，蕭琮于是率領群臣二百余人從江陵來長安。隋文帝趁機派兵進駐江陵，廢掉后梁政權，把蕭琮留在長安以上柱國名義予以安置。這樣，隋朝把持了長江中游地區(qū)，為向下游的陳朝首都建康進軍提供了方便。

　　從此，隋朝君臣統(tǒng)一中國的行動進入緊鑼密鼓的階段。隋文帝宣稱："我為百姓父母，豈可限一衣帶水不拯之乎！"（《南史》卷10《陳本紀下》）他征求平陳方略，高熲提出一整套方案，說："江北地寒，田收差晚；江南水田早熟。量彼收獲之際，微征士馬，聲言掩襲（偷襲），彼必屯兵守御，足得廢其農(nóng)時。彼既聚兵，我便解甲。再三若此，彼以為常，后更集兵，彼必不信。猶豫之頃，我乃濟師（大軍橫渡長江），登陸而戰(zhàn)，兵氣益倍。又，江南土薄，舍多茅竹，所有儲積，皆非地窖。若密遣行人，因風縱火，待彼修立，復更燒之，不出數(shù)年，自可財力俱盡。"（《資治通鑒》卷176）隋文帝采用這套方案，使陳朝物資大受損失，警覺變得麻痹。上柱國楊素以及賀若弼、州刺史高勱、崔仲方等人，紛紛獻計獻策。崔仲方上書建議在今安徽、江蘇增派陸軍，在今四川、湖北制作戰(zhàn)船。長江和漢江的水陸沖要地帶，雙方必然極力爭奪。陳朝沿長江遍置戰(zhàn)船，但最終要集中到漢江入長江口和西陵峽口進行決戰(zhàn)。陳朝如果派出精兵增援長江上游，處在下游的我方陸軍即可乘機渡江作戰(zhàn)；陳朝如果按兵不動，固守建康，處在上游的我方軍隊即可大舉征伐。"彼雖恃九江、五湖之險，非德無以為固；徒有三吳、百越之兵，非恩不能自立矣。"（《資治通鑒》卷176）隋文帝于是把崔仲方的刺史任職地從虢州（治今河南省盧氏縣）更換到漢江下游的基州（即竟陵郡，治今湖北省鐘祥縣），這里是他建議督造戰(zhàn)船的地方之一。有人建議造船注意保密，隋文帝說："吾將顯行天誅（公開地替天行道，吊民伐罪），何密之有！"（《資治通鑒》卷176）于是隋方故意把造船的刨花、木片投入江中，漂到陳朝境內，讓他們嗅到戰(zhàn)爭的氣息，對他們造成心理攻勢。楊素在永安（今重慶市奉節(jié)縣）大規(guī)模制造戰(zhàn)艦。最大的戰(zhàn)艦叫"五牙"，能容納官兵八百人，起樓五層，通高一百余尺，前后左右裝置六個拍竿，各長五十尺，用以拍擊敵船。次一等的叫"黃龍"，容納官兵百人。再次有平乘、舴艋等等。

　　次年三月，隋文帝下詔揭露陳后主罪惡二十條，抄寫三十萬份散發(fā)江南。十月，隋文帝設置淮南行臺省，治所設在壽春（今安徽省壽縣），以次子晉王楊廣（后來的隋煬帝）為行臺尚書令，總管滅陳事宜。隋文帝旋即出兵，親自送行。他任命楊廣、三子秦王楊俊以及楊素為行軍元帥。于是楊廣從六合（今江蘇省六合縣）出兵，楊俊從襄陽（今湖北省襄樊市襄陽）出兵，楊素從永安出兵，同時荊州（治今湖北省江陵市）刺史劉仁恩、蘄（qí）州（治今湖北省蘄春縣）刺史王世積、廬州總管韓擒虎、吳州總管賀若弼、青州（治今山東省青州市）總管燕榮分別由自己治所出兵，總共五十一萬八千人，由楊廣節(jié)度。左仆射高熲、右仆射王韶分別擔任晉王府元帥長史、司馬，具體處理軍務。
楊俊督率水陸大軍，屯駐漢口（今湖北省武漢市漢口）。楊素帶領水軍順長江三峽而下，起初所向披靡。陳朝沿江鎮(zhèn)戍接連上報情況，但執(zhí)政大臣施文慶、沈客卿扣押情報，不向陳后主反映。隋朝重兵隔江布防，陳朝在建康的軍隊只有十多萬，君臣們極度迷信長江天塹，以為國家堅如磐石，萬無一失。陳后主說："王氣在此，齊兵三來，周師再來，無不摧敗，彼何為者邪！"都官尚書孔范說："長江天塹，古以為限隔南北，今日虜軍豈能飛渡邪！邊將欲作功勞，妄言事急。"他甚至認為隋軍來犯，不過給自己提供了立功升遷的好機會，竟大言不慚地對陳后主說："臣每患官卑，虜若渡江，臣定作太尉公矣。"當有人誤傳隋軍的戰(zhàn)馬死掉，他說了句俏皮話："此是我馬，何為而死！"意思是打敗隋軍，隋馬皆是陳朝的戰(zhàn)利品。陳后主哈哈大笑，似乎已經(jīng)勝券在握，于是我行我素，"奏伎縱酒，賦詩不輟"。（《資治通鑒》卷176）

　　賀若弼在廣陵故意買了五六十艘破船，擺在顯眼的地方，陳朝人以為隋朝缺船，無法渡江。他部署沿江軍人值勤換班，都集中到廣陵，于是旌旗蔽野，人頭攢動；陳朝人以為隋軍聚集，肯定要出動打仗，便急忙發(fā)兵防備，后來確知隋軍僅僅是換班集合，習以為常，不復防備。賀若弼又命令士兵不斷沿江打獵，人馬喧騰，塵土飛揚，以麻痹陳朝官兵，使他們把爾后隋方的真正出兵判斷為打獵嬉戲。于是在開皇九年（589）正月初一，趁著戍守長江的陳朝官兵為歡度春節(jié)而墮入醉鄉(xiāng)，賀若弼從廣陵渡江，韓擒虎從采石（今安徽省馬鞍山市）渡江，向陳朝政治中心地帶壓過來。陳人立即密啟告急，陳后主喝得酩酊大醉，對密啟不予理睬。江南人民對于隋朝攻打自己的腐敗政府沒有抵觸情緒，甚至對于漢族內部結束分裂的軍事行動帶有好感。當韓擒虎在陳朝的國土上安營扎寨后，"江南父老素聞其威信，來謁軍門，晝夜不絕。"賀若弼渡江二十多天以后，陳朝大將任忠前來投降，引隋軍由朱雀門進入建康城。城內守兵欲戰(zhàn)，任忠揮手制止，說："老夫尚降，諸君何事！"（《隋書》卷52《韓擒虎傳》）于是陳軍一哄而散。陳后主見大事不好，連忙和寵妃張麗華、孔貴嬪躲進景陽宮的枯井內。隋軍揚言要投石，他和二妃捆在一起，被隋軍拉出，投降了隋軍，陳朝滅亡。高熲進入皇宮，"猶見啟在床下，未開封"。（《資治通鑒》卷178）長江中上游的陳軍不知道石頭城上旗幟變色，還在奮力抵抗楊俊和楊素。楊俊統(tǒng)領十多萬水陸軍隊，滯留在漢口。陳軍在三峽橫綴三條鐵索，楊素戰(zhàn)艦長時間受阻不得下。雙方交戰(zhàn)，死傷慘重。楊素后來終于戰(zhàn)敗陳軍，開赴漢口。陳后主投降的消息傳開，境內各地逐漸投降隋軍。淮南行臺省的任務已經(jīng)完成，隋朝于二月份予以撤銷。陳后主被押至長安，加以安置。

　　陳朝滅亡后，嶺南各郡無所適從。高涼郡（治今廣東省陽江縣）太夫人冼氏是原蕭梁政權高涼太守馮寶的妻子，這時被各郡推舉為主，號稱"圣母"，保據(jù)一方，統(tǒng)率部落十多萬家。隋朝派使者安撫嶺南，把陳后主寫給冼夫人的勸降書交給她。冼夫人集合當?shù)厥最I數(shù)千人，痛哭流涕。她派孫子馮魂率眾迎接隋朝使者入廣州，愿意歸附隋朝，并協(xié)助隋使說服嶺南各郡歸附。隋朝冊封她為宋康郡夫人。至此，分裂局面告終。