垣崇祖字敬遠(yuǎn)，是下邳人。族姓豪強，石虎的時代，從略陽遷徙到鄴。其曾祖垣敞，曾任慕容德偽吏部尚書。祖父垣苗，在宋武帝征討廣固時，率部下歸降，便在下邳安家，官至龍驤將軍、汝南、新蔡太守。父親垣詢之，為積射將軍，宋孝武帝時為國捐軀，贈冀州刺史。

　　垣崇祖四歲時，就很有才能和謀略了，他的伯父豫州刺史垣護之對宗族人說：“這孩子必將使我們門戶大發(fā)光彩，你們都趕不上他?！贝淌穭⒌缆∑刚埑缱孀鲋鞑荆龊軆?yōu)厚。后被任命為新安王國上將軍。景和時期，劉道隆請求出任梁州，并啟稟皇上要求轉(zhuǎn)任崇祖為義陽王征北行參軍，與道隆同行，被派還下邳召募人馬。

　　(宋)明帝即位后，道隆被誅。薛安都反叛時，明帝派遣張永、沈攸之北討，薛安都使其部將裴祖隆、李世雄占據(jù)下邳。祖隆招崇祖來共同抗戰(zhàn)，正趕上有青州援軍主將劉彌之背逆歸降，祖隆的士卒沮喪敗北，崇祖和親近數(shù)十人夜救祖隆，并和他一起逃回彭城。敵虜既攻陷了徐州，崇祖仍為虜率領(lǐng)游兵在瑯笽一帶，不能回來，虜也不能制約他。崇祖暗中派人到彭城迎取其母，打算南逃，事情敗露，虜便扣住其母作人質(zhì)。崇祖的妹夫皇甫肅的兄婦，是薛安都的女兒，故此虜很信任皇甫肅?；矢γC便帶著家屬和崇祖的母親逃往朐山，崇祖于是帶領(lǐng)部下占據(jù)了朐山，并派使者歸順朝廷。太祖(蕭道成)當(dāng)時在淮陰，便行文任命垣崇祖為朐山戍主，并把他的母親送到京城，明帝接受了。

　　朐山靠近海邊，形勢孤險，人心未安。崇祖便經(jīng)常在水邊浮以舟舸，如遇緊急情況便可以乘船入海。軍中有得罪的將領(lǐng)叛逃，把情況都報告了虜方。虜偽囗豕城都將東徐州刺史成固公剛得了青州，聽叛者之說，便派步兵騎兵二萬人襲擊崇祖，兵駐洛要，離朐山城僅二十里。崇祖當(dāng)時送客人還沒回來，城中驚恐，都下到船上準(zhǔn)備入海去。崇祖回來，對心腹說：“賊方剛才來，本不是要大舉進攻，只是要證實一下叛者所說的情況，很容易迷惑。現(xiàn)在如果有百余人回來，事情就好辦了。但人心一害怕，便不能集中。你們趕緊到離此二里外處大叫而來，高叫‘艾塘義人已攻破敵虜，正等著戍軍速往，相助逐退’?！贝腥寺犃斯淮笙玻譅幭嗌习?，崇祖帶領(lǐng)他們?nèi)霌?jù)城上，把老弱之人都送到島上。又令人持著兩個火炬登上山頭，擂鼓呼叫。虜方參騎以為這邊軍備甚盛，于是退去。

　　垣崇祖上啟明帝說：“淮北一帶的士民，受胡虜所蹂躪，人心向往南方，日夜盼望得到解救。我的父親、伯父都曾在淮北州郡任職，我們垣氏的門族分布在北方邊境一帶，老百姓對我們懷有信任，一旦號召起來，就可以成就事功。不過我現(xiàn)在名位還輕，不足以威服眾人，我請求朝廷借給我名號，我也好對遠(yuǎn)近之人發(fā)號施令?！泵鞯郾闳蚊麨檩o國將軍、北瑯笽、蘭陵南齊書二郡太守。逃亡分子司馬從之來襲擊郡城，被垣崇祖抓住砍了腦袋。他還多次獻(xiàn)計獻(xiàn)策，打算克復(fù)淮北。

　　這時虜方聲言要寇掠淮南，明帝便向崇祖詢問怎么辦？崇祖啟稟說：“最好是輕兵深入，打他個出其不意，這樣進可以建立奇勛，退可以讓他們死了這條心?！泵鞯叟鷾?zhǔn)了他的方案。垣崇祖帶領(lǐng)數(shù)百人深入敵境七百里，占據(jù)南城，鞏固蒙山，號召郡縣。虜方率大軍前來攻打，崇祖的別將梁湛母親被虜方扣著，虜方把梁母綁了來，要梁湛對部下說：“大軍已去，我們還留在這有什么用！”于是人心動搖，一下子都逃退了。崇祖對左右說：“今天我們要是全退了，一定都沒好結(jié)果?！庇谑橇粼诤箢^和敵人大戰(zhàn)，終于把追兵打得大敗而回。朝廷考慮到崇祖長期勞苦有功，封他為下邳縣子。

　　泰豫元年(472)，垣崇祖主管徐州，把防守點改在龍沮(在朐山南)。崇祖上啟皇上要求放水進入平地，用來阻擋虜方的馬匹，明帝征求劉懷珍的看法，懷珍說可以。崇祖便率將吏堵河水(提高水位以便放水)，不成功。虜主帥對偽彭城鎮(zhèn)將平陽公說：“龍沮若是弄成了，簡直是我國的恥辱，拼死也要爭過來?！庇谑锹蕯?shù)萬騎兵包抄上來。垣崇祖的馬和槊都陷在戰(zhàn)陣中無法對抗，只好退回來筑城自守。正趕上老天下雨一連十多日，敵虜只得退去。不過龍沮最后也沒弄成。后來垣崇祖又任盱眙、平陽、東海三郡太守，將軍之職仍舊。轉(zhuǎn)任邵陵王南中郎司馬，又任東海太守。

　　當(dāng)初，垣崇祖在淮陰碰上了太祖(蕭道成)，太祖看他很武勇，就待他很友好。崇祖對皇甫肅說：“這個人才真正是我們的君主?。∥医裉焖闶桥錾险嬷髁?！正是所謂千載一時呀！”于是便暗中表現(xiàn)忠誠。元徽末年，太祖有憂慮，便令崇祖接受指示，把家小托付給皇甫肅，帶領(lǐng)數(shù)百人將入虜境，等待命令。趕上廢除蒼梧王，太祖便召崇祖率領(lǐng)部下回京來，授他為游擊將軍。

　　沈攸之事件平定后，垣崇祖被任命為持節(jié)、督兗、青、冀三州諸軍事，先后遷任冠軍將軍、兗州刺史。太祖做皇帝后，對崇祖說：“我剛剛統(tǒng)治天下，夷虜不懂得天命已經(jīng)歸我，必然會興師動眾，以送劉昶為借口前來擾亂。而賊方的第一個攻擊目標(biāo)必然是壽春。而能夠?qū)Ω端麄兊?，非你莫可。”于是崇祖移任使持?jié)、監(jiān)豫、司二州諸軍事、豫州刺史，將軍仍舊。封為望蔡縣侯，食邑七百戶。

　　建元二年(480)，虜方派遣偽梁王郁豆眷和劉昶，率騎兵步兵號稱二十萬人，來寇壽春。垣崇祖召集文武人員商議說：“敵眾我寡，只能出奇制勝。應(yīng)當(dāng)修筑外城以待敵，城既廣闊，沒有水便不堅固，現(xiàn)在準(zhǔn)備筑堰肥水，然后把城淹成三面之險，諸位認(rèn)為怎樣？”眾人說：“當(dāng)年佛貍?cè)肭?，宋南平王士卒充足，由于郭大難守，便退保內(nèi)城。今天的情形，難度十倍于前。自古以來守此城者之所以不筑肥水之堰，都是考慮到地形不便，積水也沒用呀。如果一定要這樣，恐怕不會合適的?！背缱嬲f：“你這是只見其一，不識其二。如果放棄外城，賊方必然占據(jù)著，他們可以外修樓櫓，內(nèi)筑長圍，而我們四周沒有屏障，表里受敵，這等于自己坐等著被擒。因此，守郭筑堰決策已定，不允許任何人諫阻！”于是在城西北立堰堵塞肥水，堰北又筑起小城，周圍挖掘深塹，使數(shù)千人在那兒守著。崇祖對長史封延伯說：“敵虜心貪而欠考慮，必然全力攻打小城，企圖破壞此堰。看到此塹狹城小，便以為可以一戰(zhàn)而克，便會像螞蟻一樣圍著攻打。我放水一激，水急超過三峽，等他們無處逃奔時，便自然沉溺水里。這豈不是小勞而大利么？”虜眾由西道集中在堰南，分軍從東路肉搏攻小城。垣崇祖頭戴白紗帽，乘肩輿上城，打著手式指揮。到天黑時，便扒開了小史埭。水奔瀉而下，敵虜攻城之眾，漂附到塹中，淹死數(shù)千人，剩下的都退去了。

　　當(dāng)初，崇祖在淮陰，見了皇上(蕭道成)便自稱是韓信、白起，別人都不信，只有皇上稱許他，崇祖便再拜接受他的指示。等到破虜?shù)膯⑽乃偷骄?，皇上對朝臣們說：“崇祖曾答應(yīng)為我對付敵虜，果如其言。他一向自比韓信、白起，今天看來真不愧是?。　庇谑沁M崇祖為都督號平西將軍，增封食邑為一千五百戶。崇祖聽說陳顯達(dá)、李安民都增加了軍儀，便上啟皇上要求鼓吹橫吹?；噬险f：“韓信、白起怎么能不特別優(yōu)待呢！”于是配給他鼓吹一部。

　　垣崇祖考慮到敵虜還會來寇掠淮北，便請示皇上把下蔡戍區(qū)移到淮東。這年冬天，敵虜果然要攻打下蔡，聽說內(nèi)移了，便聲言要蕩平下蔡城故城。眾人以為敵虜會在故城建立據(jù)點，崇祖說：“下蔡離我的鎮(zhèn)所近在咫尺，敵虜豈敢設(shè)立據(jù)點；他們其實是要除去故城。我正擔(dān)心他們逃走不能讓我把他們斬盡殺絕呢?！碧斳姽粊砭蚱较虏坛?，崇祖親自率眾渡過淮河與敵決戰(zhàn)，大破敵人，又追殺數(shù)十里，殺死和俘虜了數(shù)千人。

　　皇上派的使者入關(guān)了解敵情回來匯報了崇祖的戰(zhàn)況，皇上下敕給崇祖說：“你看我是那種只守江東一隅的君主么？我現(xiàn)在最缺的南齊書是糧食，你只管給我努力經(jīng)營田地，到時候自然會把殘敵收拾了。”指示崇祖整治芍陂一帶田地。

　　世祖(蕭賾)即位后，調(diào)崇祖任散騎常侍、左衛(wèi)將軍。不久又下詔讓他留在本任上，加號安西將軍。隨后遷任五兵尚書，領(lǐng)驍騎將軍。當(dāng)初，豫章王有盛寵，世祖做太子，崇祖并不主動去巴結(jié)。后來破虜，世祖詔他還朝，并與他密議，便開始懷疑他，于是對崇祖特意禮待，酒后對崇祖說：“外邊有些流言，我也干脆挑明了，從今以后，我的富貴就指望你了?！背缱姘葜x。崇祖走后，皇上又派荀伯玉口頭傳達(dá)命令：由于邊地有事，要他連夜出發(fā)，不得和太子辭別。世祖便以為崇祖心不誠實而懷恨在心。太祖死后，世祖怕崇祖有異心，便調(diào)他回來任職。永明元年(483)四月九日，下詔說：“垣崇祖兇詬險躁，少無行業(yè)。過去由于軍國麻煩很多，便讓他出些武力。隨著皇運上升，他也不斷受到提拔封賞，但他貪得無厭。去年在西邊，和外國勾結(jié)，其無君之心，已昭然若揭。但朝廷對他特別優(yōu)待，希望他能改悔。豈料他野心更甚，要謀反作亂，又與荀伯玉同謀不軌，企圖互為表里、內(nèi)外呼應(yīng)。這些罪狀已由寧朔將軍孫景育調(diào)查清楚，報告了皇上。除惡要除根，垣崇祖罪在不赦。殺了后便把他埋掉，以嚴(yán)肅法紀(jì)?！彼罆r四十四歲。兒子垣惠隆，被流放到番禺，死在那里。