２０世紀７０年代初，國際恐怖主義活動盛行，并已向前蘇聯(lián)蔓延。１９７３年，一架雅克－４０型客機在伏努科沃機場遭到４名武裝歹徒劫持，機上旅客全部被綁架而淪為人質，前蘇聯(lián)國家安全委員會（克格勃）和內(nèi)務部聯(lián)手采取緊急行動才解救了人質，這一事件在前蘇聯(lián)國內(nèi)造成了巨大震蕩，人們精神緊張，從而也引起了前蘇聯(lián)領導層的高度重視。

當時，前蘇聯(lián)正在全力準備１９８０年的莫斯科奧運會，而在１９７２年慕尼黑奧運會期間，中東恐怖組織“黑九月”闖入奧運村，綁架并殺害了１１名以色列運動員。此事引起全世界的震驚，也給前蘇聯(lián)極大的觸動。為預防慕尼黑奧運會以色列運動員被伊斯蘭原教旨主義恐怖分子綁架后慘遭殺害的一幕再次發(fā)生，保衛(wèi)預定于１９８０年在莫斯科召開的奧運會，同時，應付前蘇聯(lián)國內(nèi)已經(jīng)出現(xiàn)的恐怖主義苗頭，前蘇聯(lián)領導人決定盡快建立一支受過良好職業(yè)訓練，并可以在國內(nèi)外隨時隨地用于打擊恐怖主義的特種部隊。打擊劫機、綁架、暗殺、爆炸等恐怖活動，于是，“Ａ小組”應運而生。

１９７４午７月２９日，當時任前蘇聯(lián)國家安全委員會主席，后來成為蘇共中央總書記的尤里?安德羅波夫簽署了一項絕密命令，決定在克格勃系統(tǒng)內(nèi)組建―支完全新型的絕密部隊，其主要任務是打擊恐怖主義。一般人都將其稱為“阿爾法”部隊，但特種兵都稱其為“Ａ部隊”。同時，安德羅波夫的命令只有一份手稿，他甚至沒有讓他最信任的打字員重新打印一份。這支完全新型的、絕密的部隊的主要任務是什么，當時只有極少數(shù)的軍官知曉。

現(xiàn)在關于這一決定有多種說法：Ａ是字母表中的第一個字母；是克格勃主席安德羅波夫姓名的第一個字母；Ａ代表反恐怖等。在該部隊隸屬的第７（作戰(zhàn)調查）局經(jīng)常簡稱其為ＮＮ，或尼古拉?尼古拉耶維奇（意指外部觀察）。在“阿爾法”近３０年的歷史中，創(chuàng)造了一系列的奇跡，代價也是奇跡的：在過去進行的營救人質過程中，沒有造成一名人質的死亡。但那次莫斯科人質營救行動是個例外。這一部隊的軍人可在３５周歲時退休。這也說明了其工作強度是如此之大，更承受著巨大的壓力。同年９月２５日，正式確定了部隊指揮官，即前蘇聯(lián)英雄、邊防軍人維塔利?布別寧。組建之初，“阿爾法”部隊就已身負重任，因此，該小組對入選的成員可謂“萬里挑一”?！鞍柗ā辈筷犑着蓡T不超過３０人，他們?nèi)渴巧硎植环驳目烁癫嗄贶姽?，并且，全都是通過了嚴格考試后，才得以躋身于這支最精銳的特種突擊隊。

１９７７年１１月，“Ａ部隊”指揮官更迭，代替布別寧的是克格勃第７局的成員根納季?扎伊采夫，并一直服役到１９８８年１１月。１９９２年，俄總統(tǒng)下令，重新任命他為該部隊指揮官。現(xiàn)在已成為將軍的他表示：“‘阿爾法’部隊的名稱是記者于１９９１年想出的。當時，政府已經(jīng)開始利用我們清除前蘇聯(lián)各共和國內(nèi)的反對派運動。當國家領導人對在維爾紐斯犧牲的同事維克托?沙茨基赫拒絕承認時，這一部隊首次被曝光。然后又有傳聞稱，在維爾紐斯的電視中心工作的人稱克格勃的特種部隊為‘阿爾法’。于是，這一名稱立即出現(xiàn)在各家報紙的版面上，并隨即轉移到正式文件中。但這一部隊的老兵和新兵仍喜歡使用老名稱，即‘Ａ部隊’，而‘阿爾法’則更常被一般人所使用?！蓖瑫r，也有人將這一部隊稱為“別動隊”。

“阿爾法”別動隊隸屬于聯(lián)邦安全總局，這支武裝力量具有以下特點：一是執(zhí)行特種任務；二是具有獨特的組織結構；三是政治上具有絕對可靠的信賴性；四是經(jīng)過特別挑選、訓練和專業(yè)技術教育；五是直接隸屬于最高行政當局；六是參與任何級別的沖突和戰(zhàn)爭。這支在克格勃領導下的特種部隊與國家安全和軍事情報密切相關，在情報、偵察、監(jiān)視以及對實際的或潛在的敵人的資料收集和處理方面，特種部隊是一個疏而不漏的網(wǎng)。