2023年11月，ChatGPT的母公司OpenAI爆發(fā)了高層內斗，堪稱人工智能世界的“911事件”，元老創(chuàng)始人山姆 ·奧特曼（Sam Altman）先被董事會罷免，又在全體員工和投資人支持下重返OpenAI擔任首席執(zhí)行官，隨后重新組建了Bret Taylor、Larry Summers和Adam D'Angelo在內的新董事會。
作為炙手可熱的AI獨角獸的靈魂人物，奧特曼被罷免，堪比當年喬布斯被Apple驅離，這場持續(xù)數(shù)日的OpenAI羅生門劇情一度成為科技圈的霸屏新聞，從而使得最近一波AI浪潮中，加速派與對齊派的技術路線分歧浮出冰面。
屠龍者變惡龍——OpenAI的特殊歷史與組織架構
把時間輪盤撥回本輪神經(jīng)網(wǎng)絡AI變革浪潮的早期——2015年，AI巨頭的谷歌DeepMind，發(fā)布了AlphaGo模型，挫敗圍棋界各大頂尖高手，成為轟動一時的新聞。
許多硅谷的科研人員與商業(yè)精英們預感了AI被大公司壟斷的可怕未來。硅谷頂級孵化器Y Combinator 公司的CEO奧特曼、支付公司Stripe前技術高管布羅克曼、原谷歌大腦項目科學家蘇茨克維、特斯拉CEO埃隆·馬斯克與其他九人共同創(chuàng)建了非營利性組織——OpenAI。這些創(chuàng)始人希望，AI技術能秉承開源、公益的理念，造福人類，而不是成為大公司壟斷的工具（OpenAI中的Open正有此意）。最開始的OpenAI依靠愿景、創(chuàng)始人魅力和并不豐厚的報酬從大公司挖掘開發(fā)者與AI科學家，組建AI研發(fā)實驗室。所以，OpenAI的創(chuàng)始本體是一個NPO性質的組織，而不是一家公司。
OpenAI公布的章程可以總結為：創(chuàng)造安全的AGI造福全人類，以公共利益、持久安全、技術領先、合作導向為原則。至今OpenAI官網(wǎng)上的最早一篇介紹OpenAI使命的博客這樣寫道：OpenAI 是一家非營利的人工智能研究公司。我們的目標是以最大可能造福全人類的方式推進數(shù)字智能，不受盈利需求的干擾。由于我們的獨立研究沒有盈利義務，因此我們可以更好地關注對人類的積極影響。作者是Greg Brockman與Ilya Sutskever。
馬斯克在早期捐獻了一億美元，后來因路線分歧退出。訓練大語言模型（LLM）需要消耗巨量資本，算力成本呈指數(shù)級增長，同時頂尖的AI工程師的報酬也是不菲。OpenAI 第一年的花銷是 1123 萬美元，其中超過665萬是50多名員工的工資。OpenAI早期危機重重，奧特曼挺身而出，辭去Y Combinator的CEO，全職成為Open AI的CEO，探索融資模式。
2019年3月11日， OpenAI宣布在母公司OpenAI Inc的非營利主體下，創(chuàng)建一個限制性營利實體OpenAI, L.P。投資人和公司員工擁有OpenAI, L.P的股份但沒有投票權，投資者的分紅累計超過回報上限后，資金就會自動流入OpenAI Inc非營利組織的賬戶中。
OpenAI設計了如同縫合怪的治理架構：
董事會是OpenAI所有活動的最高權力機構，董事會要忠于OpenAI的愿景——安全、公益、開放的AGI。將持股權與決策權分離，只有未持有股權的董事?lián)碛袑娟P鍵決策的投票權。限制性營利實體OpenAI LP隸屬于非營利主體 OpenAI Inc，設立投資人與員工的盈利上限。當開發(fā)出真正的通用人工智能（GAI），OpenAI Inc 非營利組全權擁有AGI的權限，而不包含在此前與微軟的商業(yè)條款中，對GAI的判定取決于獨立董事會。
OpenAI LP 的主要信托義務是推進OpenAI 章程的目標，公司由 OpenAI Nonprofit 董事會控制。所有投資者和員工都簽署協(xié)議，規(guī)定 OpenAI LP 對章程的義務始終是第一位的，即使以犧牲部分或全部財務權益為代價。”董事會擁有對非營利主體OpenAI Inc與限制性營利實體OpenAI, L.P的控制權，董事會要為公益愿景負責，卻沒有與OpenAI的利益捆綁，因此，《福布斯》將其戲稱為“科技向善長老會”。
這種組織架構的意圖是：維護公益愿景的初心，滿足對投資人與核心工程師的股權激勵，同時也最小限度的控制了引入資本后對NPO主體的影響，但也為之后的沖突埋下定時炸彈。
截至發(fā)文時OpenAI的組織架構。https://openai.com/
OpenAI改組后陸續(xù)吸納了投資，包括最重要的合作伙伴——微軟。
2019 年7月22日，微軟宣布與 OpenAI 達成合作伙伴關系，以10億美元投資成了 OpenAI 的大投資人 LP ，將與 OpenAI一起共建Azure AI超級計算技術。
OpenAI將其大模型移植到Microsoft Azure上運行，免費使用微軟的云服務來訓練和運行 AI 模型。微軟獲得了 Open AI 技術的獨家權，可在 Bing 搜索等產(chǎn)品上使用 Open AI 的技術成果，微軟也成為OpenAI商業(yè)化AI技術的首選合作伙伴。
2020年后，OpenAI開啟了燒錢拼算力的大模型開掛路線，商業(yè)模式愈發(fā)成熟，其代碼也不再開源。
每一次GPT的升級，參數(shù)量都是指數(shù)型的上升。訓練一次大模型就要幾百萬美元，每年的云計算成本也都要上億。2020年5月發(fā)布的 GPT-3有1750億的參數(shù)，基于GPT3 .5的 ChatGPT 在2022年底發(fā)布后引爆互聯(lián)網(wǎng)，到2023年3月推出的GPT-4綜合性能已經(jīng)傲視群雄。
在產(chǎn)品迭代與商業(yè)化勢如破竹之時，因公益愿景設立的董事會元老們，對奧特曼過于激進的AI商業(yè)化路線愈發(fā)不滿，終于爆發(fā)沖突。在奧特曼被開除事件發(fā)生時，董事會是6位成員，不符合奇數(shù)投票原則，奧特曼完全沒想到當自己帶領OpenAI高歌猛進的時候，居然會后院起火。很多人發(fā)出感嘆，對人類如此重要的科技獨角獸，居然發(fā)生這樣草臺班子的鬧劇。
OpenAI所設計的組織架構，是把資本機制引入到一個愿景驅動的非盈利組織的模型之中，股權與投票權分離，讓董事基于使命價值觀而非投資回報進行決策，導致了作為靈魂人物的奧特曼被開除成為可能。公益理想與商業(yè)可持續(xù)是一座艱難的天平。在獲得微軟的算力-資本加持后，Chat GPT橫空出世，之后的Open AI的發(fā)展路徑，更像是一個快速崛起的資本獨角獸而不再是愿景為AI普惠世人的NPO。
2月22日，Google發(fā)布了開源大模型Gemma-7B，性能超過此前Mate開源的大模型Llama-2 13B，成為最強開源大模型。對于一家AI企業(yè)，開源的大模型肯定不是手里性能最好的大模型，開源大模型一般會被其他創(chuàng)業(yè)公司拿來套殼，獨立開發(fā)者的日常使用肯定首選性能領先的大模型調用API，但更深度的開放意味著未來行業(yè)標準的話語權與生態(tài)影響力。
反諷的是，截至本文發(fā)布，作為OpenAI曾經(jīng)意圖顛覆的科技巨頭都已紛紛推出自己的開源大模型，OpenAI卻未曾開源任何大模型。
OpenAI成了最不open的AI。
AI技術政治——危機派、加速派與對齊派
關于本輪神經(jīng)網(wǎng)絡AI革新浪潮的林林總總的觀點，可以大致劃為三派：危機派、加速派與對齊派。
危機派
是指對目前的AI技術嚴重警惕，并懷疑其對人類社會可能產(chǎn)生極大威脅，主張暫停AI技術繼續(xù)研發(fā)的派系。AI危機派的很多論斷，建立在對當前AI技術不準確的認知上，甚至過于夸大AI的發(fā)展速率，一般有工程師背景或者科技從業(yè)者并不會支持過于夸張的AI威脅論。2023年3月29日，著名企業(yè)家埃隆·馬斯克牽頭的“暫停AI聯(lián)署信”發(fā)布，這封公開聯(lián)署信得到一千多名業(yè)界、學界人士響應，簽名者介于危機派與對齊派之間。公開聯(lián)署信呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)，暫停至少6個月；如果這樣的暫停不能迅速實施，政府就應該介入并實施暫停。公開信稱，AI的研發(fā)應該重新聚焦于使當今最強大、最先進的系統(tǒng)更加準確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。在開發(fā)強大的AI系統(tǒng)之前，要確信這些系統(tǒng)的影響是積極的，風險是可控的。公開信還引用OpenAI近期的聲明稱，在開始訓練未來的系統(tǒng)之前的某個時點，獲得獨立的審查可能很重要，而對于正在研究最先進模型的開發(fā)者，應達成共識來限制新模型的算力增長速度。（https://science.caixin.com/2023-03-29/102013411.html）
加速派
是指受 E/acc（有效加速主義）思潮影響的人物派系，該思潮認為人類應該無限制地推進AI等前沿技術的加速研發(fā)，最終促進人類進化。E/acc這個詞組最開始的發(fā)明，純粹是為了“玩梗”，是對有效利他主義Effective Altruism（簡稱E/A）造詞的戲謔，最早出現(xiàn)在兩名硅谷程序員在X space 上的閑聊中。后來知名風投基金A16Z 的創(chuàng)始人 Marc Andreessen 和 YC 孵化器的 CEO Garry Tan 把自己X賬號簡介加上了“E/acc”，大佬站臺后，很多人跟風改E/acc后綴。雖然出現(xiàn)了E/acc的論壇網(wǎng)站，E/acc仍然是一個混沌的思潮，每個自稱E/acc的人并沒有對此統(tǒng)一的定義。
根據(jù)E/Acc論壇，主要觀點可以歸納為：
加速主義是指技術與資本之間耦合的正反饋螺旋加速狀態(tài)。
類比熱力學墑增定律，宇宙的復雜程度不可逆的增長，人類社會的技術智能程度也應該加速發(fā)展。
AI技術發(fā)展是不可阻擋的，反對AI都是因為不了解技術，才杞人憂天。人工智能有一定風險，應該讓更多人加入這個技術浪潮，要開源、要加速才能促進技術良性發(fā)展，而不是限制、延緩AI技術。
人類社會的公共部門（政府、NGO、科學家協(xié)會）無法管理AI，應該充分放手讓AI 加速，AI系統(tǒng)會自我進化到相互制衡的狀態(tài)。
當前存在的社會問題可以無視，任由技術突進可能會加劇社會矛盾的情況發(fā)生，但技術突進到一定程度舊的社會問題會迎刃而解
OpenAI的CEO奧特曼與風投基金a16z的聯(lián)合創(chuàng)始人馬克·安德森（Marc Andreessen）都被認為是加速派的代表。安德森曾在 a16z 官網(wǎng)發(fā)布《技術樂觀主義者宣言》（The Techno-Optimist Manifest），主要觀點依舊為哈耶克濫觴，認為技術創(chuàng)新是永恒的經(jīng)濟增長動力，自由市場是組織技術經(jīng)濟的最有效的方式，推動技術進步使“我們”成為科技超人。這篇“技術中心論”的宣言如此粗制濫造，認為社會變革是技術進步的副產(chǎn)品，技術發(fā)明脫離了社會與政策環(huán)境，將資本主義的新技術應用等同于社會進步，將投資人等同于科技創(chuàng)造的代言人。科技行業(yè)的風險投資人當然非常樂觀，因為他們是技術躍進的最大受益者，超額利潤的第一輪收割者，并且認為維持當前技術-資本主義的發(fā)展模式，自己就會成為第一批超人。當a16z的風險投資家舉起《技術樂觀主義宣言》大旗的時候，就像是美國號稱自己發(fā)明了民主與平權一樣虛偽。
E/ACC是被發(fā)明出來的，用以對辯關于AI技術杞人憂天的言論，E/ACC糅合了老加速主義的只言片語以及工程師達爾文主義認識論。其詭辯是“工業(yè)黨”（唯發(fā)展論）套路，所謂“技術超速發(fā)展中產(chǎn)生的社會問題可以通過超速發(fā)展技術來解決”，這是一種將技術中心論推演到極致并透支社會的技術發(fā)展策略。E/Acc的起始論點挪用了熱力學定律，設置了一種幻象，類似“禁止干預”的天命?！凹夹g神圣并抽離于社會，可以在外部決定社會進程”可以總結為“技術中心論/技術決定論”，可以追溯到圣西門的技術專家治國論，伴隨著關于科技史教科書成為一種大眾認知。這種技術拜物教實際上阻礙了人們對技術關系的認知。
OpenAI官網(wǎng)關于超級對齊的介紹
對齊派
主張減緩通用人工智能技術的研發(fā)速度，提升對技術的公共效益、倫理討論、人文價值的重視，在AI研發(fā)過程中引入人文的價值判斷，確保AI技術不會失控，對人類社會的產(chǎn)生威脅。英國教授杰弗里·辛頓（Geoffrey Hinton）是卷積神經(jīng)網(wǎng)絡理論的領軍人物，也是本輪AI技術躍進的奠基性科學家，被稱為“人工智能教父”，從Google離職后，持續(xù)呼吁謹慎對待AI技術，成為AI對齊派的代表。OpenAI首席科學家Ilya正是辛頓最得意的弟子，他在OpenAI內部推動一項名為“超級對齊計劃”的項目，來確保AI機器與人類的意圖和價值觀保持一致。讓AI理解人類的明確意圖以及隱含意圖，例如真實性、公平性和安全性。 此前，OpenAI的兩名獨立董事Helen Toner和Tasha McCauley都具有對齊派傾向。
當代區(qū)塊鏈行業(yè)知名人物，以太坊創(chuàng)始人維塔利克·布特林（Vitalik Buterin）在博客文章“我的技術樂觀主義（My techno-optimism）”中提出了D/acc 的觀念，回應安德森的《技術樂觀主義宣言》。 （原文鏈接https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html）
Vitalik具有開發(fā)者與記者的雙重背景，繼承了加密朋克的理念，倡導科技向善的公共價值。同時作為行業(yè)最大公鏈——以太坊的領導者，Vitalik在開發(fā)者與投資者中都具有一定話語權。
在這篇文章中，Vitalik試圖以D/Acc的愿景框架，兼容各路技術意識形態(tài)。如：E/Acc、有效利他主義（E/A）、自由主義者、多元主義、公共醫(yī)療、區(qū)塊鏈主義、太陽朋克（solarpunk）、月球朋克（lunarpunk）。D/Acc的“d”可以代表很多概念；尤其是防御（defense）、去中心化（decentralization）、民主（democracy）以及差異化（differential）。
Vitalik借用了人類學家詹姆斯·C·斯科特（James C Scott）的經(jīng)典著作《逃避統(tǒng)治的藝術》，斯科特提出Zomia（贊米亞）東南亞山地形成的對抗中心化權力的社會形態(tài)與生產(chǎn)方式，對應諺語“山高皇帝遠”。
Vitalik列舉了一系列區(qū)塊鏈技術，這些技術可以成為個體對抗數(shù)據(jù)監(jiān)控的方法。零知識證明可以用于隱私保護，允許用戶在不泄露私人信息的情況完成驗證。這樣的技術可以讓我們保持隱私和匿名的好處——這些屬性被廣泛認為是投票等應用場景所必需的——同時仍能獲得安全保證，同時還可以打擊垃圾郵件和不良行為者，可以讓用戶和社區(qū)在不損害隱私的情況下驗證可信度，并保護他們的安全，同時不依賴于把誰好誰壞的定義強加到自己身上的中心化瓶頸。
例如：
數(shù)字護照簽名封裝在 ZK-SNARK 里面，就可以證明你是特定國家/地區(qū)的唯一公民，而不需要透露你是哪里的公民。
在 Zuzalu 孵化的 Zupass 已被成百上千人使用，最近又被 Devconnect （可讓用戶持有門票、會員資格、（不可轉讓的）數(shù)字收藏品和其他證明。
pol.is 采用了跟Community Notes類似的算法（并且運用要比Community Notes更早）來幫助社區(qū)識別子部落之間的共識點。
在文中，Vitalik也認可“超級對齊”是一種務實的折衷主義，讓開發(fā)者更有意識地確保正在做的東西能夠幫助人類繁榮發(fā)展，同時并不中斷研發(fā)進度?！巴ㄟ^在決策的每一個步驟都植入人類的反饋，我們減少了將高層級的規(guī)劃責任轉移給人工智能本身的動機，從而減少了人工智能本身做出一些與人類價值觀完全不相符的事情的機會。”如果我們想要一個超級智能與“人類”共存的未來，一個人類不僅僅是寵物，而且實際上對這個世界仍保留著有意義的代理權的未來。
大眾文化中對于技術的態(tài)度，有兩種極端，一種是技術決定論的，一種是技術危機論的，認為技術黑箱不可對話，采取一種對抗式態(tài)度。民粹主義的AI威脅論與AI加速論可以作為類比。對齊派來自AI工程師的技術自覺，現(xiàn)實中是一種更務實的塑造AI技術與社會的可行路徑。
而在技術政治視野中，技術被看作一種基于社會生成的文化創(chuàng)造，技術是由諸多社會力量與政治愿景參與建設的，人們在日常生活與集體行動中可以主動的塑造技術與社會嵌合的形態(tài)，左右技術的發(fā)展方向，以此創(chuàng)造未來的科技生活。引入政治經(jīng)濟學與歷史社會學的視角，通過對歷史與實踐中具體技術的分析，發(fā)現(xiàn)技術升級內在于社會創(chuàng)新之中，正是在跨界、震蕩、沖突式的社會互動中啟發(fā)了技術進程的向量參數(shù)。沒有人對技術的想象以及使用，就不存在技術的社會效應。將技術置于與人類的政治討論與規(guī)劃中進行考察，在一個高度"技術化"的現(xiàn)代社會中，技術領域成為了社會權力斗爭的核心地帶。
圍繞此輪AI革新產(chǎn)生的思潮沖突，正是不同政治愿景與技術路線斗爭的映射。加速主義的幽靈，也被喚醒，被權力話語征用，粉墨登場。
參考資料：
https://www.chaincatcher.com/article/2106392
https://mp.weixin.qq.com/s/PXhmtWMgmoqOKSWHSr3LxA
https://science.caixin.com/2023-03-29/102013411.html
https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html
https://36kr.com/p/2548576393435267
https://www.douban.com/note/683380852/?_i=9018651UAxdjDM,9018681UAxdjDM
https://www.vintagecomputer.net/PCC.cfm
https://www.thepaper.cn/newsDetail_forward_2019817
https://foresightnews.pro/article/detail/41642
https://www.effectiveacceleration.org/posts/mHo5wGDBdKc4WbCwJ/the-effective-accelerationism-2-0-specifications
https://www.e-flux.com/journal/46/60070/accelerationist-aesthetics-necessary-inefficiency-in-times-of-real-subsumption/
Machine for a Long Revolution:
Computer as the Nexus of Technology and Class Politics in China 1955-1984
WANG, Hongzhe，2014
鄂公網(wǎng)安備 42010302001612號 