算法治理和監(jiān)控資本主義
有人在看著我們,我們也意識(shí)到正在被他們凝視,但這是完全不同步的,我們根本無(wú)法與他們對(duì)視,因?yàn)橛幸环N先驗(yàn)的……和絕對(duì)的不對(duì)稱,一種絕對(duì)無(wú)法控制的不平衡。時(shí)序倒錯(cuò)是這里的法則。我們感到自己被一種永遠(yuǎn)無(wú)法對(duì)視的目光凝視著,這就是“面甲效應(yīng)”。
——雅克·德里達(dá)(Jacques Derrida)
大數(shù)據(jù)有三個(gè)主要特點(diǎn):持續(xù)生成;它的目標(biāo)是同時(shí)做到詳盡和細(xì)化;靈活生成,因此可以隨時(shí)添加新的數(shù)據(jù)源。換句話說(shuō),大數(shù)據(jù)聚合了來(lái)自不同領(lǐng)域的信息,這些信息事先不一定相互關(guān)聯(lián)。這些異構(gòu)數(shù)據(jù)以不可知論的方式進(jìn)行處理,即揭示其中的關(guān)系,卻不解釋它們。大數(shù)據(jù)的這些特性助長(zhǎng)了一種天真的經(jīng)驗(yàn)主義認(rèn)識(shí)論,認(rèn)為這種新的知識(shí)體系將通過(guò)純粹的自動(dòng)歸納法進(jìn)行——數(shù)據(jù)將提供真相,而無(wú)須經(jīng)過(guò)理論的干擾。但事實(shí)并非如此。它們所表達(dá)的觀點(diǎn)必然是片面的,只有與先前構(gòu)成的知識(shí)聯(lián)系起來(lái)才有意義。它們并非純潔無(wú)害。它們包含著理論,具體體現(xiàn)在組織它們的算法中,要知道,對(duì)規(guī)律性的探索以構(gòu)建假設(shè)為前提。
大數(shù)據(jù)還帶有社會(huì)偏見(jiàn)和統(tǒng)治關(guān)系。人工智能程序不僅反映了制度和權(quán)力關(guān)系中的種族或性別不平等,而且有助于放大這些不平等。它們包含的偏見(jiàn)反過(guò)來(lái)又被納入其他算法結(jié)果中。例如,有研究表明,語(yǔ)言分析程序“單詞嵌套”(Word Embedding)會(huì)將具有歐美含義的名字歸類為好聽(tīng)的名字,而將非洲裔美國(guó)人的名字歸類為難聽(tīng)的名字。另一個(gè)例子是,由于訓(xùn)練自動(dòng)駕駛汽車識(shí)別行人的算法的數(shù)據(jù)庫(kù)主要由淺色皮膚的人組成,機(jī)器系統(tǒng)檢測(cè)深色皮膚行人的能力較差,因此碰撞風(fēng)險(xiǎn)較大。這些偏差在日常生活中的負(fù)面影響被稱為“預(yù)測(cè)性不公正”。
大數(shù)據(jù)不是中立的。即使它們兜售的偏見(jiàn)和成見(jiàn)能夠得到糾正,人們的擔(dān)憂也不會(huì)減輕。安托瓦內(nèi)特·魯夫羅伊(Antoinette Rouvroy)和托馬斯·伯恩斯(Thomas Berns)提出了“算法治理”的概念,它指“某種類型的規(guī)范性或政治理性,其基礎(chǔ)是通過(guò)建模的方式收集、聚合和自動(dòng)分析大量數(shù)據(jù),提前預(yù)測(cè)并影響可能的行為”。這種形式的治理繞過(guò)了人類主體并剝奪了他們的反身性。他們總結(jié)說(shuō),算法治理的目的是在“沒(méi)有形成或提出欲望的情況下產(chǎn)生行動(dòng)”。個(gè)人被絕對(duì)化,陷入了多重決定的復(fù)雜性中,個(gè)人也被拆解了,被簡(jiǎn)化為一系列將他們限制在概率可能性中的措施。就像讓-呂克·戈達(dá)爾(Jean-Luc Godard)想象的未來(lái)城市阿爾法城(Alphaville)一樣,由算法統(tǒng)治的社會(huì)開始類似于“像白蟻或螞蟻那樣的技術(shù)社會(huì)”,在那里,“人們已經(jīng)成為概率的奴隸”。
試圖將存在歸結(jié)為概率,有可能剝奪個(gè)人和社會(huì)對(duì)未來(lái)的控制權(quán)。被剝奪了挑戰(zhàn)概率的能力,換句話說(shuō)就是挑戰(zhàn)現(xiàn)實(shí)的能力,主體就失去了所有的力量。這種 “去現(xiàn)實(shí)化”的風(fēng)險(xiǎn)絕非不可避免,但在“數(shù)字時(shí)代”的影響下,這種風(fēng)險(xiǎn)正在不斷增加。
大他者守護(hù)著一個(gè)無(wú)法逃脫的世界
公司對(duì)大數(shù)據(jù)的利用是被肖莎娜·祖博夫(Shoshana Zuboff)稱為“監(jiān)控資本主義”的社會(huì)項(xiàng)目的一部分。該系統(tǒng)賴以生存的盈利戰(zhàn)略包括預(yù)測(cè)和修改人類行為,以創(chuàng)造收入和控制市場(chǎng)。因此,監(jiān)控資本主義需要單方面詳盡了解人類經(jīng)驗(yàn),并將它轉(zhuǎn)化為預(yù)測(cè)性的行為數(shù)據(jù)。在大數(shù)據(jù)的指導(dǎo)下,建議和解決辦法提高了行為的可預(yù)測(cè)性,從而達(dá)到市場(chǎng)定位的目的。但監(jiān)控資本主義并未就此止步。祖博夫表示,行為控制是追求更準(zhǔn)確預(yù)測(cè)的領(lǐng)域。
這個(gè)“大他者”(Big Other)吸收了我們提供給它的所有數(shù)據(jù),比我們更了解我們自己。從我們的通信細(xì)節(jié),到我們臥室里的動(dòng)靜,再到我們的消費(fèi)清單,它無(wú)所不包。通過(guò)大規(guī)模的在線實(shí)驗(yàn),它學(xué)會(huì)了指導(dǎo)我們的行動(dòng),并最終體現(xiàn)出一種新的極權(quán)主義。20世紀(jì)的極權(quán)主義通過(guò)暴力來(lái)運(yùn)作,而這種被祖博夫稱為“工具主義”的新權(quán)力則是通過(guò)改變行為來(lái)運(yùn)作。
雖然哈耶克和凱恩斯在幾乎所有問(wèn)題上都針鋒相對(duì),但他們都堅(jiān)信經(jīng)濟(jì)學(xué)從根本上說(shuō)是一個(gè)信息和知識(shí)的問(wèn)題。這促使凱恩斯強(qiáng)調(diào)根本的不確定性及其對(duì)經(jīng)濟(jì)參與者心理的影響。在他看來(lái),經(jīng)濟(jì)政策必須考慮到經(jīng)濟(jì)行為的這一心理層面,并能夠通過(guò)有力的干預(yù),抵消消極情緒轉(zhuǎn)化為自我實(shí)現(xiàn)預(yù)期的抑郁螺旋。相反,在哈耶克看來(lái),知識(shí)的內(nèi)在分散性與公共干預(yù)互不相容。只有市場(chǎng)才能調(diào)動(dòng)本質(zhì)上無(wú)法獲取的知識(shí),因?yàn)樗鼈兪请[性的和情境性的。因此,任何對(duì)競(jìng)爭(zhēng)態(tài)勢(shì)的破壞都只會(huì)降低社會(huì)層面認(rèn)知過(guò)程的質(zhì)量,從而導(dǎo)致經(jīng)濟(jì)決策失誤。
新積累邏輯的本質(zhì)是對(duì)哈耶克和凱恩斯關(guān)注點(diǎn)的顛覆。核心不再是不確定性或不可知性,而是可預(yù)測(cè)性。祖博夫?qū)⒈O(jiān)視資本家的戰(zhàn)略視為一場(chǎng)“提高確定性程度的競(jìng)賽”,在這場(chǎng)競(jìng)賽中,他們別無(wú)選擇,只能加強(qiáng)對(duì)社會(huì)活動(dòng)的控制。亞馬遜、谷歌和臉書正以各自的方式加強(qiáng)監(jiān)控?cái)U(kuò)張與價(jià)值創(chuàng)造之間的重要聯(lián)系。
亞馬遜與推薦邏輯。亞馬遜成功的秘訣之一在于它的推薦系統(tǒng)及其在銷售環(huán)境個(gè)性化方面的優(yōu)勢(shì):
亞馬遜網(wǎng)站為每位客戶量身打造了一家商店。每個(gè)來(lái)到亞馬遜網(wǎng)站的人看到的網(wǎng)站都不一樣,因?yàn)榫W(wǎng)站是根據(jù)他們的興趣個(gè)性化設(shè)計(jì)的。這就好比你走進(jìn)一家商店,貨架開始重新排列,你想買的東西被突出顯示,反之,你不可能感興趣的東西則被排在后面。亞馬遜網(wǎng)站的推薦系統(tǒng)會(huì)根據(jù)當(dāng)前語(yǔ)境和你過(guò)去的行為,選擇你或許感興趣的少量商品。
這種個(gè)性化體驗(yàn)來(lái)自協(xié)同過(guò)濾算法,這種算法借鑒了其他用戶的經(jīng)驗(yàn)。不過(guò),亞馬遜發(fā)明的系統(tǒng)并不是將客戶與其他具有相似特征的客戶進(jìn)行匹配,而是以物品為基礎(chǔ)進(jìn)行組織。用戶購(gòu)買和評(píng)估的每件物品都與相似物品相關(guān)聯(lián),然后這些物品根據(jù)接近程度被組合在一個(gè)推薦列表中。該列表通過(guò)各種指標(biāo)進(jìn)行完善。例如,它包括一個(gè)時(shí)間維度,以便系統(tǒng)整合某些購(gòu)買的順序邏輯(如文學(xué)系列的連續(xù)卷本)或個(gè)人的社會(huì)生物學(xué)軌跡(年齡增長(zhǎng)、與孩子出生相關(guān)的周期等)。這種技術(shù)的一個(gè)主要優(yōu)點(diǎn)在于,大部分計(jì)算都離線進(jìn)行,因此系統(tǒng)功能強(qiáng)大,運(yùn)行速度快。該系統(tǒng)非常有效。點(diǎn)擊率和購(gòu)買轉(zhuǎn)化率都非常高。據(jù)說(shuō),亞馬遜上約有30%的頁(yè)面瀏覽量是通過(guò)它產(chǎn)生的。網(wǎng)飛也采用了同樣的流程,80%的視頻觀看都要經(jīng)過(guò)這一中介,這使其成為公司估值的關(guān)鍵因素之一。因此,推薦與行動(dòng)之間的關(guān)系循環(huán)往復(fù)。目標(biāo)定位的質(zhì)量取決于推薦的質(zhì)量;反之,推薦做法通過(guò)參與者的行動(dòng)得到驗(yàn)證,從而為未來(lái)推薦的循環(huán)提供信息。
谷歌與語(yǔ)境優(yōu)先級(jí)。Alphabet是谷歌的母公司,它主要是一家廣告公司。2017年,廣告創(chuàng)造了該公司收入的87%,該公司控制了全球在線廣告市場(chǎng)33%的份額(總額2 240億美元中的740億美元),在美國(guó)控制了42%的份額。讓谷歌發(fā)家致富的廣告空間銷售系統(tǒng)基于兩個(gè)因素,這兩個(gè)因素的力量結(jié)合在一起。第一個(gè)決定性因素是搜索引擎的性能。謝爾蓋·布林(Sergey Brin)和勞倫斯·佩奇(Lawrence Page)發(fā)明的排名系統(tǒng)基于網(wǎng)絡(luò)超文本鏈接的架構(gòu)。第一代搜索引擎主要以關(guān)鍵詞分析為基礎(chǔ),與之不同的是,谷歌的原型既考慮了指向頁(yè)面的鏈接數(shù)量和包含這些鏈接的頁(yè)面的相對(duì)重要性,也考慮了其他因素,如鏈接文本、請(qǐng)求位置和視覺(jué)特征(如字體大?。_@一新搜索引擎的成功源于分層原則的強(qiáng)大功能,它能夠提供最相關(guān)的結(jié)果,即不僅能夠摒棄不良結(jié)果(垃圾),還能識(shí)別那些從搜索制定者的角度來(lái)看只具有適度興趣的結(jié)果。正是在這一功能的基礎(chǔ)上,谷歌取得了經(jīng)濟(jì)上的成功。
第二個(gè)決定性因素是廣告與瀏覽語(yǔ)境的相關(guān)性。這樣才能在最壞的情況下限制廣告對(duì)瀏覽體驗(yàn)的破壞,在最好的情況下確保網(wǎng)絡(luò)用戶對(duì)廣告有積極的看法。廣告定位的精細(xì)程度取決于對(duì)關(guān)鍵字、瀏覽歷史和谷歌生態(tài)系統(tǒng)中收集的大量其他數(shù)據(jù)的分析。這些豐富的語(yǔ)境信息實(shí)現(xiàn)了極為精確的定位,從而提高了廣告引發(fā)點(diǎn)擊的可能性。最大限度地提高廣告商所追求的行為效果,可以增加廣告空間的價(jià)值。
2010年代,Alphabet實(shí)現(xiàn)了多元化,擴(kuò)大了它在網(wǎng)絡(luò)安全(Chronicle)、人工智能(Deepmind)、智能家居(Nest的恒溫器、攝像頭、傳感器、報(bào)警器和可視門鈴)和自動(dòng)駕駛汽車(Waymo)領(lǐng)域的活動(dòng)。2018年,當(dāng)Waymo這家子公司在亞利桑那州的道路上推出第一輛機(jī)器人出租車時(shí),其估計(jì)價(jià)值(在700億~2 500億美元之間)有可能超過(guò)大眾(750億美元)和豐田(1930億美元)等最大的汽車制造商。Waymo的盈利策略不是制造更好的汽車,而是將汽車作為一個(gè)生活空間、一個(gè)移動(dòng)空間來(lái)控制,進(jìn)而成為一個(gè)“數(shù)據(jù)井架”?!督鹑跁r(shí)報(bào)》(Financial Times)上瑞銀(UBS)的一份報(bào)告詳細(xì)解釋了這一點(diǎn):
Waymo的威脅不在于制造更好的汽車。該公司并不需要。恰恰相反,它從克萊斯勒和捷豹(淪為供應(yīng)商)那里訂購(gòu)汽車,然后為它們配備內(nèi)部制造的自動(dòng)駕駛軟件和硬件。但它的潛力遠(yuǎn)不止于卓越的自動(dòng)駕駛能力。一旦機(jī)器人出租車成為主流,Alphabet 就能從谷歌地圖和搜索中收集數(shù)據(jù),通過(guò)YouTube和Play Store為乘客提供娛樂(lè),通過(guò)谷歌智能揚(yáng)聲器提供建議,并利用它的軟件能力管理車隊(duì)。瑞銀解釋說(shuō),除了車輛本身,Waymo還是一個(gè)垂直整合的“封閉系統(tǒng)”。蒂爾先生(Mr. Thill)補(bǔ)充說(shuō),機(jī)器人出租車的利害關(guān)系“將影響廣告、媒體和娛樂(lè)行業(yè)”。重要的不僅是自動(dòng)駕駛技術(shù),還有谷歌為汽車帶來(lái)的所有組件。這些都很重要。這也是該公司在客廳設(shè)備上投入巨資的原因——它希望汽車看起來(lái)像你的客廳。
數(shù)據(jù)收集、整合和處理指導(dǎo)著谷歌的擴(kuò)張,目的始終是根據(jù)個(gè)人和語(yǔ)境提供最相關(guān)的產(chǎn)品。公司創(chuàng)始人兼首席執(zhí)行官勞倫斯·佩奇說(shuō):“谷歌的問(wèn)題在于,你必須向它提出問(wèn)題。它應(yīng)該知道你想要什么,甚至在你提出要求之前就告訴你?!币虼耍i定目標(biāo)是為了預(yù)測(cè)行為,更是為了引導(dǎo)行為。
臉書與廣泛的軟件整合。語(yǔ)境化的原則在不斷完善。它傾向于整合每個(gè)人在活動(dòng)中留下的所有數(shù)字痕跡,包括與他們的社交網(wǎng)絡(luò)、行動(dòng)、購(gòu)買歷史有關(guān)的數(shù)據(jù),以及他們的個(gè)人信息(甚至是隱私信息)、行政信息、財(cái)務(wù)信息和職業(yè)信息。事實(shí)表明,臉書直接從某些移動(dòng)應(yīng)用程序中獲取數(shù)據(jù),而用戶并不知情。比如一款名為Breethe的冥想程序和另一款名為即時(shí)心率檢測(cè)(Instant Heart Rate)的程序,后者被吹捧為“第一款最快、最準(zhǔn)確的便攜式心率監(jiān)測(cè)器”。再如一款名為Flo的應(yīng)用程序,它記錄三十多種癥狀和活動(dòng),以便“通過(guò)人工智能生成有關(guān)月經(jīng)周期和排卵期的最準(zhǔn)確預(yù)測(cè)”,并承諾“通過(guò)檢測(cè)反復(fù)出現(xiàn)的身體和情緒模式更好地了解你的身體”。在以上種種例子中,有關(guān)冥想、心率或排卵期的信息都會(huì)被傳送到臉書。
收集的數(shù)據(jù)來(lái)自內(nèi)置應(yīng)用程序或網(wǎng)站中的小程序,被稱為軟件開發(fā)工具包(SDK)。軟件開發(fā)工具包通過(guò)以下先進(jìn)的功能使公司得以增強(qiáng):它們向分析平臺(tái)傳輸數(shù)據(jù),例如會(huì)話數(shù)量和持續(xù)時(shí)間、位置、使用的終端類型,以及用戶在應(yīng)用程序中輸入的信息,這讓公司能夠更好地了解用戶行為并向他們投放更具針對(duì)性的廣告。
臉書分析(Facebook Analytics)提供“以人為本的全方位渠道分析”。借助“從二十億人的社區(qū)中收集的統(tǒng)計(jì)數(shù)據(jù)”,臉書分析承諾,幫助企業(yè)家深入了解人們?cè)诰W(wǎng)站、應(yīng)用程序、臉書頁(yè)面等渠道與企業(yè)家的業(yè)務(wù)互動(dòng)的方式和位置。該觀點(diǎn)契合了非規(guī)?;恼擖c(diǎn),小規(guī)模運(yùn)營(yíng)可以與大數(shù)據(jù)的力量相結(jié)合。這家大型公司正在提供復(fù)雜的信息技術(shù)服務(wù),而這類服務(wù)對(duì)于中型公司來(lái)說(shuō)通常難以獨(dú)立提供。
通過(guò)軟件開發(fā)工具包,社交網(wǎng)絡(luò)可以訪問(wèn)其他個(gè)人數(shù)據(jù)源,并將這些數(shù)據(jù)與它已有的用戶數(shù)據(jù)鏈接起來(lái),從而強(qiáng)化對(duì)個(gè)人存在的了解。這使得社交網(wǎng)絡(luò)能夠進(jìn)行復(fù)雜的市場(chǎng)研究,為算法過(guò)程提供數(shù)據(jù),以便精細(xì)地選擇要在用戶個(gè)人頁(yè)面上顯示的內(nèi)容,當(dāng)然,也可以兜售越來(lái)越有針對(duì)性的廣告?!度A爾街日?qǐng)?bào)》(Wall Street Journal)調(diào)查了軟件開發(fā)工具包,報(bào)道稱,這些移動(dòng)應(yīng)用程序數(shù)據(jù)對(duì)臉書的利潤(rùn)至關(guān)重要:
臉書積累了有關(guān)用戶行為的知識(shí),該公司可以為營(yíng)銷人員提供比大多數(shù)其他公司更好的投資回報(bào)。例如,當(dāng)營(yíng)銷人員想針對(duì)喜歡運(yùn)動(dòng)的用戶或正在購(gòu)買新跑車的用戶投放廣告時(shí),這些廣告的每次點(diǎn)擊價(jià)格會(huì)更高。這就是臉書收入增長(zhǎng)的原因。
在這場(chǎng)提取相關(guān)信息的資源競(jìng)賽中,網(wǎng)絡(luò)巨頭們對(duì)自己收集的數(shù)據(jù)或從合作伙伴那里獲得的數(shù)據(jù)嚴(yán)加防范。但它們也求助于專門編譯文件的代理商來(lái)補(bǔ)充它們的數(shù)據(jù):
甲骨文擁有或合作的數(shù)據(jù)代理商有八十多家,它們提供了海量的數(shù)據(jù)……包括消費(fèi)者購(gòu)買行為、金融交易、社交媒體行為和人口統(tǒng)計(jì)信息。該公司聲稱出售全球三億多人的數(shù)據(jù),每個(gè)人擁有三萬(wàn)條數(shù)據(jù),“美國(guó)80%以上的互聯(lián)網(wǎng)人口都在你的指尖”。
知悉每個(gè)人都有三萬(wàn)個(gè)屬性,再加上錯(cuò)綜復(fù)雜的跟蹤設(shè)備,我們可以對(duì)每個(gè)人都了如指掌。這種通過(guò)系統(tǒng)化探索數(shù)據(jù)而獲得的信息優(yōu)勢(shì)構(gòu)成了祖博夫所說(shuō)的“行為剩余”,這是一種整體知識(shí),它為控制這種知識(shí)的組織提供了一個(gè)居高臨下的位置,使它只根據(jù)自己設(shè)定的目標(biāo)來(lái)調(diào)動(dòng)這種知識(shí)。這樣,與用戶相關(guān)的信息只有在符合價(jià)值要求的情況下才會(huì)被披露。
祖博夫論點(diǎn)的新穎之處和優(yōu)勢(shì)在于,它指出了這一動(dòng)力將把我們引向何方。監(jiān)控資本主義的目標(biāo)不是提高行為的可預(yù)測(cè)性,而是控制行為。這可以通過(guò)微妙的激勵(lì)措施來(lái)實(shí)現(xiàn),比如《寶可夢(mèng)GO》(Pokémon GO)這款游戲,它的商業(yè)模式的理念是向商家收取費(fèi)用,引導(dǎo)人群前往對(duì)商家更有利的目的地。這還表明,它可以更具侵入性,例如遠(yuǎn)程扣押逾期償還貸款或逾期支付保險(xiǎn)費(fèi)的人的聯(lián)網(wǎng)車輛。遠(yuǎn)程信息處理技術(shù)、遠(yuǎn)程計(jì)算機(jī)化管理程序都有一個(gè)明確的目標(biāo):
遠(yuǎn)程信息處理不僅關(guān)乎“了解”,還關(guān)乎“做到”……。它承諾通過(guò)旨在改變行為以實(shí)現(xiàn)最大盈利能力的機(jī)器流程來(lái)降低風(fēng)險(xiǎn)。行為剩余被用來(lái)觸發(fā)制裁,例如實(shí)時(shí)票價(jià)上漲、經(jīng)濟(jì)處罰、宵禁和發(fā)動(dòng)機(jī)堵塞,也被用來(lái)觸發(fā)獎(jiǎng)勵(lì),例如票價(jià)折扣、優(yōu)惠券和獎(jiǎng)賞以換取未來(lái)的福利。
在祖博夫看來(lái),監(jiān)控資本主義的公司正在建立一個(gè)大他者的基礎(chǔ)設(shè)施,它從我們的社會(huì)經(jīng)驗(yàn)中汲取無(wú)限的資源,對(duì)這些資源進(jìn)行重新安排,并以行為指令的形式返還給我們,從而從根本上削弱了我們的自主性。這個(gè)大他者是雅克·德里達(dá)意義上的“幽靈”。面對(duì)大他者時(shí),有徹底的不對(duì)稱性。它擁有“權(quán)力的最高徽章——看到他人而不被看見(jiàn)”,作為個(gè)體的我們則陷入了“‘面甲效應(yīng)’——我們看不到誰(shuí)在看著我們”。然而,與大多數(shù)幽靈不同的是,大他者不只是存在于我們的生活中,它還玩弄我們的生活。它通過(guò)推薦、建議和義務(wù)來(lái)塑造我們的生活,對(duì)我們的行為產(chǎn)生深遠(yuǎn)影響,從而激活自己的力量。祖博夫向我們表明,監(jiān)控資本主義的繁榮是以犧牲個(gè)人自治的完整性為代價(jià)的,它直擊人類生存條件的核心。
《技術(shù)封建主義》,[法]塞德里克·迪朗著,陳榮鋼譯,中國(guó)人民大學(xué)出版社,2024年7月出版
【本文節(jié)選自《技術(shù)封建主義》】