26
透視Facebook算法帝國 ，我們隻是工程思維的螺絲釘
本文講的是透視Facebook算法帝國 ，我們隻是工程思維的螺絲釘
紮克伯格對黑客的幼稚迷戀從未消失
矽穀所自稱的所有價值都是60年代的價值。大型科技公司將自己當做個人解放的平台。人人都有權在社交媒體上表達自己的想法，實現自己的智力潛能和民主潛能，展現自己的個性。如果說電視曾經是一種被動的媒介（passive medium），使公眾變得沒有活力，Facebook則是參與性、使能的。它讓用戶廣泛地閱讀，自主思考，形成自己的觀點。
我們不能完全否認這種說法。世界上還有一些地方，甚至在美國的一些地方，Facebook是鼓勵公民，讓他們自己組織起來反對權力的。但是，我們也不能認為Facebook的自我觀念是真誠的。Facebook是一個管理完善的、自上而下的係統，而不是一個健全的公共廣場。它模仿了一些對話的模式，但這隻是它的表麵。
而實際上，Facebook是一堆用於信息分類的規則和程序，這些規則和程序是為了公司的最終利益而設計的。Facebook一直在監視著用戶，對他們進行審核，將它們當做行為實驗的小白鼠。雖然它給人印象是它有提供選擇，但事實是，Facebook家長式地將用戶推向它認為最適合他們的方向，這也是令他們徹底沉迷的方向。這在Facebook的掌門人那壓縮的、曆史性的職業生涯中是最為明顯的一種偽善。
馬克·紮克伯格（Mark Zuckerberg）是個好孩子，但他想要學壞，或者隻是想變得不那麼乖。他青春期時的英雄是真正的黑客。不是惡意的數據盜賊或網絡恐怖分子。紮克伯格的黑客英雄是對權威的反叛者。從技術上看，他們是技術精湛、足智多謀的nerd，他們不受束縛於傳統思想。60年代70年代間，在MIT實驗室，他們打破了所有妨礙早期的計算機的規則，做出了許多令人驚歎的東西，比如第一個電子遊戲和第一個文字處理軟件。
當紮克伯格於2002年秋天來到哈佛時，黑客的全盛時期早已過去。但紮克伯格也想當黑客，他也曾對規則不屑一顧。高中時，他解開了阻止外人篡改AOL代碼的鎖，並在其即時通訊程序添加了自己的改進。大二時，他開發了一個名為Facemash的網站，這是一個哈佛版美女評選網站。它每次將兩張女生的照片放在一起，讓用戶選擇哪一位更迷人。每一回合的優勝者都晉級到下一輪。為此，紮克伯格需要照片。他從哈佛各個學院的服務器上竊取了這些信息。“有一件事情是肯定的，”他在博客上寫道，“做了這個網站，我是個混蛋。”
他的叛逆的短暫實驗以向哈佛紀律小組和校園女性團體道歉結束，並琢磨了如何挽回名聲的策略。在那之後的幾年裏，他展現出反抗並不是他天生的傾向。他對權威的不信任如此之大，以至他找到時任華盛頓郵報公司CEO的唐·格雷厄姆（Don Graham）做他的導師。在他創立Facebook之後，他跟蹤了美國各大巨頭公司，以便近距離地研究他們的管理風格。
盡管如此，紮克伯格對黑客的幼稚迷戀從未消失——或者說，他把這種迷戀帶入了自己的新的、更成熟的化身中。當他終於有了自己的公司時，他為它買了一個地址：One Hacker Way。他設計了一個廣場，混凝土上嵌著“HACK”一詞。在公司園區的中心，他創建了一個名為“黑客廣場”（ Hacker Square）的開放會議空間。當然，這是Facebook員工參加黑客馬拉鬆活動的場所。正如他所說，“我們整體上有這樣的精神，我們想要建立一種黑客文化。”
Facebook總部地址所在的1 Hacker Way 攝影：Alamy
許多公司也有類似的黑客文化——黑客是“顛覆者”——但沒有一個公司走得像Facebook那樣遠。當紮克伯格開始讚美黑客文化時，他已經將黑客最初的含義去掉了，並將其提煉成一種幾乎不帶有反叛意味的管理哲學。他對一個采訪者說，黑客“隻是這群試圖快速開發，挑戰力所能為之極限的這群計算機科學家。這正是我所鼓勵我們的工程師的。”黑客才是Facebook的優秀員工，是Facebook的負責任的一員——這是該公司采取激進個人主義的方式，並因循守舊地應用的縮影。
紮克伯格將黑客精神提煉成一句座右銘:“快速行動，打破常規。”（Move fast and break things）。事實是，Facebook的發展速度比紮克伯格想象的要快。隨著Facebook的擴張，它需要向它的投資者，向它的用戶，向全世界證明它的規模。它需要快速成長。在它不長的生命中，公司不斷地自我標榜。它標榜自己是一個工具、一個公用事業、以及一個平台。它標榜開放性和連通性。在所有這些自我定義的嚐試中，它終於做到了闡明自己的意圖。
Facebook 創始人 Mark Zuckerberg 和 Chris Hughes 在哈佛大學，2004年5月。攝影： Rick Friedman/Corbis via Getty
盡管Facebook偶爾會談論政府和企業的透明度，但它真正想要推進的是個人的透明度，或者它在不同時期所稱的“激進的透明度”或“終極的透明度”。理論認為，公開分享親密細節將消除我們生活中的道德混亂。由於自己的尷尬事有被傳播的威脅，我們會表現得更好。也許無處不在的受牽連的照片和證據確鑿的揭露將使我們對彼此的罪惡更加寬容。“對你的工作夥伴、同事以及其他認識你的人來說，你擁有不同的形象的日子可能很快就會結束。”紮克伯格說：“為自己塑造兩個身份是缺乏誠信的例子。”
關鍵在於，Facebook對“哪些內容對你最有利”這件事，它抱持一種強硬的、家長式的觀點，它試圖把你運送到那些內容中。紮克伯格說：“要讓人們到達更加開放的點，是一個很大的挑戰，但我想我們會做到的。”他有理由相信他會實現這個目標。Facebook擁有龐大的規模，積累了巨大的權力。“從許多方麵來看，Facebook更像是一個政府，而不是傳統的公司。”紮克伯格說：“我們有很多用戶，我們比其他科技公司更會製定政策。”
自動化取代人類的心智過程，使大腦變得冗餘
不為人知的是，紮克伯格是長期政治傳統的繼承者。在過去200年裏，西方一直無法擺脫一個由來已久的幻想，是一個夢想圖景，拋棄那些沒用的政客，讓工程師們來取代他們。法國人是第一個在革命的血腥、混亂的後果中接受這一觀念的人。這個國家最有影響力的哲學家（特別是聖西門和孔德）小圈子真正地撕裂了這個國家的進程。他們痛恨所有古老的寄生力量——封建領主、牧師和軍閥——但他們也害怕暴民的混亂。為了解決這一分歧，他們提出了一種技術官僚（technocracy）的形式——工程師和各種技術人員將基於仁慈的利益來統治。工程師們將在科學精神下，剝離權力的舊秩序，加諸理性和秩序。
這個夢想從那時起就吸引了知識分子，尤其是美國人。偉大的社會學家Thorstein Veblen癡迷於在權力係統中安插工程師，1921年，他出版了一本書來闡述他的觀點。他的願景短暫地變成了現實。在第一次世界大戰後，美國的精英們被這場戰爭所引發的非理性衝動所震驚——仇外心理、種族主義、對私刑和暴亂的渴望。當經濟生活的現實變得如此複雜，政客們怎麼可能管理這些?美國人開始向往那個時代最著名的工程師：赫伯特·胡佛（Herbert Hoover）。1920年，富蘭克林·羅斯福組織了一場運動，起草胡佛候選總統。
最終，胡佛實驗幾乎是完全沒有實現“工程師統治者”的美好幻想。不過，這個夢想的一個完全不同的版本已經實現，以大科技公司的CEO們的形式。我們不是被工程師們統治了，還沒有，但他們已經成為了美國生活中的主導力量——精英階層中最高、最具影響力的階層。
描述這一曆史進程的還有另一種方式。自動化已經如洪水般湧現。在工業革命時期，機器取代了體力勞動者。最初，機器需要人工操作。隨著時間的推移，機器已經幾乎不需任何人為的幹預。幾個世紀以來，工程師們將體力勞動自動化了；而我們新的工程師精英將思維自動化了。他們完善了取代人類的心智過程（ intellectual processes）的技術，使大腦變得冗餘。事實上，我們已經開始把我們的智力工作外包給那些建議我們應該學習什麼，應該考慮哪些話題，以及我們應該購買什麼東西的公司。這些公司侵入我們的生活的理由，正是聖西門和孔德所闡述的觀點：他們為我們提供了效率；他們正在對人類生活施加命令。
沒有人能比紮克伯格更好地表達工程師力量對改造社會的信念。他告訴一群軟件開發人員，“你要知道，我就是工程師，我認為工程思維的關鍵是一種希望和信念，即你可以把任何一個現有的係統做出來，並且把它做得更好。所有東西，無論是硬件還是軟件，還是一個公司，還是一個開發者生態係統，你都可以仿造出來，並且要做得比它好很多。”如果紮克伯格的理由變得流行（它會的），那麼世界將會變得更好。
Facebook力量的來源：使思考自動化的算法
Facebook 力量的確切來源是算法。這是一個在幾乎每個科技巨頭的故事中重複的概念，但是對於那些網站的用戶來說，它仍然是模煳不清的。從算法被發明的那一刻起，你就可能看到它的力量，它的革命性的潛力。算法是為了使思考自動化（automate thinking），為了從人類手中消除做艱難決定的過程，為了解決激烈的爭論而開發的。
算法的本質是完全不複雜的。教科書裏將算法比作食譜——可以不費心思地進行的一係列精確的步驟。這與方程不同，方程有一個正確的結果。算法僅僅是捕捉到解決問題的過程，並不說明這些步驟最終會導致什麼結果。
這些食譜是軟件的關鍵組成部分。程序員不能簡單地命令一台計算機，比如說，讓它在互聯網上搜索。他們必須給計算機一套特定的指令來完成這項任務。這些指令必須處理混亂的人類活動，從中尋找信息，並將其轉換成一個可以用代碼表示的有序過程。先做這個，然後做那個。從概念到程序再到代碼的翻譯過程本質上是以簡釋繁的。複雜的過程必須被細分成一係列的二元選擇。沒有什麼公式可以給你提供穿哪件衣服的建議，但可以很容易地為它寫一種算法——通過一係列二選一的問題(例如，早上還是晚上、冬天還是夏天、晴天還是雨天)來解決，每一個選擇結束後都將推到下一個選擇。
在計算領域最初的幾十年裏，“算法”這個詞並沒有經常被提及。但是，隨著60年代大學裏開始設立計算機科學係，這個獲得了新的聲望。它的流行是身份焦慮的產物。程序員們，尤其是在大學裏的程序員們，都急於聲明他們不僅僅是技術人員。他們開始把他們的工作描述為算法，部分原因是算法把他們與一個偉大的數學家聯係在一起——波斯數學家穆罕默德·伊本·穆薩·花拉子米（Muhammad ibn Musa al-Khwarizmi），或者他更為人熟知的拉丁語名字Algoritmi。12世紀時，花拉子米將阿拉伯數字引入西方；他也是開創代數和三角學的先驅。通過將算法描述為編程的基本元素，計算機科學家們將自己與一個偉大的曆史聯係在了一起。這是一個很有智慧的名字：看，我們不是暴發戶，我們研究抽象和理論，就像數學家那樣！
花拉子米的一尊雕像，在烏茲別克斯坦。攝影：Alamy
在這種自我描述中，有一種巧妙的手法。算法可能是計算機科學的本質——但它並不是一個科學的概念。算法是一種係統，就像管道係統或軍事指揮係統一樣。要使係統正常工作，需要專業知識、計算能力和創造力。但是某些係統，比如軍隊，比其他的係統更可靠。一個係統是一個人的人工製品，而不是一個數學上的真理。算法的起源無疑是人類，但人類的易錯性並不是我們與之關聯的質量。當算法拒絕貸款申請或為航空公司的航班設定價格時，它們似乎沒有人情味，非常固執。算法應該沒有偏見、直覺、情感或同理心。
矽穀的算法狂熱者對於描述他們的情感對象的革命性潛力是傲慢的。算法總是很有趣，很有價值，但是計算的進步使它們變得更加強大。最大的變化是計算的成本：它崩潰了，就像機器本身加速並被連接到一個全球網絡中一樣。計算機可以儲存大量未分類的數據——而算法可能會攻擊這些數據，從而找到能夠避開人類分析人員的模式和連接。在穀歌和Facebook的掌控下，這些算法變得越來越強大。在他們的搜索服務中，他們積累了越來越多的數據。他們的機器吸收了過去搜索的所有經驗，利用這些經驗來更精確地提供所期望的結果。
對於整個人類存在來說，知識的創造是一個艱難的反複試錯的過程。人類會思考關於世界是如何運作的理論，然後檢驗證據，看看他們的假設是否會在現實中存在。算法顛覆了科學的方法——模式從數據中產生，從關聯性中產生，它不受假設的指導。他們把人類從整個創造過程中踢開了。當時連線雜誌的主編Chris Anderson撰文寫道:“我們可以停止尋找模型。我們可以在沒有假設的情況下對數據進行分析。我們可以把這些數據輸入到世界上最大的計算集群中，讓統計算法去找到科學不可能找到的模式。”
在某種程度上，這是不可否認的。算法可以在不理解單詞的情況下翻譯語言，隻需通過揭示句子結構的模式。算法可以發現一些人類甚至永遠不會想到要去尋找的偶然。沃爾瑪的算法發現，人們在為即將到來的大風暴做準備時，會拚命購買草莓餡餅。
然而，即便一個算法無意識地實現了它的程序——甚至當它學會在數據中看到新的模式時——它也反映了它的創造者的思想，它的訓練者的動機。亞馬遜和Netflix使用算法對書籍和電影提供推薦。(亞馬遜上有三分之一的購買是來自這些推薦。)這些算法試圖理解我們的品味，以及誌趣相投的其他消費者的品味。然而，這些算法卻給出了與我們的品味截然不同的建議。亞馬遜會給你推薦你以前看過的書，Netflix會將用戶引向不熟悉電影。這種差異有些是商業原因。大片電影讓Netflix的流媒體成本更高。當你決定看更多不知名的電影，它會得到更多的利潤。計算機科學家們有一句老話，描述了算法如何無情地尋找模式：他們談論如何折磨數據直到它坦白。然而，這個比喻包含了未經審查的含義。數據，就像酷刑的受害者，告訴審訊者想要聽到的任何事情。
像經濟學一樣，計算機科學有偏好模型和關於世界的隱含假設。程序員在學習算法思維時，都將效率視為首要考慮因素。這是完全可以理解的。但當我們加快速度的時候，我們一定會犧牲別的東西。
算法可以是華麗的邏輯思維表達，甚至愜意和奇跡。很快，算法就將引導無人駕駛車輛，並且精確定位我們體內的癌症。但是，要做所有這些事情，算法不斷地接受我們的指引和規範。算法代表人類作出決定。問題在於，當我們把想法外包給機器時，我們也真正將思考外包給了運行機器的組織。
紮克伯格：並不聰明的算法評論家
紮克伯格將自己塑造成了一個算法評論家，但並不聰明那種。他與身在穀歌的對手形成了鮮明的對比。在Larry Page的那裏，算法是一個冷酷無情，內心毫無波動的統治者。算法的推薦沒有生命力的痕跡，對將查詢鍵入自己引擎的人類也沒有什麼明確的理解。Facebook則不同，就像數千萬張圖組成的紮克伯格自畫像所體現的那樣，這家公司是這個日益自動化的原子世界的喘息。紮克伯格說：“你所使用的每一種產品，都因你的朋友而變得更好。”
紮克伯格指的是Facebook的新聞資訊（Newsfeed）。Facebook的新聞資訊收錄了你的朋友發布到Facebook的所有狀態更新、文章和照片，發布時間最新的排在最前。本來做新聞流是為了生活樂趣，但也是為了解決現代性的一個重要問題——我們無法篩選不斷增長的，永遠圍繞在我們身邊的信息洪流。理論上講，有誰能比朋友更適合推薦我們應該閱讀和觀看的信息的呢？紮克伯格宣稱，新聞流將Facebook變成“個性化報紙”。
不幸的是，我們的朋友並不能我們做多少。他們喜歡分享很多東西。如果我們隻是閱讀他們的想法，並且跟隨文章的鏈接，我們可能隻會比以前好那麼一點點，甚至被更深的信息洪流所淹沒。所以，Facebook就自己決定我們應該看什麼。這家公司的算法將Facebook用戶可能會看到的數千種物品分成較小批量的選項。然後在這幾十個項目中，算法決定了我們可能首先閱讀什麼。
根據定義，算法（Algorithms）是無形的（invisibilia）。但我們通常可以感覺到算法的存在——在遠處的某個地方，我們正在與一台機器進行交互。這就是Facebook的算法如此強大的原因——研究表明，最多的時候，60％的用戶是完全不知道Facebook算法的存在。但是即使用戶知道Facebook算法的影響力，這也並不重要。因為Facebook的算法簡直不能更不透明了。Facebook的算法已經成長為一個幾乎不可知的各種變量糾纏。負責解釋超過100,000個“信號”來做出關於用戶看到什麼的決定。其中一些信號適用於所有Facebook用戶；一些反映了用戶的特殊習慣和朋友的習慣。也許，Facebook都不再完全理解自己那盤根錯節的算法。
我們可以說，Facebook正在不斷地修改用戶如何看待這個世界，通過不斷調整能夠顯示到用戶麵前的新聞和意見的質量，調整政治和文化輿論，為了吸引用戶更多的關注。
但是，工程師怎麼知道具體去調整？現在，有一門學科，數據科學，指導算法的編寫和修訂。Facebook擁有一個從學術界偷獵而來的團隊，對用戶進行實驗。這可謂統計學家最性感的夢想——人類曆史上最大的一些數據集，能夠在數學上有意義的隊列中進行試驗。 Facebook前數據科學團隊負責人Cameron Marlow回憶自己得到這個機會時，他開始抽搐，變得欣喜若狂。他說，我們有一台顯微鏡，它不僅讓我們以精細水平檢查我們從未見過的社會行為，而且允許我們進行規模涉及數百萬用戶的實驗。
Facebook的喜歡標榜自己的實驗。我們知道，Facebook曾經做實驗探究情緒是否會傳染。為了進行這項試驗，Facebook試圖操縱其用戶的精神狀態。對於一個組，Facebook將新聞流上積極的詞語凸顯出來；另一組則去掉了否定詞。結果發現，每個組的用戶發發帖時措辭都與他/她轉發的這條帖子情緒類似。這項研究遭到了嚴厲的譴責，但它實際上並沒有多麼不同尋常。Facebook的數據科學團隊的一名成員表示：“任何在那個團隊的人都可以做一個測試。他們總是試圖改變人們的行為。”
Facebook還做了更多實驗。這家公司宣傳自己是如何巧妙地放大迫使良性行為的社會壓力，從而增加投票率（和器官捐獻比例）。Facebook甚至把結果發表在同行評審的期刊上。一項2012年發表在Nature上的研究寫道，“2006年至2010年間在投票的0.60％的增長，可能更多是由於Facebook上的一條消息造成的。”沒有其他任何一家公司宣稱自己在塑造民主上有這樣的能力，而他們不這樣說也是有理由的。對於一家公司而言，這樣的權力太大了。
Facebook認為它已經釋放了社會心理學的潛力，認為他們比用戶更了解用戶自己。Facebook可以預測用戶的種族、性取向、婚姻狀態和藥物使用情況，全部都基於他們點讚的基礎上。這是紮克伯格的夢想，隻要分析這個數據就可以發現所有關係的源泉。在此期間，Facebook將繼續探索——不斷地試驗，看看有什麼是我們渴望的。
我們正處在思維自動化革命的開端，我們隻是這個宏偉設計的螺絲釘
思維的自動化，我們正處在這場革命的開始。但是，我們已經可以看到它的未來。算法已經取代了許多曾經由人執行的官僚和文書工作，算法將很快開始代替人，從事更具創造性的任務。算法已經生成了美術作品，編寫了交響樂曲，或者說至少生成了藝術和音樂的近似值。
這是一個可怕的發展軌跡。如果算法可以複製創造力，那麼還有什麼理由培養人類的創造力？當計算機完全可以生成類似乃至更好的東西時，而且毫不費力，為什麼要曆經千辛萬苦寫作或繪畫？任何人類活動都抵製不住自動化的趨勢，那創作活動又會有什麼不同？
工程思維對文字和圖像的迷戀、對藝術的神秘感、對道德複雜性或情感表達都沒有耐心。它把人看作是數據，是係統的組成部分，是抽象。這就是為什麼Facebook對在用戶上進行大量的實驗，卻絲毫不感到良心之不安的原因。所有的努力都是為了讓人類可以預測——預測他們的行為，這讓他們更容易被操縱。這種冷血的思維，脫離了人生的偶然性和神秘，很容易理解長期的價值像是煩擾，為什麼例如隱私這樣的概念相對工程師的微積分其分量不值一提。
Facebook永遠不會這樣說，但算法的本意就是削弱自由意誌，減輕人們選擇的負擔，將人們推向正確的方向。算法激發了一種全能的感覺，一種居高臨下的信念，即我們的行為可以被改變，而我們甚至沒有意識到是誰的手在引導我們。這永遠是工程思維的危險性，因為它超越了構建無生命物質的根基，開始設計一個更完美的社會世界。我們隻是這個宏偉設計中的螺絲釘。
原文發布時間為：2017-09-21
作者：Franklin Foer
編譯：劉小芹 聞菲
本文來自雲棲社區合作夥伴新智元，了解相關信息可以關注“AI_era”微信公眾號
原文鏈接
最後更新：2017-09-22 17:03:14