733
機器人
人工智能演進途中的倫理悖論與社會危機
近日人工智能伴隨著AlphaGo引起了人們的廣泛關注。這些關注的目光裏包含了人們既興奮又恐慌的情緒。人們興奮於技術的發展將必然帶來新的生產革命，同時又擔憂人工智能在對人類生活和工作起到正向作用的同時會不會對也意味著意想不到的災難。
這期”崔鵬說“，我也來和大家聊一聊人工智能技術將把人類社會帶往何方。當然，在本文我們不會觸及任何純技術相關的細節（so don't be panic），也不會像科幻片一樣談機器人如何毀滅人類這樣虛無縹緲的事情。僅僅基於目前人工智能的發展態勢，讓我們合理的預測一下人工智能未來發展可能遇到的桎梏，與其一旦發展成熟，又將對人類社會生產結構帶來什麼樣的衝擊。
趨勢：人工智能路在何方
還是讓我們先回到原點，來簡要回顧一下人工智能的發展與應用曆程。
廣義上來說，人工智能指的是通過某種方式讓機器擁有人的邏輯判斷能力或“思維能力”，以根據特定輸入條件做出相應的判斷或決策。其實廣義的人工智能早已走出了科幻小說，在生產生活中被廣泛地應用了。發展至今日，人工智能對人類生產模式的影響可被粗略的劃分為兩個階段。
初級階段：機械自動化
初級階段起始於第二次工業革命，此時所謂的“人工智能”指的是通過單片機等固件，使機器擁有簡單的處理線性邏輯的能力，並能被人定義多種不同的輸出流程（例如：如果輸入為A，則執行流程X；如果輸入為B，則執行流程Y）。這當然還遠遠沒到所謂“智能”的程度，但即便如此簡單，這類技術的應用在當時也帶來了革命性的生產模式進化，使得機器不僅僅能作為風車、牲畜的替代“能量源”進行高效做功，更能在標準化的生產流程中完全替代人進行複雜生產勞動。可以說，初期階段的人工智能為當今整個大機器協同生產體係奠定了基礎，極大地釋放了人類的生產力，開啟了自動化生產時代。
現期階段：決策輔助
隨著自動化生產的普及，機器在初級人工智能的賦能下已然成為了人類標準化勞動力的“替代者”，但是這些勞動力該超什麼方向使用依舊需要人類根據市場態勢及消費者需求進行靈活地決策。如今，在網絡與算法進一步發展的驅動下，人工智能的應用範疇也在不斷擴大。除了驅動機器作為標準化生產活動的“替代者”，人工智能更是被封存在千萬計的軟件中成為人類思考與決策的重要“輔助者”。通過統計算法與辦公軟件，人們可以將計算機的超高運算效率與存儲容量納為己用，實現人類自身智能的增幅與擴容。現在已經有很多公司已經具備完善的BI 係統，以數據驅動為核心輔助公司領導層更係統化、數據化的做出商務決策。
那麼接下來人工智能的應用又該向什麼方向發展呢？阿爾法狗的麵世也許已經揭開了人工智能應用第三階段的序章。
第三階段：決策替代
傳統意義上軟件的核心工作是基於人類為其定義的輸入（問題）與邏輯（解法）的基礎上，驅動硬件進行運算並給出輸出，在本質上仍然是個“苦力活”，沒有主動發現問題，創造解法的能力。而阿爾法狗背後“深度學習”算法的跨時代意義便是在於其賦予而機器進行主動學習、主動理解並創造解法的能力。介於此，阿爾法狗僅憑自身實現了複雜環境中的博弈決策。當這類技術足夠成熟，一個新的時代也將拉開序幕——機器不僅僅是人類思考的“輔助”，更能“替代”人類進行思考與決策，並尋找解決問題的方法。於是，在社會生產結構中，不僅是人類的勞動能力將被機器所“頂替”，此時就連決策能力也將被人工智能所逐步取代。
以上對於未來的預判聽起來似乎很遙遠，但其實未來已經悄悄來臨。穀歌和特斯拉近期就在進行新項目——無人駕駛汽車的緊張研發。無人駕駛汽車的算法本質就是讓機器在一個紛繁複雜的動態博弈環境中代替人類做出標準化程度較高的分析與決策（開車）。隨著類似產品的不斷問世，人類也將會必然的邁向人工智能應用的第三個階段。而當無人駕駛技術充分普及之後，司機這種決策標準化程度較高的技術工種也將便被徹底替代。
桎梏：效率水麵下的數據倫理悖論
人工智能技術進一步的成熟無疑將極大的提升人類總體的生產效率。但是筆者看來，人們現在就紛紛開始“歡慶”人工智能時代的到來還為時過早。目前對於人工智能的應用，不僅僅是技術上尚未成熟，更重要的是在倫理及法理維度人們也相當缺乏必要的準備。於是，在不遠的將來，當人工智能開始逐步替代人類進行生產與生活決策的時候，各種新的難題也將接踵而至。
第一個難題：機器改如何承擔風險
雖然人工智能再一次迎來了發展的“黃金期”，但我們不可否認這個世界上永遠不會存在“完美”的算法。機器和人一樣也會犯錯誤。甚至在很長一段時間內，基於當前的人工智能發展水平，機器犯錯的比例可能比一般人還要高。在這種假設前提下，人工智能的應用將帶給人類的第一個倫理難題很可能就是：機器如果犯錯，該如何承擔責任與風險？
眾所周知，人類能形成生產協同網絡的最核心基礎是分工契約體係。這個體係規定著我們每個人在合作結構中的責任、權利與義務。其中被最常認作“公理”的一條是：當一個社會人承擔某責任、做出某決策，他也就同時必須承擔，至少是分擔其決策所帶來的收益與風險。而當人工智能替代人類進入生產環節做出決策時，一個極大的不對稱就出現了：給人工智能賦予做出某項決策的責任是所有買家都會做的事（也是人工智能被創造出來的天職），但麵對的是正麵收益還是負麵風險，人工智能都無法像人類那樣對自己的決策負責。舉無人駕駛汽車為例，如果AI控製的無人駕駛汽車出現車禍事故，其事故責任人是誰？是坐在車裏的、完全沒有參與駕駛的車主還是汽車廠家，亦或是程序員，還是AI本身？這種場景下誰又該擔負主要責任？
若想讓AI負責，除了刪除AI程序之外，似乎也並沒有更好的選擇。而刪除程序的舉措不存在任何法律意義上的法益，更何況受害者也得不到任何形式的補償。這個倫理問題日後將成為AI發展最大的達摩克利斯之劍，也會在將來人工智能被廣泛應用後引起各界廣泛的探討。
第二個難題：人類該如何給人工智能賦權
如上文所言，既然人工智能無法對其決策有效的承擔責任，唯一相對的環節途徑便是對人工智能所做出的決策進行更加嚴密的考核與監管。而一旦人們開始考慮如何“考核”或“監管”人工智能，新的邏輯困局也將就此誕生——如何在“最終”結果出現以前判定某項決策本身的對與錯。在博弈環境中，任何決策往往都是環環相扣的，因此在蓋棺定論之前，沒有人能夠輕易判斷哪一步的決策是絕對錯誤或絕對正確的。
舉AlphaGo和李世石下棋為例。在前三盤棋局中，當解說的專業九段看到AlphaGo做出絲毫不合常理的下法時，解說員表現出了懷疑和嘲笑。然而出乎意料的是AlphaGo贏了前三盤。或許當終局之後當解說員再回頭看當時所謂“臭棋”的時候，才能明白AlphaGo“那步棋”更深層次的全局意義。
如果僅僅讓人工智能去下一盤沒什麼賭注的圍棋，無論輸贏時候都不會有人糾纏於結果。但當人工智能的決策涉及到的是幾千萬的利潤或幾千萬條生命時，如果人工智能給出的是人類當時所不能理解的答案，人類又該作何選擇呢？假如人類選擇不采納人工智能的意見，那麼人工智能進步與發展的意義何在（本質上還是人類自己做決策，人工智能提供信息輔助）？其數據驅動決策的優越性又如何付諸實踐？但換個思路，如果人類信賴人工智能所做出的決策，那就又繞回到了第一個難題，萬一發生意外責任由誰來承擔？相當長的一段時間內，人類對於人工智能的態度一定會是矛盾的：如果人們不相信人工智能的決策，那無論技術再怎麼成熟也不過是“葉公好龍”的鬧劇；而倘若大多數人認可人工智能在決策方麵具有超出人類的優勢，又將直接導致人類監督無效、監管無門的尷尬境地。這個暫時無法解決的矛盾，將在人工智能的成熟與廣泛應用期帶來更多隱患。
之所以人工智能的發展可能導致上文所言的各種倫理悖論，核心原因在於其本身相比於一般的技術有著極其特殊的地位。不同與一般的技術革新，人工智能正如文字、貨幣一般講深刻的改變人類分工與協作的方式。而人生產協同模式的改變也必然將催生新的社會秩序與倫理導向。但是，目前人們麵對新時代的新秩序普遍屬於摸著石頭過河的階段，相應的倫理體係與法理體係尚未形成，很多人工智能相關的案例我們無法用現有的倫理及法理標準給出黑白分明的判斷其實也是再正常不過的現象。因此，我們對擺在人工智能發展之路上的桎梏也不必過於憂慮，也許隨著社會觀念的自然嚴謹，現在看來無解的問題在未來也許會變成新的常識。
影響：新世界的開端 Or 舊世界的毀滅？
假設人工智能的發展突破了上文的桎梏，進入了我們預言的“第三階段”，屆時人類的生產模式、社會結構由將受到怎樣的衝擊呢？
第一方麵：大量人工將被替代
就像上文對無人駕駛AI做出的設想，談及人工智能將給世界帶來的變化，其對人工的替代作用是目前被社會各界所討論的焦點。包括哈佛大學商學院在內的不少研究機構也紛紛表示，人工智能的興起將給從事中低級技術工種的人造成極大的失業風險。其原理也很明顯，當機器擁有了在更加複雜環境中進行決策的能力與通過物聯網與其他機器進行生產協同的時候，所謂的機器就變成了百分百的“優秀員工”。之所以說機器是優秀員工的原因有兩點。其一，機器沒有自我意識，換句話說也就是有著百分百的忠誠於服從，一經購買全年無休，也更不會有什麼“工會罷工”。其二，維持機器運轉的需求或能耗標準而有限（一般來講通電就好，隻是耗電量的都少不一定），加之機器對工作條件的要求也不高，遠遠沒有人體脆弱，使用人工智能替代勞動者對於企業長期運作會是一個更經濟的選擇。而當機器成為了“優秀員工”，資本方對於普通勞工的裁員潮將也不期而至。與此同時，未來世界的資本驅動型生產格局也將會比現在更加明朗。
第二方麵：勞資矛盾將被大規模激化
隨著機器替代論的興起，網上已經有不少人開始議論類似於“共產主義”的未來。屆時，機器將替人完成大部分的價值創造，而全人類本身則可以徹底從繁複的生產勞動中解放出來，開始共同從事藝術、哲學等領域的研究。但筆者認為，基於當今的社會結構，隨著人工智能技術的進一步興起，人與人之間的關係絕對不會像共產主義預言那般的溫情脈脈。其主要原因也很明顯，哪怕人工智能對人類勞動力有完整的替代作用，但其依舊需要用資本去購買和轉化。但是無論在中國還是在世界範圍之內，資本分配是極端不均衡的。也就是說，原本就富有的人更能享受到技術革新帶來的效率紅利，讓其資本的增值效率變得極高。而反觀那些相對的無產者，人工智能反而將變成爭奪其工作機會的“競爭對手”。他們在未來的命運又會如何，在筆者看來是相當的不容樂觀。
回想大機器生產時代，資本家之所以能夠崛起為一支重要的政治力量，其核心在於他們手中掌握的資本能夠通過購買機器的方式直接轉化為標準化的“產能”。而這種“轉化”不僅僅是替代了當時部分手工業者的生產地位，同時也塑造了現代意義上的雇傭關係——資本方出資購置基礎設施提供主要產能，勞動者付出體力或智力的勞動以換取報酬。當然，在這樣的勞資關係中，資本方始終會占據主動地位，但勞動者還是可以通過合同、工會等方式向資本方提出權利訴求。因為資本方雖然擁有機器，但其依舊需要工人進行操作才能進行生產；同時一個大的企業若想實現緊密協同也需要配備足夠的管理人員進行監督和決策。也就是這勞資之間相互依賴、相互依存的關係構成了當今企業雇傭體係中的脆弱基石。
但遙想未來，隨著人工智能的進一步發展與人工智能決策替代能力的進一步加強，資本方通過購買機器將獲得的遠遠不僅是“產能”本身，而更多的是對完整的勞動力、決策力甚至是管理能力的替代。此時勞資之間脆弱的依存關係也很有可能會被打破。隨著替代作用的升級，被雇傭方將再難以用有效的手段來製衡老板；當然資本方也不可能願意將其私有的、並擁有完整生產及決策能力的“智能生產線”與他人分享。於是，貧者愈貧，富者愈富，社會階層之間的壁壘將進一步固化，階層之間的矛盾也必然將被人工智能的應用所加劇。曆史的車輪也許會轉一個圈又回到古羅馬時代的政治模式。雖然古羅馬人早已學會了馴養牲畜，但隻要奴隸的勞力成本比牲畜低，那麼依舊會有人使用奴隸作為他們的勞動工具。而在人工智能充分成熟的新時代，AI驅動下的物聯網生產雲可以被比作更智能的“牲畜群”。而對於相對的無產者而言，他們隻有兩種選擇：要麼與技術發展賽跑，不斷衝擊高風險、高創意需求的領域以確保自己在生產體係中的獨特價值；否則，隻有在他們的勞動力成本低於機器時才有可能在整個價值鏈中占有一席之地。但由此也可以想象出他們在未來將可能獲得何等的政治地位與經濟地位。史蒂芬霍金曾經預言人工智能可能造成人類的毀滅，依筆者的理解，未來不太可能出現機器人對抗人類的戰爭，但是根據基本的經濟規律，我們可以預判出人工智能的興起會加劇馬太效應，最終給整個社會的階層之間撕開一道無法彌合的創口。也許隻有改變目前全世界的經濟基礎，也就是財產私有製，才有可能從根本上杜絕我們剛才所預言的未來。
我們終將帶領人工智能至何處？亦或是人工智能將推動人類商業世界的進行什麼樣的演化？在人類曆史的長河中，這些看似遠大的目標和猜想也許並不足為道。我們都一樣，被曆史的車輪毫無懸念地推進著。
本文為作者原創，轉載請標明出處及作者簡介
閱讀更多我的文章，請在以下平台搜索：
微信公眾號：崔鵬說
頭條號：崔鵬說
虎嗅網：cuipeng
花火網、人人都是產品經理專欄作家
最後更新：2017-10-08 04:30:36