800
機器人
無人汽車、藍血貴族和AI女友——人工智能帶來的三層道德困境
還記得電影《Her》裏斯嘉麗約翰遜配音的，善解人意的AI女友Samantha 嗎？在影片的最後，她向男主角坦白，自己同時在和8316個人聊天，與其中的641個人談戀愛。
而在當下的現實裏，微軟小冰的聊天人數記錄，已經遠遠超過Samantha了。
那麼，如果你是男主角，你能接受這個現實嗎？你覺得自己那個可愛的，可以陪你從詩詞歌賦聊到人生哲學的AI女友，需要遵守人類社會的“忠貞”道德觀念嗎？
正在逐漸滲透到我們生活各個角落的人工智能，在給我們帶來無與倫比的效率和生產力的同時，也帶了很多道德或法律方麵的挑戰。Samantha的641個戀人隻是一個小小的例子。本著ex-consultant凡事都要列舉三個點的精神，本篇小文會從以下三個層次來討論這個（看起來很嚴肅其實開了無窮多腦洞的）AI帶來的道德困境問題：
1. 使人類現有的道德問題變得更加複雜化
2. 進一步加劇社會的失衡
3. 改變社會結構進而改變道德觀念
01
生死時速
第一層困境，即AI的加入會使人類現有的道德問題更複雜。
大概幾個月以前，我和易闌先生進行了一場（蕩氣回腸的）有關AI的討論。易先生的主要觀點是：造物(creation)不可能比造物主（creator）有質的飛躍（雖然也許有量的提升）。
我其實不是完全同意這個觀點，但是很讚同它的一個衍生：那就是，人工智能作為造物，是人類社會的一麵鏡子。像一個孩子一樣，我們的善惡心機，它都學得到。
典型的例子是微軟在2016年3月23日發布在推特平台上的聊天機器人Tay。在短短的24小時之內，Tay被魚龍混雜的互聯網民們調教成了一個滿嘴納粹和歧視言論的極端主義分子，逼得我軟工程師趕緊出來道歉並且撤下了Tay；
另外一個例子是Wikipedia上的文本編輯機器人。幾個西班牙學者在2017年2月份進行了一個有趣的研究Even good bots fight: The case of Wikipedia，他們發現，不同的機器人編輯會“打架”，彼此撤銷或修改文章，尤其是針對有爭議的國家或人物（比如如巴基斯坦前總統、烏茲別克斯坦、愛沙尼亞）的詞條。機器人編輯帶上了它的創造者的政治傾向。
同樣的，對我們而言是兩難的道德問題，人工智能可能也難以判斷。哈佛大學著名的公開課《公正-該如何做是好》中提到過一個典型案例，假如你是一個火車司機，左邊鐵軌上站了十個人，右邊鐵軌上站了一個人，你無法刹車隻能選擇一個方向，你選擇哪個？如果左邊十個是流浪漢，右邊一個是愛因斯坦或者美國總統，你選擇哪個？
前一陣子很火的韓劇《鬼怪》裏也有類似的兩難：你的車子開到了一個十字路口，側方向正有一輛失控的重型卡車從斜坡上衝下來，而對麵正有一群幼兒園小團子們在過馬路，你要選擇停在路口，犧牲自己救下小朋友，還是衝過路口，自己活命但是眼看著小朋友受難？
如果駕駛汽車的人不是你，而是一台無人駕駛汽車呢？
在這樣一個生死時速的時刻，也許你根本沒有時間重新獲得方向盤的控製權——我們有一天會依靠算法來做出艱難的選擇。誰來設定這個算法和規則呢？大公司裏的開發工程師。那麼，如果你是那個不幸被選擇“犧牲”的人的親屬，你會詰問，誰給了人工智能和它們的創造者們這樣的權利做這樣的決定？
這就是人工智能使事情變得複雜的地方。傳統意義上來講，麵對以上的道德困境，每個人可能有他/她不同的選擇和判斷，而作為一個自然個體，你需要負責但那是因為你有且行使了選擇的權利。但是，在AI的世界裏，一百萬輛車可能都需要遵循同樣的規則，一個研發團隊/企業的道德判斷將會被飛速放大，而車輛的使用者，也一定要接受這樣的設定嗎？就像現在你每安裝一個APP都要點擊“我同意用戶使用條款”一樣？
一個潛在的解決方案是將決策前置給最終用戶，如同現在購買理財產品一樣，購買或使用無人駕駛汽車之前，我們會被要求提前回答這些困難的問題。A可能會選擇讓愛因斯坦活下來，B可能會覺得10個流浪漢更重要，C可能說不知道，算法你決定吧。這個方案至少將“自主權”還給了每一個當事人。然而它也並不完美，因為我們可能麵臨的選擇實在是無窮無盡：也許你會決定放棄愛因斯坦因為對理論物理沒興趣，那麼你會放棄有一麵之緣的咖啡館小哥嗎？朋友呢？家人呢？自己呢？
類似的問題還有許多。當AI隻是輔助工具（比如幫助醫生們通過醫療影像做診斷）的時候，我們仍然可以套用已有的道德、法律規則，因為做決策的仍然是人類自己；但當AI獲得從頭到尾端到端的決策力（比如完全意義上的無人駕駛汽車）時，事情就開始變得複雜。而我們的道德和法律體係尚未準備好迎接這一變化。
02
藍血貴族
第二層，人工智能的出現會進一步加劇社會的分裂，進而催生我們從未麵臨的最大的不平等
從財富的角度講，曆史上的技術進步在一定程度上是和社會財富的集中聯係在一起的。從原始社會的均貧均富，到農業社會裏剩餘的出現，到工業革命後商業帝國的誕生，我們每個人的生活水平在上升，但似乎總也追不上財富集中的速度。（歡迎研究社會學的大大們拍磚！）
來看看過去15000年間的基尼係數（Gini coefficient, 數值隻能介於0～1之間，係數越小收入分配越平均，係數越大收入分配越不平均，以下都是收入基尼係數）變化: 根據Stratfor Global Intelligence 的一份報告，原始的狩獵采集社會的基尼係數在0.25左右，農業社會在0.45左右，而在工業革命的核心地帶大英帝國，1859年的基尼係數達到了0.55。
現代社會各個國家的基尼係數差距很大，中國國家統計局發布的數字顯示我國在2003-2013年間的數值在0.47-0.5之間（雖然很多人認為這個數字比實際數字偏低），歐美等發達國家都在0.4左右。
為什麼現代社會的基尼係數比工業革命時期還稍微低一點？可能是因為經濟體係自帶“拔河比賽”性質：一方麵，擁有專業才能或資本的群體利用經濟體係將才能和資本轉化為財富和權利，加劇了不平等；另一方麵，經濟的發展有賴於富裕的中產階級各種買買買，因此不平等需要被控製在一定範圍內，否則就是殺雞取卵。
人工智能這個新一輪的技術革命會延續這樣的性質嗎？我的基本判斷是，大方向上是的，但它在短時間之內造成的失衡會更加劇烈。原因很簡單：
1第一它很難
就算各大廠已經開放了API，也需要一定程度的學習才能掌握，要“精通”那更是難上加難，君不見全世界的科技巨頭們都在搶那麼幾個AI領域的專家？就算研究出了/學會了算法，數據量也會成為一道天塹。算法是過剩的，數據是稀缺的。而各大廠、先行者們在數據方麵有著天然的優勢，贏者通吃的效應會更加明顯。
2第二它很厲害
農業革命給我們帶來了確定性，工業革命將我們從繁重的體力勞動中解放出來，現如今，人工智能要來替代我們的大腦。那些傳統意義上的高級腦力勞動者，中產階級的主流職業選擇，醫生、律師、翻譯官、基金經理，都處在一個從低技能、底層職位開始，逐漸被代替的過程中。IBM的Watson已經可以識別被人類醫生誤診的罕見白血病案例，ROSS Intelligence 在法律領域提供比以往效率更高的案例檢索，Wealthfront提供的財富管理服務已經幾乎沒有人類基金經理的參與了。香港一家叫做Deep Knowledge Ventures的風投公司，甚至直接任命了一個AI作為有投票權的董事會成員。我們當然可以（掩耳盜鈴地）說，人工智能不可能取代人類全部的工作，但是，就算它僅僅取代其中的30%，對社會穩定器、中產階級的衝擊也是巨大的。
3第三它很快
人類的技術是在加速發展的，工業革命之前，“車馬很慢，書信很遠”，我們仍然有至少一兩代人的時間來適應技術革命帶來的變化，而現在，十年一個世代，讀大學時還欣欣向榮的中關村海龍現在已經快變成鬼城，很多人研究了一生的圍棋已經被一個誕生不過幾年的算法打敗，我們獲得並學習足以安身立命的新技能的時間，將漸漸落後於技術進步的速度，而被落下的人（很可能會越來越多）將會滑入社會的底層——就像老工業區裏沒來得及獲得新技能的下崗工人一樣。
社會失衡帶來的社會危機以及其道德問題，我們在人類曆史上並不少見，在大革命爆發前後（18世紀末到19世紀初）的法國，基尼係數接近0.6，因而有了冉阿讓因為偷了一塊麵包而被判19年苦役，芳汀為了生存而出賣頭發、牙齒、最終淪為妓女的悲慘世界。
我們會淪落到這樣的地步嗎？
我不知道。著名的科幻作家劉維佳老師認為，大規模的生產需要大規模的消費，而作為消費者的普通人，在剩餘越來越多的社會裏，話語權也會得到保障。如同之前提到的“拔河比賽”一樣，經濟發展對消費的依賴會使基尼係數在一定程度上達到一個平衡態。
讓我們先假設這個判斷是正確的。那麼，經過了對溫飽和小康的向往，經過了消費升級的洗禮，接下來我們主要消費的東西，會是什麼？
在這裏我必須要佩服一下馬雲爸爸的高瞻遠矚：阿裏巴巴在最近一段時間反複在提的“雙H戰略”，也就是Health (健康) + Happiness (快樂)，大概就是以上問題的最好回答。從大眾市場的角度來看，根據麥肯錫的一份中國消費者調查，25%的消費者在2015年認為如果自己收入增加，將會在休閑娛樂上花出更多的錢（2012年這個比例是17%），休閑娛樂成為支出增加意願最強的一個領域；從高端市場來看，根據胡潤百富最新的報告，淨值1000萬以上的高淨值人群最關心的事情是：健康養生。
人工智能在這兩個H裏發揮什麼作用？
在娛樂角度，大量的互聯網數據使得人工智能能夠更深入地了解我們的喜好，識別我們最細微的聲調、動作、和麵部表情的變化，進而創造出更多的、更加讓人欲罷不能的娛樂體驗。傳奇影業的扛鼎之作《星際穿越（Interstellar）》，就利用了數據統計和機器學習技術來分析其預告片在社交網絡上的反饋，並且利用這些反饋信息來製作其第二部預告片。除此之外，人工智能已經可以譜曲（比如索尼的DeepBach，50%的人覺得已經可以以假亂真了）、寫小說（日本公立函館未來大學教授鬆原仁團隊，竟然作品還獲了獎）了。你當然可以說，人類最幽微的情感體驗，最燦爛的創造力，仍然是人工智能所不能及，但是，它們的能力來應對大眾娛樂，可以說是綽綽有餘了。
大眾娛樂是一種相對來講比較便宜的東西，電影票並不貴，演出票（哦對了微軟小冰已經在日本出道了，初音未來早就已經在開演唱會了）也算可以承受，至於電視娛樂，唯一需要你付出的就是時間。因此“娛樂”這件事，會成為大眾在溫飽以外的主要消費內容。
在健康和醫療角度，人工智能是提升醫療水平的利器。AI+醫療的模式幾乎已經滲透到了病人生命周期的各個環節，從最開始的數據采集分析（比如國內創業企業碳元智能）、問診、醫療影像相關的診斷（比如微軟加速器裏的DeepCare），到診療方案的推薦（IBM Watson），到後期病人的日常護理用藥監測（紐約的創業企業AIcure）、以及藥品研發（舊金山的Atomwise），人工智能正在幫助醫生們提高醫療效率和準確度，同時降低成本。
這當然是好事。這意味著以後一個十八線小縣城的居民也可以享受到由AI提供的，與三甲醫院老專家所差無幾的醫療服務了。然而我們必須認識到，“保護生命，維持健康”可以是一個普惠式的服務，大家都可以且都應該在生病時得到幫助；“更快、更高、更強”就是個人的追求，而且很有可能是屬於少數人的商品。
舉個栗子，隔壁老王，人生贏家，坐擁資產過億，無奈年紀漸長精力不濟，很想向天再借五百年。他找到了一個高端養生機構，AI分析了他的全部數據（包括過去幾十年留在互聯網上的信息），結合被算法化的無數營養師和健身教練的經驗，利用自己的藥品研發能力，給他開發了一種隻針對他一個人的新藥和生活方案，於是老王愉快地多活了20年。
腦洞再大一些，老王的兒子要生寶寶，搞了十幾個的受精胚胎，結合曆史數據的分析和判斷，挑了其中一個基因最好的胚胎植入子宮，於是十個月後他們收獲了一個智商140顏值逆天身手矯健的寶寶。等這個寶寶長到老王的年紀，可能就不止多活20年那麼簡單了。
所有這一切，都不是普惠式醫療，都可能價格不菲。於是隻有老王這樣的人生贏家（根據我們之前的推論，社會失衡嚴重，金字塔頂的人非常少）得以享受。
且不說剛才提到的案例本身就有倫理和道德的困境在，金字塔頂的人對於改善型醫療資源的掌握有可能產生人類曆史上最大的不平等。以前，魔鬼帶來死亡，上帝賜予天賦，全人類在這兩件事情麵前都是一樣的，而在未來，我們可能要去準備好迎接新一代的“藍血貴族”了。
“人人生而平等”這個現代社會道德體係的重要基石，就此被打破了。在這個美麗新世界裏，窮人變成了被流水線娛樂填滿的沙發土豆，富人們開始追求長生不老和“生而不凡”，有了基因層麵的優選，希特勒的“人種淨化”計劃會卷土重來嗎？
03
AI女友
第三層，人工智能的出現會導致社會結構的變化，進而形成新的道德標準
社會結構和道德準則之間的關係，恩格斯巨巨很早以前就諄諄教導過我們了：“道德...不是它們自身形成時所處的那個社會的基礎，恰恰相反，它們是那個社會的產物。”（《馬克思恩格斯選集》第一卷）
而社會結構是在跟著技術進步變化的。
比如一夫一妻製的誕生，以及其衍生出來的，“忠貞”的道德觀念。在我們思考要不要AI女友（或男友）隻和你一個人聊天之前，我們得先看看這個道德觀念到底是如何產生的。
北大社會學係的鄭也夫教授認為，“一夫一妻製婚姻革命的產生，是群體內男性之間的妥協導致的。”妥協的原因有兩點，第一是對協作的需求，春暖花開的時候部落決定出去打隻老虎獵個豹子，除了喝高了的武鬆，絕大部分人類都要依靠群體的協作來完成任務；第二是工具的誕生，當我們發明了長矛、石斧和弓箭，群體間的鬥爭關係都發生了根本性的改變，強者的身體優勢可以被瞬間抹去，而原本弱小的雄性也有了爭奪資源的權利——而其中最重要的一項，就是生殖資源。
到後來，男性由於其體力優勢占據了更多的社會剩餘，而女性由於孕期和哺乳期的限製，在以體力勞動為主的社會裏變成了依附方，需要男性提供食物和保護。兩性的博弈開始變得複雜起來，女性為了防止殺嬰等現象的發生，有動力和不同的男性交好以混淆嬰兒的血緣，而男性要防止自己好不容易得來的生殖資源“流入外人田”，開始要求女性為其守貞，並通過婚姻將親子繼承關係固定下來。
這便是最早的“貞潔”的道德觀的產生。
所以回頭去看文章開頭Samantha那641個男友的問題，我們就不必那麼糾結了。Samantha不提供生殖資源，她龐大的計算能力使得情感陪護也完全不會變成一個需要爭搶的零和遊戲，既然她與其餘人的溝通並不會影響她陪伴你的時間和質量，要求她戴上給人類女性的“貞潔”枷鎖會不會太搞笑？
這是人工智能給道德標準自身帶來的挑戰中，最顯而易見的一種。人工智能變成了這個社會裏最新的參與者，它們在某些領域極其優秀淵博，在另外一些領域有可能比嬰兒還要幼稚無力，人類社會的道德標準，真的適用於它們嗎？
但AI帶來的挑戰並不僅限於此，這些挑戰來自於它與生俱來的兩個“超能力”：
1首先是我們上文提到的，它對體力勞動和“高標準化”智力活動的替代作用。
聯合國在2016年11月發布的報告《Robots and industrialization in developing countries》指出，發展中國家約2/3的工作將會被替代。這不僅會導致我們在上文提到的社會撕裂問題，也會進一步抹平兩性在勞動力價值上的差距，尤其是在進行以創造力和共情力為主的，不容易被機器取代的工作的時候。
恩格斯又說了：“一夫一妻製是不以自然條件為基礎，而以經濟條件為基礎。它決不是個人性愛的結果，它仍然是權衡利害的婚姻。隻有婦女對男子經濟依賴的消失，才會允許兩性關係建立在平等和真正的愛情基礎之上。”
隔了一百五十多年，接受過王小波無數熾烈情書的李銀河奶奶，也拋出了類似的觀點。隨著女性在經濟上愈發獨立，她們的選擇權和議價權也會提升，但從“婚姻”這個綁定了財產、性、家庭等等複雜議題社會製度的角度來看，已經變成了一個收益減少但是風險更大的選擇。用奶奶的話說，“婚姻製度正在走向消亡。”
這並不說我們從此以後就不能恩恩愛愛牽小手，幸福甜蜜地撒狗糧了，這隻是一個隨著生產力進步產生的製度，又隨著生產力進步消失的過程，而AI對於高強度多重複性的勞動的替代，將會成為這個過程的催化劑。
2其次是它對社會現有力量均衡的破壞力。
其實一切技術進步都有這方麵的特征，從改變了配偶製度的石斧長矛，到轟開了中國大門的火炮洋槍，再到可以讓一個東北亞小國把全世界都搞得戰戰兢兢的核武器，都改變了社會中已有的，人與人之間或是國與國之間的力量均衡。
你可能會說，可是AI不是武器啊。且先不說它在軍事領域已然被投入到了如火如荼的研發和應用當中，我們來看看和它一樣看起來並非武器的互聯網計算機技術給這個世界帶來了什麼影響：
維基解密，根據其百科介紹為“通過協助知情人讓組織、企業、政府在陽光下運作的、無國界非盈利的互聯網媒體”，已經擁有了影響各國政治關係，甚至包括美國大選的能力。在一些人眼中，它是捍衛新聞自由的戰士和聖徒，在另外一些人眼中，它是毫無愛國心的叛徒和逆賊。
比特幣，在2009年由中本聰幾乎隻憑一人之力憑空創造了出來，不受任何央行和金融機構的控製，匿名、免稅、免監管，誰都可以挖掘，全世界都可以流通。“發行貨幣”這個一直以來隻有國家才可以執行的職能，被技術打破了邊界。
人工智能所帶來的顛覆性比起互聯網和計算機有過之而無不及。互聯網隻是連接了我們，人工智能了解我們。它了解我們在和誰交往，喜歡什麼口味的餐館、愛去哪裏旅行、看電視劇到哪裏會淚眼婆娑。它研究過我們的基因圖譜、洞悉我們的資產配置，甚至知道哪個法官更偏向於哪個律師。它通過各種各樣的方式影響我們的決策，下個路口要不要左轉，今天該吃西藍花還是雞胸肉，甚至，正在約會的那個人有多大可能成為你的靈魂伴侶。
它還沒有動機，但是用它的人可能會有。人性的善惡，會被這個史無前例的工具放大，少數個人的力量，將會得到更進一步的提升，甚至有可能去抗衡一個國家。
到那時，上帝已死，國家消亡，我們要去信仰和忠誠於什麼？
偉大的數據之神嗎？也不是沒有可能。畢竟我們曾經信仰過很多東西，濕婆和真主，阿蒙和聖靈，市場和自我。它們都曾保護我們、懲戒我們、指引我們，下一個可以做到這些的，不管是AI還是別的什麼，大概，也可以隨時飛升上神了
最後更新：2017-10-20 14:03:51