924      機器人

人工智能的道德代碼與倫理嵌入

作者 段偉文 (中國社會科學院哲學研究所研究員)

責編 許嘉芩 劉愈

人工智能和包括機器人在內的智能化自動係統的普遍應用，不僅僅是一場結果未知的開放性的科技創新，更將是人類文明史上影響甚為深遠的社會倫理試驗。誠如霍金所言，人工智能的短期影響由控製它的人決定，而長期影響則取決於人工智能是否完全為人所控製。

人工智能體的擬主體性與人工倫理智能體

人工智能的倫理問題之所以受到前所未有的關注，關鍵原因在於其能實現某種可計算的感知、認知和行為，從而在功能上模擬人的智能和行動。在人工智能創立之初，英國科學家圖靈、美國科學家明斯基等先驅的初衷是運用計算機製造能實現人類所有認知功能的通用人工智能或強人工智能。但科學家們不久就發現，要使機器像人一樣理解語言和抽象概念，通過學習全麵達到人類智能的水平，並非一日之功。迄今為止，應用日益廣泛的各種人工智能和機器人尚屬狹義人工智能或弱人工智能，隻能簡單地執行人交給它們的任務。

一般地，人工智能及智能自動係統能根據人的設計自動地感知或認知環境（包括人）並執行某些行動，還可能具備一定的人機交互功能甚至可以與人“對話”，常常被看作具有一定自主性和交互性的實體。有鑒於此，人工智能學家引入了智能體（agents，又稱智能主體）的概念來定義人工智能：對能夠從環境中獲取感知並執行行動的智能體的描述和構建。於是，可將各種人工智能係統稱為人工智能體或智能體。從技術上講，智能體的功能是智能算法賦予的：智能體運用智能算法對環境中的數據進行自動感知和認知，並使其映射到自動行為與決策之中，以達成人為其設定的目標和任務。可以說，智能體與智能算法實為一體兩麵，智能算法是智能體的功能內核，智能體是智能算法的具體體現。

從智能體概念出發，使人工智能係統更為明晰地呈現為可以模擬和替代人類的理性行為，因可與人類相比擬乃至比肩的存在，故可視之為“擬主體”，或者說智能體具有某種“擬主體性”。如果僅將智能體看作一般的技術人造物，其研究進路與其他科技倫理類似，主要包括麵向應用場景的描述性研究、凸顯主體責任的責任倫理研究以及基於主體權利的權利倫理研究。但在人們賦予智能體以擬主體性的同時，會自然地聯想到，不論智能體是否像主體那樣具有道德意識，它們的行為可以看作是與主體倫理行為類似的擬倫理行為。進而可追問：能不能運用智能算法對人工智能體的擬倫理行為進行倫理設計，即用代碼編寫的算法使人所倡導的價值取向與倫理規範得以嵌入到各種智能體之中，令其成為遵守道德規範乃至具有自主倫理抉擇能力的人工倫理智能體？

機器人三定律與嵌入式的機器倫理調節器

其實，這一思路並不新鮮，早在70多年前，美國人阿西莫夫在對機器人三定律的科學幻想中，就提出了通過內置的“機器倫理調節器”使機器人成為服從道德律令的類似構想。在短篇科幻小說《轉圈圈》（1942）中，阿西莫夫提出了按優先順序排列的機器人三定律：第一定律，機器人不得傷害人類或坐視人類受到傷害；第二定律，在與第一定律不相衝突的情況下，機器人必須服從人類的命令；第三定律，在不違背第一與第二定律的前提下，機器人有自我保護的義務。此後，為了克服第一定律的局限性，他還提出了優先級更高的機器人第零定律：機器人不得危害人類整體或坐視人類整體受到危害。

從內涵上講，機器人定律是一種康德式的道德律令，更確切地講是人為機器人確立的普遍道德法則，以確保其成為遵守絕對道德律令的群體。而更耐人尋味的是，機器人三定律是通過技術實現的。在《轉圈圈》中，三定律是根深蒂固地嵌入到機器人的“正電子”大腦中的運行指令：每個定律一旦在特定場景中得到觸發，都會在機器人大腦中自動產生相應的電位，最為優先的第一定律產生的電位最高；若不同法則之間發生衝突，則由它們的大腦中自動產生的不同電位相互消長以達成均衡。這表明，機器人定律並不全然是道德律令，也符合其技術實現背後的自然律。換言之，機器人定律所采取的方法論是自然主義的，它們是人以技術為尺度給機器人確立的行為法則，既體現道德法則又合乎自然規律。

《弗蘭肯斯坦》（全名是《弗蘭肯斯坦——現代普羅米修斯的故事》，其它譯名有《科學怪人》、《人造人的故事》等）是英國作家瑪麗·雪萊在1818年創作的長篇小說。

捷克科幻劇作品。3幕。作者K.恰佩克。劇本發表於1920年。描述一個名叫羅素姆的哲學家研製出一種機器人，被資本家大批製造來充當勞動力。但是世界上如果充滿了幹活的機器人，人類就會停止生育，麵臨末日。因此作者在作品中描寫了一對會戀愛和能生育的機器人，以此象征人類將免遭滅亡。

曆史地看，這些富有電氣化時代色彩的機器人倫理設計實際上是一種科技文化創新。自英國作家雪萊夫人創作《弗蘭肯斯坦》（1818）到捷克的恰佩克發表《羅素姆萬能機器人》（1921），不論是前者呈現的科學怪人的形象，還是後者昭示的機器人造反，都體現了人對其創造物可能招致毀滅性風險與失控的疑懼。機器人定律則為擺脫這種情結提供了可操作性的方案——通過工程上的倫理設計調節機器人的行為，使其成為可教化的道德的機器人——合倫理的創造物。但從自然主義的方法論來看，這一構想又似乎明顯超前。在提出第零定律時，阿西莫夫也意識到，機器人可能無法理解人類整體及人性等抽象概念。或許是這些困難令他轉而暢想，一旦機器人靈活自主到可以選擇其行為，機器人定律將是人類理性地對待機器人或其他智能體的唯一方式。這似乎是在暗示，使人工智能體成為可以自主作出倫理抉擇的人工倫理智能體的前提是其可與人的智能媲美。

走向可計算的機器倫理與智能體倫理嵌入

回到人工智能的現實發展，隨著無人機、自動駕駛、社會化機器人、致命性自律武器等應用的發展，湧現出大量人可能處於決策圈外的智能化自主認知、決策與執行係統，這迫使人們在實現強人工智能之前，就不得不考慮如何讓人工智能體自主地做出恰當的倫理抉擇，試圖將人工智能體構造為人工倫理智能體。從技術人工物所扮演的倫理角色來看，包括一般的智能工具和智能輔助環境在內的大多數人工物自身往往不需要做出價值審度與道德決策，其所承擔的隻是操作性或簡單的功能性的倫理角色：由人操作和控製的數據畫像等智能工具，具有反映主體價值與倫理訴求的操作性道德；高速公路上的智能交通管理係統所涉及的決策一般不存在價值爭議和倫理衝突，可以通過倫理設計植入簡單的功能性道德。反觀自動駕駛等涉及複雜的價值倫理權衡的人工智能應用，其所麵對的挑戰是：它們能否為人類所接受，在很大程度上取決於其能否從技術上嵌入複雜的功能性道德，將其構造為人工倫理智能體。

讓智能機器具有複雜的功能性道德，就是要構建一種可執行的機器倫理機製，使其能實時地自行做出倫理抉擇。鑒於通用人工智能或強人工智能在技術上並未實現，要在智能體中嵌入其可執行的機器倫理，隻能訴諸目前的智能機器可以操作和執行的技術方式——基於數據和邏輯的機器代碼——就像機器人三定律所對應的電位一樣，並由此將人類所倡導或可接受的倫理理論和規範轉換為機器可以運算和執行的倫理算法和操作規程。機器倫理的理論預設是可以用數量、概率和邏輯等描述和計算各種價值與倫理範疇，進而用負載價值內涵的道德代碼為智能機器編寫倫理算法。論及倫理的可計算性，古典哲學家邊沁和密爾早就探討過快樂與痛苦的計算，而數量、概率、歸納邏輯和道義邏輯等都已是當代倫理研究的重要方法，機器倫理研究的新需求則力圖將“可計算的倫理”的思想和方法付諸實踐，如將效益論、道義論、生命倫理原則等轉換為倫理算法和邏輯程序。不得不指出的是，用數量、概率和邏輯來表達和定義善、惡、權利、義務、公正等倫理範疇固然有失片麵與偏頗，但目前隻能通過這種代碼轉換才能使人的倫理變成程序化的機器倫理。

在實踐層麵，機器倫理構建的具體策略有三：其一是自上而下，即在智能體中預設一套可操作的倫理規範，如自動駕駛汽車應將撞車對他人造成的傷害降到最低。其二是自下而上，即讓智能體運用反向強化學習等機器學習技術研究人類相關現實和模擬場景中的行為，使其樹立與人類相似的價值觀並付諸行動，如讓自動駕駛汽車研究人類的駕駛行為。其三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其複雜的邏輯並及時糾正其中可能存在的問題。但這些策略都有其顯見的困難：如何在量化和計算中準確和不走樣地表達與定義倫理範疇？如何使智能體準確地理解自然語言並與人進行深度溝通？

鑒於機器倫理在實踐中的困難，人工智能體的倫理嵌入不能局限於智能體，而須將人的主導作用納入其中。可行的人工倫理智能體或道德的智能機器的構造應該包括倫理調節器、倫理評估工具、人機接口和倫理督導者等四個環節。倫理調節器就是上述機器倫理程序和算法。倫理評估工具旨在對智能體是否應該以及是否恰當地代理了相關主體的倫理決策做出評估，並對機器倫理的道德理論（如效益論、道義論等）和倫理立場（如個性化立場、多數人立場、隨機性選擇等）等元倫理預設做出評價和選擇。人機接口旨在使人與智能體廣泛借助肢體語言、結構化語言、簡單指令乃至神經傳導信號加強相互溝通，使機器更有效地理解人的意圖，並對人的行為做出更好的預判。倫理督導者則旨在全盤考量相關倫理衝突、責任擔當和權利訴求，致力於厘清由人類操控不當或智能體自主抉擇不當所造成的不良後果，進而追溯相關責任，尋求修正措施。

對人類文明而言，人工智能將是一個好消息還是壞消息，最終取決於我們的倫理智慧。在中國推出新一代人工智能發展規劃的今天，我們更要悉心體味孕育了巧奪天工精神和天工開物情懷的中國思想，審天人之性，度萬物之勢，以探求人機和諧、文明通達之道。

【本文原載於《光明日報》（2017年09月04日第15版），轉載請聯係作者獲取授權，並注明出處。】

最後更新：2017-09-09 23:35:31

  上一篇： 人工智能真龍頭現身！該股遠超“漢王科技”，短線70％起漲在即！

  下一篇： 走心！你寫一個字，機器人為你的老師獻首詩