101
機器人
未來，人工智能的法律邊界何在？
既有法律原則、原理不會因人工智能的到來進行重大變更，“知識產權化”與“許可化”是未來人工智能世界的關鍵。我們是否準備好接受這樣的環境，放棄對隱私等信息的控製換取新功能或便利？
何為人工智能？其法律定義如何？至今仍未看到對“人工智能”明確精準的定義。圖/視覺中國
孫遠釗/文
與西方社會傾向於對人工智能采取敵視態度，懼怕其失控帶來災難的態度不同，東方社會對人工智能則采取相對開放的態度。
“人工智能的法律規製”同時存在兩種態度：一種對其充滿恐懼，認為人類將被主宰或替代；另一種認為人類將能與其達成協作。事實上，不論我們接受與否，對人工智能的運用早已在周遭出現，而且方興未艾。
人工智能是否應受規製，以及如何規製，可從四個方麵分析：第一，人工智能的定義及難點，如“人工智能”、“機器人”與自動化的關係；第二，法律對“人”的定義演化；第三，權利、義務與責任承擔，即誰負責、誰有權利的問題，如是否給機器人擬人化的地位等；第四，需關注人工智能對就業、交通、環境等方麵產生的影響，以便更有效、精準地規製。
人工智能定義之困
何為人工智能？其法律定義如何？現階段，這一問題很難回答，至今仍未看到對“人工智能”明確精準的定義。
因很難為人工智能定義邊界及具體內涵，通常情況下，我們首先從類型化角度思考，用列舉式的方式定義是否為人工智能。但人工智能如同大數據，內容多而覆蓋廣，難以被類型化。
另一方法是從功能角度切入，即隻要符合某些功能便稱之為人工智能。其中至少有一個因素需考慮，即“人為控製”——是否有自我操控能力。
但是這一因素也麵臨很多問題：例如，若把“控製”作為關鍵因素，應如何看待用於治療的微型機器人？微型機器人在人體血管中運動，似乎未受到任何控製。但實際上，控製已經發生在其被注射到身體之前，不能夠超越計算機程序預先設定的可操作範圍。這種情況下，微型機器人是否可被認定為仍受某種控製？
綜上，要定義人工智能，需先探討對“人”的定義。
從曆史角度看，“人”這一概念本身沒有固定定義，始終在演化，且進程緩慢。封建時期，出身基本決定人的社會身份與地位，並對人的族裔、性別等產生不同程度的優惠或歧視性對待。
即使在美國，直至近百年前才賦予女性投票資格，50年前才在形式上給予非洲裔人民平等投票權。
機器人以“人”的身份出現前，一種思考方向是通過追責來反推是否賦權，即出現問題由誰負責。確定誰負責，即可賦予誰權利——願意承擔義務便賦予其權利。從這一思路出發，出現問題找機器理賠顯然沒有意義。
另外，應如何區分“感知”與“意識”的概念？如有A、B、C、D四個選項，人工智能會建議選A或B嗎？在可預見的未來，人工智能無法直接作出“A或B”的選擇，作出決定的一定是人（包括事先在軟件程序中寫下若A則B的指令）。
“判斷”是很重要的素質，當人工智能能夠獨立判斷時，就變成有人格的機器人。雖然技術要達到這一步尚遠，但可把“感知”、“意識”作為區分機器人與人的基礎。
科幻電影《2001：太空漫遊》中最具戲劇張力的情節是，當宇航艦上人工智能電腦係統HAL被製作出來時，被輸入最高指令：必須保護或不得傷害人類。但任務總指揮官在出發前又對其輸入了另一條最高指令：對於探索地球所有物種生命起源的重大任務必須堅持完成，不容失敗。
衝突由此產生——如任務執行過程中發生意外事故，宇航員準備放棄時，電腦應該聽命指令放棄任務，還是堅持任務抗命不從，甚至不惜犧牲全艦人員的性命？
這一衝突引人深思：人類常會不經意間埋下矛盾的種子，一旦發生問題，又如何要求一台機器或裝置完成本應屬於人所必須取舍的價值判斷？
假定一個人工智能的裝置可從生理和其他反應“感知”我們的情緒變化，根據事先輸入的大數據“判斷”我們陷入了某種低落的情緒，並基於此“說”一個笑話。這樣的過程是否屬於“意識性感知”？
行為學專家們認為，這並沒有完全擺脫機械性的反應：具有“人工智能”的裝置或“機器人”本身沒有自覺的認知。它們根據既定的模式搭配自我學習過程中所產生的計算，來提供一個可能會讓我們心情舒緩的信息與服務。
我們在短期可能遭遇的問題是，如何界定何者屬於“人”的行為，何者又屬於“裝置”的行為。
如越來越多的“仿生器官”被植入到人體，它們有的功能類似於生理上的非自主神經係統，幾乎不受當事人意誌的控製；有的類似於自主神經係統，可在相當範圍內受到外在指令的控製；有的則是兩者交互運用。
如果某個智能型醫療裝置發生故障，導致對第三人造成傷害，應由誰負責？這就涉及在定義何謂“人工智能”時，是否或能否隻局限於“非自主性”部分的問題。
目前至少有四種不同的方式或視角來定義“人工智能”：
一是以一項工作或任務如交給人來處理或表現，是否需要人類的智力處理過程作為檢測的標識；二是以一個計算機程序是否能複製當人腦從事同樣工作時的內部狀態作為標識；三是以要求電腦或裝置是否可以模仿人腦從事相同工作或任務時的外在行為表現作為標識；四是以是否讓計算機等裝置更有用途，以及讓智能成為“智慧”。
這些思路雖然各有優缺點，但未必相互排斥，還需要更多論證。
現有法律體係尚經得起人工智能考驗
與人工智能相關的問題中，第一考慮的是大數據與隱私保護；第二是危險承擔與瑕疵擔保責任；第三是知識產權的創造與歸屬；第四是侵權或損害賠償責任歸屬；最後考量人工智能的道德準繩是否需要與人類統一？
首先，危險承擔與瑕疵擔保責任。如果安裝一個“人工手”，“手”突然發生故障，對他人的身體或財產造成損害，誰應承擔責任？
從一個角度而言，“人工手”可視為當事人的延伸，因此凡是所造成的傷害也應該歸責於操作人；但從另一個角度，由於裝置具有相當程度的人工智能，如果當事人的最後判斷是基於人工智能所提供的計算結果或隻是根據其建議按下“同意”的按鈕，那麼究竟可歸責的主體應該是誰？責任應如何分擔？
這些問題與無人自動駕駛汽車的潛在法律責任有著密切關係，必須未雨綢繆。
目前狀況是，既有法律原則、原理依然經得起考驗，並不會因案件涉及到人工智能產品而需作出重大變更。
其次，人工智能產品的侵權或損害責任歸屬問題。通常認為其適用技術中立原則，即原則上技術不涉及侵權行為或者有罪、無罪，除少數例外不必對其作出任何價值判斷。
在美國，如果一個機器、裝置或設備是用來從事侵權，或除侵權行為外沒有任何顯著的商業目的或功能，那麼“技術中立原則”便不適用。
再次，知識產權的創造與歸屬問題。一個爭議熱點是，由人工智能所創造出來的作品能否獲得著作權的保護？如果答案為肯定，那麼此著作權應該歸屬於誰？
學界對此爭議很大。截至目前，美國版權局已經明確表示，著作權保護的作者必須是“人”（自然人或法人）。最近一個知名的保護動物權益團體在美國加州起訴，試圖主張猩猩拿攝影機自拍的作品也應當受到著作權保護。一審法院判決動物權益保護團體敗訴，目前，該案已經上訴到聯邦第九巡回上訴法院。
最後，人工智能對生活的影響問題。如人們最關心的就業問題，按照歐盟的實證研究和判斷，人工智能不會對就業產生“斷崖式”下跌影響，許多工作機會雖然會消逝，但同時人工智能將開創出更多的工作機會。
自工業革命開始，人類便循環不絕地走著同樣的路線，始終有一部分人失去工作，也始終有人創造出新工作。當我們將不願做的事情交給機器人時，便需要處理更多因涉及到機器的操作而引發的新問題和其他相關的事務。
未來“所有權”將不重要
人工智能與很多概念相關，例如“大數據”、“共享經濟”等。其中大數據並不是一個時興名詞，上世紀50年代，美國拉斯維加斯的賭場就已經開始關注每一位賭客的生活習慣、嗜好等。
麥當勞通過對各種數據的分析，對我們飲食消費習慣的了解已經遠超我們對自己的了解。唯有如此，他們才能精確地掌控相關的庫存與物流，即便是經濟不景氣，透過各種杠杆與避險地操作，也維持到業績不過度下滑，其核心就是大數據。
共享經濟要求釋放閑置資源，讓大家可以互蒙其利，這在一定程度上也需要共享每個使用者的隱私和其他相關數據。
共享經濟的前提和代價是必須釋放個人信息，否則就不可能有共享。因此有人反思，既然我們已經來到一個沒有隱私可言的時代，那麼幹脆讓自己的隱私待價而沽，交給某個企業代理來賣。雖然同時還需要在一定程度上管控個人信息，但隻要不被用來作惡，對信息的使用可以公開透明。
關於未來世界的一個觀察是買賣和所有權可能會變得不重要。“所有權”恐會成為空殼，關鍵在於產品中發揮功能的軟件，操控在你我看不見的企業“雲計算”中。“雲”也許離我們很近，也許很遠，但在那些“雲”當中的運營、計算將操控一切。問題在於我們是否已經準備好，能否接受和麵對這樣的環境，願意放棄多少對自己隱私等信息的控製，來換取產品可能會帶來的新功能或便利？
民法的核心概念是所有權，但未來將是“知識產權化”與“許可化”的世界，所有權將變得不重要，本次製定的《民法總則》是脫離21世紀的產品，錯過了一個非常重要的機遇。
回到對於解決“控製”和“便利”的矛盾。回顧曆史，邁因爵士曾指出，人類的演進曆史是從“身份到契約”的過程。
從原始社會人類的身份關係，到現代社會建立人人平等的契約關係，訂約時大家處於平等地位，甚至由於某些消費者處於弱勢地位，法律會通過《消費者權益保護法》強化對其地位的保護，這就是從身份到契約的演變。
契約社會代表的是自由主義、個人主義，而麵臨“大數據”、“共享經濟”、“人工智能”的社會，在“共享經濟”要求下，我們是否又重新走向身份、回到群體主義？是否又從契約逐步回到身份，從個人走回群體？這一問題值得反思。
（本文是美國亞太法學院執行院長孫遠釗在北京大學法治與發展研究院2017年互聯網法律媒體記者研討班，主講“人工智能 — 未來社會的法律邊界”課程的內容摘要，編輯：張瑤 王敬愷）
（本文首刊於2017年9月4日出版的《財經》雜誌）
最後更新：2017-09-04 16:49:28