159
機器人
人工智能診斷的法律規則-AI診斷的主體是人還是機器？
自從穀歌推出的人工智能（AI）“alphago”連續戰勝世界最頂尖圍棋高手柯潔、李世石等之後，具有深度學習功能的AI如同核當量級爆炸一般在產業界、資本界引發巨瀾。最近半年以來，“人工智能+某某”頻出媒體：人工智能+醫療，人工智能+法律，人工智能+會計，人工智能+教育.....,以上尤以人工智能+醫療最為引人注目，穀歌在停止開發人工智能圍棋項目之後，率先進入的領域也是醫療領域。
醫療領域最易開展人工智能應用的是圖像分析。圖像分析在醫療診斷中有特殊地位，許多疾病的診斷依靠圖像，如皮膚病圖譜，眼底病圖譜，病理顯微圖片，X線、CT、MRI、B超成像，心電圖，等等。現有圖像數據分析的分辨力可以達到0.01mm,與醫療圖像的肉眼分辨水準相當，如果結合人工智能的深度學習功能，以機器代替人類進行圖像的醫學診斷不是沒有可能。
據最近的幾篇文章披露，人工智能在特定疾病的圖像診斷如肺結節的CT診斷、甲狀腺癌乳腺癌的病理診斷、單導聯的心律失常心電圖診斷等方麵，已經達到或接近一名普通主治醫生的診斷水平。需要注意的是，具有深度學習功能的人工智能的基本特征是自我學習，也就是隻要通過人工標注教會了電腦識別特征性標誌的能力，當基礎數據達到一定程度比如100萬張圖譜時，電腦可以脫離人類而不斷自我學習、自我否定，無限接近正確水平。所謂自我學習，亦即電腦可以自我創造海量的新的疾病圖譜，這種創造可能達到每天數百萬張圖譜，比如可以創造出現有疾病圖譜庫裏不曾有過的肺結節CT圖像，然後對照既往的圖像數據而進行自我診斷、自我修正,這種自我創造、自我修正能力當然有利於疾病的診斷。
不排除，AI在自我學習中創造出來的某一張肺結節CT圖像恰好符合未來某一個病人的肺CT特征，並提前作出診斷，也就是未卜先知。未卜先知，我不知道人類能否做到，但至少在某些領域，電腦可以做到。這其中的哲學玄機，偏離了本文主題，我無意再深究下去。
獲得學習能力的AI，其診斷水平可以在短時間內光速提高，現有臨床規培、專培的培養速度與之完全不能比擬。AI係根據概率而作出診斷，比如某個肺結節CT圖像符合中央型肺癌的概率達到90%即診斷為肺癌，某個心電圖圖譜符合預激綜合征的概率達到99%而診斷為預激綜合征，或者某個圖譜不具有任何現有疾病特征而從概率上排除疾病而診斷為無明顯異常或符合正常。這種依據概率作出的診斷符合一般臨床醫學規律，臨床影像醫生的診斷往往也描述為“印象是.....”,“考慮為......”,”符合.....”,””......病的可能性大”，這其實亦是一種概率，隻不過是人為估算、心證的概率，因此AI的診斷達到一定標準時，完全可以、也應當替代醫生的診斷，否則開發人工智能診斷失去價值。
既然AI診斷是一種醫學診斷，可直接代替醫生應用於臨床，則直接影響病人的生命健康，因此法律規製殊顯重要。作為一名醫療訴訟專業律師，我認為考察AI診斷的法律原則時，至少應包括以下四個問題：
一 做出AI診斷的主體在法律上是人（醫生）還是物（醫療器械）？
二 AI診斷進入臨床應用的法律標準是什麼？
三 AI診斷出現缺陷或醫療過失的判斷依據是什麼？
四 AI診斷發生醫療損害，誰應承擔法律責任？
其中第一個問題最基本也最重要，因為在法律上明確了AI診斷的主體身份時，其他的如AI診斷的準入條件、缺陷或過失標準、法律責任等等均迎刃而解；又AI診斷隻是AI在醫學上的應用之一，弄清了AI診斷的法律原則，其他醫學應用也觸類旁通，綱舉而目張。
一 AI診斷的法律主體是人（醫生）還是物（醫療器械）？
AI是人還是物?這是一個非常深奧的哲學問題，恐怕窮盡人類現有智慧也難以回答這個問題。如說是物，可是AI又具有其他物包括高等動物所不具備的智能功能；如說是人，可是AI不過是一堆人類製造的電子或者量子元器件，即使將來出現以DNA等生物分子作元器件的AI,亦不過是一堆人為的物質聚合體，目前沒有任何證據證明除人類之外，其他人為的無機、有機複雜聚合體達到一定的複雜性時能夠產生智慧。
為什麼對AI的定義如此困難？依我看根本原因在人類自己，人類不知何時，將世界二分成人與物或者身與心，此二分法將人、物對立，身、心對立，在法律上更是有人格權法、物權法，以及人、物相混的合同法。倘若人類智慧更進一步，認識到人、物不能分，身、心不能分，人即是物，物即是人，身即是心，心即是身，則對AI的認識不至如此困惑：AI既是人，也是物；或者一定條件下是人，一定條件是物。我相信，隨著人工智能的迅勐發展，必將改變人類對人自身的根本認識，包括對肉體、對意識的根本認識，很多我們習以為常的觀念將出現顛覆性改變。
所以，我的建議，現有法律可以視AI既是人，又是物；或者在一定條件下視AI為人，一定條件下視AI為物。何為一定條件，端看AI的具體應用場景。其實在生物醫學領域，法律上視某種實體既是人、又是物的情況並不鮮見，比如體外受精卵，離體的待移植的有功能的器官等，將之簡單定性為物不妥，將之簡單定性為人也不妥，隻能在一定法律條件下定性為物，在另一法律條件下又定性為人，方能在法律上圓潤妥帖。下麵再回到本文主題--人工智能診斷。
首先，人工智能診斷不同於X光機、CT儀、心電圖機等醫療儀器所打印出來的一張張膠片或圖紙（這些膠片、圖紙離了醫生的分析與診斷，並無任何醫療上的價值），而是實實在在的具有醫療價值的診斷結論，這些診斷結論是經由AI分析醫療大數據，經由歸納、演繹等邏輯推理（深度學習算法）而得出的，實際相當於一名有經驗的醫生運用醫學知識、邏輯分析而得出的結論。AI的診斷實質等同於醫生的診斷，可直接用於判斷疾病性質而指導治療；同樣，AI的誤診相當於醫生的誤診，比如AI將某一個肺CT結節診斷為肺癌 ，然後醫生按肺癌進行了手術，可是術後病理顯示（注意，這個術後病理亦可用AI診斷）患者所患並非肺癌而是良性結節，顯然AI發生了誤診，此等誤診並非機器讀寫錯誤或機械誤差，而是對疾病性質的智能判斷出現了錯誤，這個錯誤相當於診斷醫生的錯誤。
因此人工智能診斷的主體在法律上首先應視為一個人或一個醫生作出的診斷，應以類似醫生的資質要求而要求其準入條件，當其作出誤診時應以診療常規、規範而判斷其是否存在醫療過失。當然鑒於人工智能診斷的設計有其特殊性，其具體的準入條件、過失判斷標準亦有其特殊性，下文再述。
其次，人工智能診斷畢竟是由機器作出的診斷，這個機器所使用的診斷係統、算法是由人設計的，受人所控製，盡管其在一定條件下能夠脫離人的控製而自我學習、自我提高，但這個能夠自我學習、自我提高的基礎能力仍是由人所賦予的，因此人工智能診斷的主體在法律上亦應視為物即醫療儀器作出的診斷，有關醫療儀器的法律適用於人工智能，比如《醫療器械管理條例》所規定的臨床試驗、注冊製度，比如《產品質量法》關於產品安全的規定、產品缺陷的定義、產品責任的規定等等都應適用於人工智能診斷設備。
二 AI診斷進入臨床應用的法律標準是什麼？
如前文分析，AI診斷的法律主體既是人（醫生），也是物（醫療器械)，因此其進入臨床應用的法律標準應當分別適用人即醫生的標準和物即醫療器械的標準。
醫療衛生法立關於醫生的準入資格包括醫生的一般準入資格和特定學科的準入資格得適用於AI。一般準入資格是指凡以醫生身份執業者，均應經國家統一考核取得醫師資格證，並應經臨床實踐而注冊取得醫師執業證，根據2017年4月1日最新之《醫師注冊管理辦法》的規定，我國醫師執業證采省級行政區劃製度，凡經注冊取得執業資格的醫師，在注冊所在省級行政區劃範圍內準予執業，欲跨省執業者，需再申請外省注冊；特定學科的準入資格是指對於醫療技術要求高的少數學科如器官移植、心髒介入、神經外科等，應當通過該等學科的特別考核方能取得執業資格。
當AI診斷視為醫生作出的診斷而擬進入臨床應用時，其診斷水平應當達到醫生的一般準入資格和特定學科的準入資格所要求的水平是沒有任何疑義的。但這遠遠不夠，因為AI診斷有以下三個顯著特點，是作為自然人的醫生所不具備的：
1、AI診斷是在采集現有醫療大數據，並結合深度學習的算法而獲得的智能診斷。理論上，AI采集的醫療大數據越多，算法越接近最高水平的醫生，則其診斷正確的概率越高，理論上AI診斷正確的概率可以超過其所獲得的醫療大數據的診斷正確率。而獲得更多的醫療大數據，最大可能地吸收最高水平醫生的診斷技術，以達到或超越當時的最高診斷水平，是任何一個AI的市場競爭要求，也是商業倫理的內在要求。
2、AI診斷的算法決定了其具有自我學習、自我提高的基本能力，這種能力使得AI可以迅速提高診斷水平，結合第1點，AI達到或超越當時或當地最高醫療水平不是難事。
3、最重要的一點，AI診斷係自動化的智能診斷，其診斷效率可能是人工的數百萬倍乃至無限倍，比如自然人醫生一天隻能閱片數十張，而AI可能達到數百萬張，效率無限增加時，誤診的絕對數也無限放大。假如AI存在BUG，這個BUG可能造成誤診，則由於AI診斷的放大效應，誤診在人群中的後果是災難性的。
綜合以上3點，我認為，對AI診斷的技術準入要求應當采最高醫療水平標準。鑒於AI的診斷水平是以自然人醫生的診斷水平作為對比的，AI診斷的醫療水平術不應低於當時醫生的最高醫療水平。中國《侵權責任法》“醫療損害賠償”章第57條規定醫務人員的注意義務以“當時的醫療水平”為限：“醫務人員在診療活動中未盡到與當時的醫療水平相應的診療義務，造成患者損害的，醫療機構應當承擔賠償責任。”這裏所謂“當時的醫療水平”是指與醫生的職稱相應的平均醫療水平，AI顯然改變了這一標準。
何為當時的最高醫療水平？法律或技術上如何界定？兩種方法：
1、具體標準或概率標準。鑒於醫生的醫療水平取決於各種主客觀條件，現實中難以找到一個從不出錯、代表最高水平的醫生，即使是水平最高的醫生，也隻能說他的診斷正確率最高，因此判斷AI是否達到當時的最高醫療水平時，亦應以概率作為判斷標準，比如法律可以規定，當AI的診斷正確率超過99%或更高的醫生時，可以認為AI達到了當時的最高醫療水平，可以獲準上市。鑒於我國的醫師采省級行政區劃注冊製，可以規定，向省級醫藥行政部門申請上市的AI，其AI的診斷水平應當超過該省99%或更高的相應學科的醫生水平；向國家醫藥監督部門申請上市的AI，其診斷水平應當超過全國99%或更高的相應學科的醫生水平。alphago的勝率甚至達到了對全部世界冠軍的100%。
2、抽象標準或者異議標準。鑒於AI是以現有醫生的診療技術作為其算法基礎的，而現有醫生的診療技術處於變動不居中，隨時可能獲得突破性進步；又，AI上市時，即使達到99%的正確率，亦難以排除其存難以預測的缺陷，故應當建立AI上市後的異議製度，即AI上市後，任何一名醫生或醫療機構，如果認為其診療水平超過AI，可以向國家醫藥監督部門提出書麵異議，如果其提出的數據能夠初步證明其觀點，國家應當啟動異議程序，異議成立時，國家應當暫停該AI上市或退市，並應當考慮提高AI準入的概率標準，比如提高到99.9%。這一製度類似於商標或專利上市後的無效宣告製度。
當AI診斷的法律主體視為醫療器械時，其應當遵守國家關於醫療器械的準入製度，包括臨床試驗、器械注冊、上市許可等。惟這裏的臨床試驗是以病人為對象的，當對病人的臨床試驗達到相當程度的診斷正確率時，其仍不一定符合上市標準，因為如前文所述，AI診斷首先應視為一名醫生的診斷，其應與同類醫師對比，在法律上達到當時的最高醫療水平。
三AI診斷出現缺陷或醫療過失的判斷依據是什麼？
將AI視為一個人時，其出現的診斷錯誤可以稱之為醫療過失，因為隻有人才會產生過失；將AI視為一個儀器時，其出現的診斷錯誤可以稱之為缺陷或產品缺陷，因為儀器或產品不具有意識不能產生過失，隻能稱為缺陷。那麼法律上如何判斷AI出現的過失或缺陷呢？
就醫療過失而言，現行《侵權責任法》規定了兩種判斷標準，一是具體標準，即第58條第一款所規定的，違反法律、行政法規、規章以及其他診療規範的，推定醫生存在過失；二是抽象標準，即第57條所規定的，當醫生未盡到與當時的醫療水平相應的診療義務時，應當認定醫生存在過失。對AI出現的診斷錯誤能夠適用這兩個法律判斷標準麼？
我認為，不能。其一，AI是以醫療大數據為基礎，運用計算機的深度學算法而作出診斷的，不是如醫生一般係通過運用診療常規、規範而得出診斷結論的，因此即使其出現診斷錯誤，也不可能通過考察其是否違反診療常規、規範而得出過失與否的結論；其二，AI的準入資格決定了其是以概率計算的、以當時的最高醫療水平為標準的，故不能以“與當時的醫療水平相應的診療義務”作為判斷依據。
當AI因未能達到當時的最高醫療水平而出現診斷錯誤時，這既是AI的一種醫療過失，更是AI產品的設計或算法缺陷，此時基於人的過失和基於產品的缺陷合二為一了，在法律上可以適用同一標準而判斷之，最好的標準便是產品缺陷標準。
但是必須注意到，臨床上的誤診是非常常見的，並非所有的誤診都需要承擔法律責任，甚至可以說絕大多數誤診都無需承擔責任，隻有違反診療常規、規範或者未盡到與當時的醫療水平相應的診療義務的誤診才構成過失，才有可能承擔法律責任。AI診斷亦是一樣，如果AI達到準入條件，其診斷水平超過99%醫生的醫療水平，其仍然發生了誤診並導致患者損害，此種損害是法律允許的，不產生過失或缺陷、不產生法律責任，除非能夠證明該種誤診是因為AI的設計或算法出現缺陷而產生，此時適用產品缺陷的判斷標準。
產品缺陷的判斷標準適用《產品質量法》，第46條規定：本法所稱缺陷，是指產品存在危及人身、他人財產安全的不合理危險；產品有保障人體健康和人身、財產安全的國家標準、行業標準的，是指不符合該標準。
該法第41條還規定：生產者能夠證明存在以下情形的，不承擔賠償責任：一)未將產品投入流通的；（二）投入流通時，引起損害的缺陷尚不存在的；（三）將產品投入流通時的科學技術水平尚不能發現缺陷的存在的。
四AI診斷發生醫療損害，誰應承擔法律責任？
當國家準予AI診斷應用於臨床時，則醫生對AI的診斷產生信賴利益，如因AI的診斷錯誤導致後續的治療錯誤而產生醫療損害時，不應由醫生或醫療機構承擔法律責任，而應由AI的產品責任人承擔法律責任。當然受害人可以依據《侵權責任法》或《產品質量法》的規定而起訴AI的使用者--醫療機構或醫生，但承擔責任的醫療機構或醫生有權向AI的產品責任人追償。
AI的產品責任人一般就是AI的生產者或設計人，具體可依據對AI產品缺陷的的分析而確定，誰對產品缺陷負責，誰就是最終的法律責任人。
最後更新：2017-08-23 12:43:35