253
AI會考慮道德嗎？
“擁有智能的機器”是人們長期以來的願景，AI的發展速度這個願景似乎就要成為現實了。當機器有了足夠多的智慧，它們就能脫離人類的控製，自主運作，獨立作出判斷和選擇。當一個機器有權利去選擇的時候，問題就來了：它的選擇是道德的嗎？對於它們而言，它們的道德標準和人類一樣嗎？
穀歌的AlphaGo與李世石的第二場圍棋賽中，AlphaGo下出的第37收震驚了專家評委們。沒有人理解它為什麼要那麼走，因為人類棋手不會走子。然而事實證明它並不是走錯了，連它的創造者都明白它是怎麼規劃戰略的，AlphaGo告訴了我們，在完成同一項任務的時候，AI的思維並不是一定和我們相同。
對於人類來說，我們對價值觀或者說道德的判斷幾乎都是要基於一定的情感判斷的。所以道德一旦摻加了人性情感的判斷就變得無比複雜。曆史上對道德的觀點有兩派：天理派和本質派。
“天理派”認為，道德是在人類本性之上的，是永恒且客觀的；而“本質派”則認為人類的道德是人類這一存在的產物，而也許其他種類的存在會有其他形式的道德。
天理派學說的代表人物亨利·西奇威克19世紀的功利主義哲學家，他認為，一個有道德的行為從全宇宙的角度來看都應該是正當的。也就是說，一個行為道德與否不取決於任何個人的看法；一個有道德的行為應該能把全人類的利益最大化。而對於摻加了情感的道德行為，進化遺留的問題，它意味著人類還未完全進化。
然而智能機器還沒有進化遺留問題，關於道德，他們有一個嶄新的開始。如果我們能教會它們從宇宙的角度去思考，那麼會發生什麼呢？
請想象一下，現在是2026年。一輛無人駕駛的汽車載著你的兩個孩子去上學，這時三個你不認識的小孩突然出現在前方的路上。刹車也來不及了，唯一救那三個小孩的方法就是拐進路邊的水溝裏，而這樣做的話你的兩個孩子就會淹死。你不會做這樣的決定，因為你被自己對自己孩子的無邏輯的感情蒙蔽了雙眼；但是這輛自駕車的道德觀告訴它，從全宇宙的角度看，兩個兒童的死亡好過三個的。它會拐進溝裏，將全人類的利益最大化；對於“天理派”，智能機器必須做出道德上可觀正確的選擇，即使這種選擇是我們這些有缺陷的人類無法做出的。
如果是基於我們人類的情感來說，我們的選擇肯定是保住我們自己的兩個孩子。雖然這個做法著實很不道德，但是這是符合人類本性的行為。在這一點上，我們人類不得不承認，我們是一類充滿缺陷的生物群體，而這種最大的缺陷卻是我們最珍惜的、最值得驕傲的人性的溫馨。
但是，對於AI來說，它們肯定選擇保住三個孩子，對於它們來說，價值最大是終極目標。可能這樣的做法，對於它們的擁有著來說，是很難接受的，但是在他們的所謂的道德標準裏麵，利益最大化是終極目標。這也是區別於人類最大弱點的價值判斷，沒有人性。這種沒有人性的道德，從全宇宙的角度來看，是最好的選擇。
但是，有一個問題：AI是由人來設計的，它的道德準則勢必會受到人類的影響。我們所想象的這種幾乎接近完人的機器，到底會不會存在呢？基於人類人性的特征，我們不會允許AI比我們強太多，換句話說，今天我們人類自主設計的AI不會接近完美。而不讓AI接近完美的幹擾因素正是我們人類的不完美因素造成的。
在1940年的時候，科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出了“機器人三定律”，旨在保證人類能在享其利的同時避其害。三定律的第一條很簡單：“機器人不得傷害人類，也不得對人類受到傷害袖手旁觀”。剩下的兩條則要求機器人在第一條得到保證的前提下，服從指令且保護自己。對阿西莫夫來說，機器人存在的意義就是輔助我們。
但是機器人三定律真的就足夠了嗎？舉個例子：假設一位鋼琴家的手染上了壞疽，不截肢就會導致死亡。但她發誓說，如果不能彈琴，她就不想活了；但是同時她也在發燒，所以她可能並沒有真的這麼想。機器人醫生該怎麼做呢？是該讓鋼琴家承受被截去手的傷害，還是壞疽帶來的死亡的傷害？
機器在麵對這樣的問題的時候，到底是按照自己的思路去選擇，還是按照人類的思路去選擇呢？或許對於這樣的問題，我們無法給予一個合理的答案，因為不管怎麼樣，或多或少對於這位鋼琴家來說，都會帶來些許的傷害。至於這些傷害到底如何去選擇，或許機器要用超過全宇宙的角度來抉擇。
如果教這些機器閱讀人類文明的結晶——哲學巨著，想想一下，它是否會得出一些不同於人類的感悟。會不會形成自己的獨到的哲學觀念？
人類對於道德的理解，其實就一句話，能夠找到合理的解釋來證明自己的做法是合理的就行了。同樣機器人道德應該符合他們的本性，它們是獨立的理性個體，雖然它們是被個體刻意創造的，但它們和創造者共享著世界，同樣需要向世界證明自己選擇的合理性。
最後更新：2017-08-13 22:50:45