339 機器人

人工智能的邏輯極限

老蟬按：今日一篇文章《丘奇—圖靈論點與人類認知能力和極限》與劉曉力老師的文章觀點不同，本人在《丘奇...》文中有點評。歡迎閱讀。

人工智能的邏輯極限

劉曉力

作者簡介：北京師範大學哲學係，北京 100875

人大複印：《邏輯》2002 年 02 期

原發期刊：《哲學動態》2001 年第 .增刊期第 22-25 頁

關鍵詞：人工智能的極限/ 哥德爾定理/ 認知可計算主義/ 認知的算法不可完全性/

摘要：“人的智能和人工智能的極限”已列入21世紀需要解決的重大數學問題清單，本文試圖從邏輯的角度對人工智能的極限問題進行探討，特別指出哥德爾定理與人工智能極限之間的關係，並對人工智能的“認知可計算主義”研究綱領提出質疑。

1.斯梅爾第十八數學問題

過去幾十年計算機技術的巨大成就正在向人類智能發起挑戰。“電腦能否代替人腦”，“ 人類心智是否會永遠勝過計算機”，“哥德爾不完全性定理是否設定了人工智能不可克服的邏輯極限”?這是哲學家和人工智能專家及其反對者們激烈爭論的話題。

哥德爾不完全性定理是為了解決1900年希爾伯特提出的20世紀需要解決的23個數學問題之一所得的數學結果。事隔100年，曾任美國數學會主席的斯梅爾又向全世界數學家提出了21 世紀需要解決的24個數學問題，其中的第18個問題是，“人類智能的極限和人工智能的極限是什麼”?並且指出，這個問題與哥德爾不完全性定理有關。

哥德爾定理告訴我們：在任何包含初等數論的形式係統中，都必定存在不可判定命題。有了圖靈機概念之後，它的一個等價命題是，任何定理證明機器都至少會遺漏一個真的數學命題不能證，這就是數學的算法不可窮盡性。這一性質被許多人用來作為“在機器模擬人的智能方麵必定存在著某種不能超越的邏輯極限”的論據。

那麼，哥德爾定理與人工智能的極限之間究竟有什麼關係?哥德爾本人對此如何評價的?人工智能是否存在它的邏輯極限?

2.人工智能研究現狀

人工智能方案起於20世紀40年代後期。1936年圖靈首先以“圖靈機”概念對算法概念給予數學刻畫，1950年又在《計算機器與心智》中提出“機器能思維嗎?”這一重要問題，並設計了“圖靈測驗”，為人工智能的研究提供了某種理論依據和檢驗方法。1948年維納創立“ 控製論”，研究動物與機器中的控製和通訊的反饋控製原理及信息傳輸、信息交換和信息加工過程等規律。1954年艾什比出版《大腦的設計》，開辟了以行為模擬的觀點研究人工智能的途徑。1956年夏季，人工智能的先驅者麥卡希、明斯基、香農等人發起，在美國達特茅斯大學舉辦“如何用機器模擬人的智能”學術會議，正式使用“人工智能”術語，成為這門新的研究領域誕生的標誌。從此以後，人工智能的研究分別沿著三個方向深入：

(1)機器思維方向；包括機器證明、機器博弈、機器學習啟發程序及化學分析、醫療診斷、地質勘探等專家係統及知識工程的問世。(2)機器感知方向；包括機器視覺、機器聽覺等文字、圖象識別、自動語言理解的理論、方法和技術以及感知機和人工神經網絡的研究。(3) 機器行為方向；包括具有自學習、自適應、自組織特性的智能控製係統、控製論動物和智能機器人的研究開發。

半個世紀以來，人工智能在理論研究和實踐過程中，大致經曆了三大研究綱領的變遷：

(1)符號主義學派主張思維的基本單元是符號，智能的核心是知識以及利用知識推理進行問題求解，智能活動的基礎是物理符號運算，人腦、電腦同樣都是物理符號係統，人的智能可以通過建立基於符號邏輯的智能理論體係來模擬；(2)聯結主義學派斷言智能活動的基本單元是神經細胞，智能活動過程是神經網絡狀態的演化過程，智能活動的基礎是神經細胞之間的突觸聯結機製，智能係統的工作模式是神經網絡模式，智能係統理論是基於非線性動力學的係統論；(3)行為主義學派堅信智能行為是以“感知-行動”的反應模式為基礎，智能水平可以而且需要在真實世界的複雜境域中進行學習訓練，在與周圍環境的信息交互作用與適應過程中不斷進化和體現。

盡管1965年人工智能的領袖人物西蒙就曾預言，“20年內，機器將能做人所能做的一切。 ”1977年明斯基也曾預言，“在一代人之內，創造人工智能的問題將基本解決。”但是，幾十年裏，雖經研究綱領的幾次變遷，但三大派研究綱領仍未超出“認知可計算主義”的核心，因此在人工智能領域至今沒有出現真正的革命性突破，而且人工智能的發展不時地陷入不曾預想到的各種困難。顯然，關鍵之點仍是人的智能和計算之間的關係究竟如何，人類認知的本質究竟是否是可計算的問題。

3.關於人工智能極限的魯卡斯論證和彭羅斯論證關於人工智能極限問題的爭論也許最早可見1921年波斯特關於人心比機器優越的猜想。193 6年圖靈發表重要文章《論可計算數》指出，“我們將假定需要計數的心的狀態數是有窮的。這是因為，如果我們承認心的狀態有無窮多，它們中的某些狀態就會由於‘任意接近’而被混淆”。圖靈的這段話曾被看作“人類心智活動不可能超越任何機械程序”的一個論證。 1950 年圖靈在《計算機器與智能》中指出，我們不能因為一台機器不能參加選美大賽而責備它，就像我們不能因為一個人沒有飛機跑得快就責備他一樣，機器也能夠思維。這篇文章還隱含著“人心等價於一台計算機”的論斷，圖靈的觀點對當時剛剛興起的人工智能方案無疑是一強有力的聲援，也自然引起了一場大爭論。

1961年美國哲學家魯卡斯在36卷《哲學》雜誌上以極其激烈的言辭首先撰文《心、機器、哥德爾》，試圖用哥德爾定理直接證明“人心超過計算機”的結論：“依我看，哥德爾定理證明了機械論是錯誤的，因為，無論我們造出多麼複雜的機器，隻要它是機器，就將對應於一個形式係統，就能找到一個在該係統內不可證的公式而使之受到哥德爾構造不可判定命題的程序的打擊，機器不能把這個公式作為定理推導出來，但是人心卻能看出它是真的。因此這台機器不是心的一個恰當模型。這就是著名的魯卡斯論證。隨後，另一位美國哲學家懷特利在接下來的37卷《哲學》雜誌上發表了強有力的批駁文章《心、機器、哥德爾——回應魯卡斯》，遂引起許多人卷入並長達幾十年的爭論。1979年獲得普利策文學大獎的美國暢銷書《哥德爾、艾舍、巴赫，一條永恒的金帶》將艾舍爾義蘊深刻的版畫、巴赫膾炙人口的樂章與哥德爾定理戲劇性地連接在一起，試圖從多個視角闡明如何用哥德爾定理否證強人工智能方案。1989年，英國數學家、物理學家羅傑·彭羅斯在風靡全球的《皇帝新腦，計算機、心智和物理定律》中，對魯卡斯論證又作了進一步擴展，指出計算機不過是強人工智能專家所鍾愛的一副“皇帝新腦”而已。被稱為“哥德爾定理令人吃驚的強應用。”引發了1990年《行為和大腦科學》雜誌上許多人介入的一場爭論。1997年和1998年當代語言哲學家塞爾相繼出版《意識之迷》和《心靈、語言和社會》兩部書，斷言，僅僅依靠單純的輸入輸出，絕不能擔保人的意識，特別是意向性的呈現，因此計算機不可能完全模擬人的意識活動。

4.人工智能的極限不是哥德爾定理的直接推論

對哥德爾定理與人工智能極限之間的關係，哥德爾本人如何看待?從哥德爾的部分重要手稿和70年代與王浩的談話記錄中我們得知，哥德爾在嚴格區分了心、腦、計算機的功能後作出明確斷言，“大腦的功能不過像一台自動計算機”，“心與腦的功能同一卻是我們時代的偏見”，但不完全性定理不能作為“人心勝過計算機”的直接證據，要推出如此強硬論斷還需要其他假定。

於是，“人心是否勝過計算機”的問題事實上可以轉換為幾個子問題：(1)是否大腦和心的功能等同?(2)是否大腦的運作等同於計算機的運作?(3)是否心的活動都是可計算的?這三個問題實際上就是心腦同一論問題、大腦的可計算主義和心的可計算主義問題。

心腦同一論是50年代末以來西方頗為流行的占據主流的一種理論，也是人工智能的理論基礎。但哥德爾認為，心腦同一論是今日普遍接受的時代偏見。其中的一條理由是，根本沒有足夠的大腦神經元來實現心的複雜的運作。在哥德爾的手稿中我們也可以看到他對心的可計算主義的批駁。

首先，哥德爾曾在多種場合申明，他本人並不反對用不完全性定理作為證明“人心勝過計算機”這一結論的部分證據，因為在他看來，不完全性定理並未給出人類理性的極限，而隻揭示了數學形式主義的內在局限，但是，僅僅使用他的定理不足以作出如此強硬論斷。在 1972年的一篇評論中哥德爾指出，圖靈給出的“心智過程不能超越機械過程”的論證在附加以下兩個假定之後才有可能：(1)沒有與物質相分離的心。(2)大腦的功能基本上像一台數字計算機，他認為(2)的概然性很高；但無論如何，(1)是將要被科學所否證的，是我們時代的偏見。

實際上，早在1951年的吉布斯演講手稿(1995年發表)中，哥德爾就指出，“從我的定理可以推出的結論隻能是如下形式的選言判斷：或者數學是不可完全的，即它的自明的公理不可能包含在有窮規則中，因此人心超過有窮機器；或者存在人心絕對不可判定的數論問題”。

哥德爾隨後用他稱之為“理性樂觀主義”的立場對這一選言判斷進行了分析：如果我們像希爾伯特那樣，堅信“人類理性提出的問題人類理性一定能夠解答”，那麼就可以否定第二選言支，因為，承認“存在人心絕對不可判定的數論問題”是與我們的這一信念背道而馳的。這樣一來，第一選言支就應當成立，即人心勝過計算機。可見，在哥德爾看來，附加了“人類理性提出的問題人類理性一定能夠解答”這樣一個哲學假定，有可能從不完全性定理推出 “人心勝過計算機”的結論。當然，哥德爾也意識到，這種對於“心腦同一論”和“心的可計算主義”的否證未必令人信服，因為它畢竟是一種推論式的。

值得注意的一點是，哥德爾第二不完全性定理的一種形式是說，任何恰當的定理證明機器，或者定理證明程序，如果它是一致的，那麼它不能證明表達它自身一致性的命題是定理。哥德爾說，一方麵，人心不能將他的全部數學直覺形式化，如果人心把他的某些數學直覺形式化了，這件事本身便要產生新的直覺知識(如該係統的一致性)；另一方麵，不排除存在一台定理證明機器確實等價於數學直覺，但重要的在於，假定有這樣的機器M，由不完全性定理，我們不可能證明M確實能做到這點。

看來，當人們應用哥德爾定理試圖嚴格地作出“人心勝過計算機”的論證時，其中包含著一個令人難以察覺的漏洞：問題的核心並不在於是否存在能捕獲人類直覺的定理證明機器，而恰恰在於，即使存在這樣一台機器，也不能證明它確實做到了這一步。恰如哥德爾所說： “不完全性結果並不排除存在事實上等價於數學直覺的定理證明機器。但是定理蘊涵著，在這種情況下，或者我們不能確切知道這台機器的詳情，或者不能確切知道它是否會準確無誤地工作。”

也許在考察了如上各種關於心、腦、計算機問題的獨特見解之後，我們有必要指出，哥德爾曾解釋過他所說的“心”的含義：“我所說的心是指有無限壽命的個體的心智，這與物種的心智的聚合不同”。而且，除了必要的哲學假定之外，在哥德爾看來，回答“人心是否勝過計算機”這一問題還依賴於我們能否消除內涵悖論，還要取決於包括大腦生理學在內的整個科學的進展。

5.超越圖靈意義上的認知可計算主義

哥德爾定理確實使我們思考這樣的問題：由於人設計製造了計算機，人總能從外部觀察和操縱機器。假定設計機器去解決某個問題集a，b，c，……，那麼，如果計算機等價於一個形式係統，根據哥德爾定理，在這個形式係統中將產生這台機器不能解決的問題(例如係統本身的一致性問題)，但從外部觀察，這個問題卻是人的智能可解的。於是，為了解決問題集a，b，c，……，又會產生新的計算機不能解決的問題集x，y，z，……。

同樣需要強調的是，哥德爾1931年曾經在一個重要腳注和給蔡梅羅的信中指出，“所有數學形式係統的內在不完全性的根源在於，更高類型的形式化總能持續到超窮，……因此，這裏構造的不可判定命題在更高類型中將變成可判定的”。哥德爾的這一斷言無疑為我們不斷突破低層形式係統的局限，尋求更高類型形式係統模擬人類智能提供了豐富的空間。我們無法證明人工智能存在某種不可逾越的邏輯極限，完全可以探討如何超越目前的圖靈機來模擬人類智能的新途徑。

計算機是人類為了自身目的而設計製造的，這種製造者與被製造者之間的強關係將人置於麵對麵地統治機器的絕對優越地位，這種地位究竟是一種社會學意義上的優越，還是計算機和人的智能的本質特性所決定的?或者像哥德爾斷定的，存在與物質相分離的心能超越任何計算機去發現和證明某些數學定理，至少在發現具有超窮性質的數學真理，提出數學公理、構造假說方麵是任何計算機都無法企及的；抑或像彭羅斯斷言的那樣，人心具有一種特殊的能力，這種能力是建立在迄今未予發現的某些物理學規律的基礎上，而且能超越任何計算機實現非算法的運算?這確是需要我們深入探討的問題。

我認為，現在一個更值得思考的問題是，我們以上的討論都是建立在圖靈意義上的可計算概念基礎上的，目前人工智能領域也完全是在圖靈意義上可計算概念基礎上產生的“認知可計算主義”的範式指導下工作。即使不論用一個形式係統表達圖靈機的方式不唯一，我們也應當考慮到，對於模擬人類智能的計算機，完全可以采用某種新型的形式係統，采用包含非古典邏輯的具有動態性質的形式係統。同樣不容忽視的一個問題是，這種形式係統至少應當保證緊致性定理成立，應當在原始遞歸的範圍之內，這樣一來，哥德爾不完全性定理就自然成立，因此仍然沒有超出哥德爾所言的邏輯極限範圍。

那麼能否構造新型的形式係統，它不是哥德爾構造不可判定命題的靜態的古典邏輯的形式係統?而且在這種係統中哥德爾定理不成立?更進一步，可計算性的概念是否可超越圖靈機可計算概念的範圍，我們是否可尋求某種非圖靈機理論模型去模擬人類心智，計算是否是人類認知和智能活動的主要，甚至是全部內容，計算概念是否隻能意味著圖靈機可計算?

我們認為，人工智能，甚至整個認知科學正在麵臨著一場研究範式的轉換，基於圖靈可計算概念的“認知可計算主義”研究綱領已經顯示出其極大的局限，必將代之以“認知的算法不可完全性”為核心的研究綱領。人類必將探索新的非圖靈機概念來嚐試解決人工智能更深層的問題，以擺脫在理論和實踐上的困境。目前西方學者已經在探討“超越(圖靈機)計算” 的問題，應當引起我們足夠的關注。