130
技術社區[雲棲]
對話《哥德爾、埃舍爾、巴赫：集異璧之大成》作者：現在的AI還不夠看
有關人工智能領域的討論，我們可以追溯到一個名叫Douglas Hofstadter，一位美國作家的往事上。自從在1979年因《Gödel, Escher, Bach: an Eternal Golden Braid》（《哥德爾、埃舍爾、巴赫：集異璧之大成》）獲得普利策獎以來，72歲的Hofstadter一直在考慮“思考”這件事——如何讓電腦做到這一點（思考）。
美國作家Douglas Richard Hofstadter（中文名侯世達）
20世紀五、六十年代，人工智能研究還處在早期階段。當時人工智能的目標是通過重塑我們直觀地了解周邊世界的能力，創造出一種能夠以人類的方式思考和學習的電腦。但是，思考需要的是比20世紀五十年代的計算機程序複雜得多的載體。結果是令人失望的。
最終產生結果的做法是放棄整體思考，把計算機聚焦在高度具體的任務上，給它們提供大量的相關數據——這才成就了我們今天看到人工智能的繁榮。一台電腦可以在國際象棋中擊敗人類，依靠的不是尋求下了一步精妙的好棋帶來的滿足感，而是通過數以百萬計以前進行過的棋局篩選工作，看看哪一種下法更有可能導致勝利。
然而，在2017年的人工智能看起來可能需要解決如何教會電腦更加人性化的老問題。神經網絡之父Geoffrey Hinton最近對Axios（一家網站）表示，他對於通過使用一大堆象棋比賽中的數據來教會電腦下棋的方法“深感懷疑”。相反，計算機應該能夠學習任何東西——不用數百萬的具體數據點——而是采用人類的方式。
通過人工智能所有的這些轉變，印第安那大學認知科學和比較文學教授Hofstadter一直在試圖了解思維是如何運作。他根本不相信我們現在擁有的人工智能是“智能”的，而且他擔心這個領域已經把人類引向了危險的道路上。最近，Hofstadter與一家叫Quartz的網站談論了人工智能目前的發展狀況，哪些做法是錯的以及前方會遇到什麼危險。
Quartz：我們來談談一下電腦對語言的理解如何。要把一種語言有效地轉換成另一種語言，一台機器必須對這個世界有深刻的了解，不是嗎？
Douglas Hofstadter：當我想到翻譯時，我想到的是用第二種語言創建一個與原文一樣準確的文本。所以如果原文中的文字是藝術化的而且是美麗的，那麼第二種語言中的文字應該是同樣的藝術化並且美麗的。這就超出了穀歌翻譯的範疇。
穀歌翻譯的翻譯並不是建立在理解之上的。其理解的小洞出現在各種意想不到的地方。德語文本中有一句話說“女仆帶來了湯”，當我更仔細地看著這句話時，穀歌翻譯給出的翻譯是：“女仆進了湯”。“女仆”翻譯的是正確的，但這裏的形象和動作絕對和在真實世界中發生的任何事情都沒有關係。
我並不是在侮辱穀歌翻譯。我想說的是，在任何時候都要記得計算機使用的詞語並沒有擁有絕對正確的意義。
QZ：這就是你所說的“Eliza效應”嗎？
DH：Eliza效應指的是我們使用的單詞或短語，就好像它們有意義，但這隻是因為我們使用語言。而當另一個實體操縱這些詞並將它們噴吐到我們的屏幕上，或者在我們和對方說話的時候使用這些詞語的時候，我們傾向於假設背後會有想法。而這種想法可能是非常錯誤的。
QZ：你覺得電腦是否有可能在沒有這種想法的情況下，能夠在人類的水平上進行文學的或者優雅的翻譯？
DH：不，我真的不這樣認為。因為我認為這個世界實在太複雜了。
QZ：我們是不是需要用另一個術語來定義人工智能所做的一切，以便進一步表達它並不是一種令人難以置信的智能表征？
DH：這是一個有趣的問題。我不認為我們擁有的是“智能”。回到一件熟悉的事情上，這件事距今已有很多年了，是一個關於自駕出行的故事。
這件事發生在我自己身上，所以這是一個真實的故事。
我正在從我的家鄉印第安納州布魯明頓市開車到芝加哥去進行一場演講。然後在出發一兩個小時之後，我在高速公路上遇到了很嚴重的交通堵塞。當時離芝加哥還有很遠的距離，可是高速公路上的車堵得死死的。現在，我該怎麼辦？我看到有些人正試圖穿過分隔南行和北行交通的綠化帶，認為他們可以在高速公路上往南走一段，然後下了高速公路走一些比較小的道路。這是有可能的，但後來我看到一些車被困在了草地上，草地並不平坦，而且非常泥濘。所以我在想，“我是不是要這樣做，我想要承擔這種風險嗎？”
假設我等一會然後回到高速公路上，可是當時我已經處於極大的壓力之中，想要趕往芝加哥。已經過了一個小時，我幾乎沒有時間了。現在我該怎麼辦？我要承擔多少風險？到這所大學做這個講座對我來說有多重要？如果我打個電話過去說我要遲到半個小時會如何？還是我應該說我要遲到一個小時？於是我一邊開車一邊思考，我要開到每小時80英裏還是90英裏的速度？到底我要開多快？
對於我而言，這是“駕駛”的一部分。這表明現實世界在許多方麵都影響著駕駛性質。
如果你看看世界上的情況，就會看到根本沒有框架，像在象棋遊戲、圍棋遊戲或類似的東西中的框架。世界上的情況根本就沒有界限，你不知道情況之中有什麼，沒有什麼。
QZ：人們會推測（機器智能）在獨立思考，這一點會讓你感到煩惱嗎？
DH：如果你問我原則上說，計算硬件是否有可能做一些像思考這樣的事，那我會說這絕對是有可能的。計算硬件可以做任何大腦可以做的事情，但我不認為現在我們正在做大腦做的事情。我們正在模擬其表麵層次，而許多人則陷入了幻想。有些時候，這些機器的性能是非常壯觀的。
我我有以下感覺：創建可以進行一點思考的程序很有趣，並讓你感覺你正在接近一些思考的本質。而且細微之處越多越好。我很高興機器慢慢地變得更好。它使我認為人類是最終目標，人類智能是一件偉大的事情。
換句話說，我的感覺是計算機智能正在向人類智能漸行漸近。漸近的意思是從下方接近，但不會超越它。當曲線接近於直線時，它將接近人類智能。它將在直線下方達到平衡。
但是到最後，由於AlphaGo和DeepBlue等獲得的所有的勝利，人們開始懷疑這條線是不會超越，就像下棋一樣。兩條線正在相交。而不是兩條漸近線。它們隻是交叉，然後電腦的線繼續上升。
這對我來說這是一個不同的場景，這不是我喜歡的畫麵。
人類的思想被徹底壓倒並留在塵埃之中，這個場景令我感到驚恐。不是得到電腦的幫助或支持，而是被徹底壓倒，而我們之於計算機將會變成像蟑螂或者跳蚤之於我們一樣的存在。這會是非常恐怖的。
注明：
Douglas Richard Hofstadter：中文名侯世達，美國學者、作家。他的主要研究領域包括意識、類比、藝術創造、文學翻譯以及數學和物理學探索。 因其著作《哥德爾、埃舍爾、巴赫：集異璧之大成》獲得普立茲獎（非小說類別）和美國國家圖書獎（科學類別）。此外，侯世達還是美國印第安納大學文理學院認知科學傑出教授，主管概念和認知研究中心。他本人和他輔導的研究生組成“流體類推研究小組”。1977年，侯世達原本屬於印第安納大學的計算機科學係，然後他開始了自己的研究項目，研究心理活動的計算機建模（他原本稱之為“人工智能研究”，不久就改稱為“認知科學研究”）。
侯世達定律（Hofstadter's law）：是一句自指的格言，由侯世達在《哥德爾、埃舍爾、巴赫：集異璧之大成》一書中提出。指做複雜任務需要花費的時間總是很難預計的。程序員經常會引用這一定律，特別是在進行有關提高效率的討論時。
《哥德爾、埃舍爾、巴赫：集異璧之大成》：該書通過對哥德爾的數理邏輯，艾舍爾的版畫和巴赫的音樂三者的綜合闡述，引人入勝地介紹了數理邏輯學、可計算理論、人工智能學、語言學、遺傳學、音樂、繪畫的理論等方麵。
原文發布時間為： 2017年10月13日
本文作者：孫博
本文來自雲棲社區合作夥伴至頂網，了解相關信息可以關注至頂網。
最後更新：2017-11-14 15:05:19