977
機器人
“人工智能與未來社會：趨勢、風險與挑戰”學術研討會綜述
上海社會科學界聯合會主辦主管
點擊播放
GIF/64K
以學術為底色 以思想為旗幟
全景掃描 ·編者按
“人工智能與未來社會：趨勢、風險與挑戰”
學術研討會綜述
當前，人工智能浪潮風起雲湧，AI時代已經成為現在進行時。就在近日，國務院印發《新一代人工智能發展規劃》，將人工智能上升到國家戰略高度，描繪出了中國人工智能發展的新藍圖。除了我國之外，國際社會也對人工智能給予了普遍關注，可以說發展人工智能已然成為了全球共識。但是，我們也清醒地認識到，人工智能在為這個時代注入發展新動能的同時，對就業、法律、政治、經濟、倫理和安全等諸多領域也帶來了新的挑戰。在人工智能“列車”滾滾駛來的今天，我們應當如何應對其帶來的風險和機遇；人工智能的技術屬性和社會屬性如何實現融合；人工智能又會對未來社會造成怎樣的衝擊，這些都是亟需我們回答的問題。2017年8月28日，由上海市社聯《探索與爭鳴》雜誌社和華東政法大學政治學研究院共同主辦的“人工智能與未來社會：趨勢、風險與挑戰”學術研討會在上海社聯大樓召開。來自國內知名高校和研究機構的近四十位專家學者以及業界代表齊聚一堂，針對人工智能的發展和應用，分別從技術、法律、政治、經濟、人文等不同角度提出看法，展開熱烈探討。
開幕致辭
上午9時，研討會正式開始。上海市社聯專職副主席、秘書長解超與華東政法大學副校長顧功耘分別致辭。
上海市社聯專職副主席、秘書長解超向與會專家介紹了本次研討會的主旨、設想，他在致辭中指出了會議主題的重大意義： “前不久國務院剛剛印發了新一代人工智能發展規劃的通知，從國家層麵對人工智能進行係統布局。可以說人工智能是人類所麵臨的最為重要的技術變革，是互聯網誕生以來又一次社會技術形態在全球的萌芽。不僅僅因為人工智能極大促進生產力的發展，更為重要的是它將深刻的改變人類的生活世界，思想觀念，組織製度和存在的樣態。” “人工智能不僅僅是對機器的研究，更是對人類的研究。”因此，本次會議邀請了來自各個領域的專家學者以及業界代表，希望這是一次多學科參與、跨越產學研的思想盛宴。
華東政法大學副校長顧功耘在致辭中表示：“人工智能引領的潮流已經產生了顛覆性的影響，在計算機視覺、語音視頻、無人駕駛等前沿技術，這些產業和學科都麵臨著嚴峻的考驗，機器人發展起來了，在法律上究竟有沒有主體地位，機器人與我們自然人之間是什麼關係，機器人有一係列的行為，這個行為帶來的後果、責任由誰來承擔，這一係列問題都是我們要進一步研究的。”總而言之，人工智能的應用給我們的社會的各個方麵帶來了新的機遇和挑戰。
本次會議共設有六個主題，采取主題發言和自由討論等形式，對人工智能給未來社會帶來的風險與挑戰進行交流討論。
一、人工智能對未來的顛覆性影響
中科院自動化所研究員、複雜係統管理與控製國家重點實驗室主任王飛躍發言的題目是“智能科技與新軸心時代：未來的起源與目標”，他從宏觀曆史出發，分析人工智能的發展演變，辨析物理空間與網絡空間的關聯，並且對人工智能的未來充滿期待。著名學者雅斯貝爾斯提出了“軸心時代”的概念，在公元前800到前200年期間，古代文明湧現出許多重要思想家，對文明發展起到至關重要的作用。王教授認為，世界可分為三個部分：物理世界，心理世界以及人工智能（虛擬）世界。每個世界都要有自己的軸心時代，新的世界也要有它的軸心時代。雅斯貝爾斯所言為第一個。第二個軸心時代就是從文藝複興一直到牛頓、愛因斯坦，代表著人類理性的覺醒。人工智能世界也要有自己的軸心時代，這個軸心時代就是從哥德爾開始。現在是哲學上的突破，再是科學上的突破，下麵就要是技術上的突破。就人們普遍擔憂的關於人工智能將取代人類工作的問題，王教授樂觀指出，人們當前的工作正是依賴機器來提供的，人類向無用階級轉變其實是社會的進步。“無用之用，重用之基”（徐光啟《幾何原本》）。
上海交通大學科學史與科學文化研究院院長江曉原教授的發言，則對人工智能表示出明確的否定態度。他分別從近期、中期、遠期談了人工智能的風險，表達出憂患意識：“我認為我們正在玩一把非常危險的‘火’。”從近期來看，人工智能引起的大批失業問題，95%的人不工作，5%的人工作，這樣造成的財富分配不均，引起社會不穩定；從中期來看，人工智能存在失控的可能，芯片的物理極限，不可拔掉的電源都會引起互聯網和人工智能結合後的不可操控；從遠期來看，人工智能的終極威脅即人類這個物種會在個體的體能和智能方麵全麵的衰落，把對世界的管理讓給人工智能，它一定是認為把人類清除掉是最好的。”此外，江院長還指出，要考慮最根本的問題是我們為什麼要發展人工智能，資本的推動作用顯而易見，資本為了增值盲目且不計後果。
二、人工智能是人類的福音還是惡夢？
人工智能到底是造福全人類的利器，還是毀掉世界的終極惡魔？北京大學計算機係主任陳鍾教授從自己的角度對此進行了一番解讀。陳鍾教授的演講主題是“從人工智能本質看未來的發展”。他首先結合自身求學、工作的經曆，分享自己關於計算機的觀點與看法。然後，陳教授在演講中依次展開自己關於人工智能的三個重要觀點，即“人工智能本質是計算機科學分支”、“數據驅動導致人工智能發展起起落落”和“社會科學與現實的關係比以往更加緊密”。陳教授將理論與實務相結合，幫助大家更好地理解人工智能的本質與發展趨勢。最後，他表達出自己關於人工智能的中庸態度，主張要對人工智能進行規製，促使其合規發展。
不同於前麵幾位理工科學者的講述，中國社會科學院哲學所的段偉文研究員從哲學和人性入手，對人工智能的社會性進行思考。段偉文研究員具有深厚的哲學功底，他以人性為切入點來思考人工智能的危機和未來情境。段研究員指出，機器的使用最終都是與人的能動性有關，他崇尚一種慢科學，要更多地思考人性、倫理，審慎對待人工智能的發展。他的主要觀點可以概括為五句話：一是人工智能的發展帶來新的權利,二是數據框定時代、算法設定認知，三是人的機器化和機器的人化，四是智能延展認知與人工愚蠢，五是深度科技化（預防性原則和主動性原則）。
寬資本董事長、奇點大學投資人關新則從行業實際發展情況出發，直指人類對人工智能的恐懼之處——人是不可能阻擋技術的，技術本身就是洪水勐獸。而人類所害怕的是技術日新月異。他認為，我們今天應該把人工智能和科技革命當做完全不可阻擋的東西，至於人怎麼應對，這是挑戰人本身的智慧，而不是機器。
三、中國在人工智能時代會領跑世界嗎？
有觀點認為，人工智能的發展，為發展中的中國提供了“彎道超車”的良機。那麼，世界範圍內來看，AI的研發水平到了怎樣的程度？人工智能的進步到了哪一個階段？中國在這一研究領域是否占有一席之地？根據現在的研究情況，能否對未來的發展趨勢進行預測？中國在人工智能時代是不是能夠跑在世界前列？這些問題值得探討。
上海交通大學電子信息學院的熊紅凱教授首先做了題為“人工智能技術下對真理和生命的可解釋性”的主題演講。他回顧了人工智能從上世紀五十年代到現在的起起落落，認為人工智能發展中的不確定性和不可解釋性是最大的威脅。熊紅凱教授演講之初就提出與人工智能緊密相關的機器學習、神經網絡具有很大的不確定性，而人工智能的發展就要解決這些不確定性、不可解釋性與因果性的問題。他演講的重點就是人工智能技術的安全性。人工智能的推動主體是企業與資本，其最大推動力不是算法而是數據，數據的使用就不可避免帶來安全性問題。這也是美國大數據醫療一直進展緩慢的原因。一切技術都是以超越人自身為推動力，從這個角度來看，熊教授認為一些人稱人工智能技術是洪水勐獸是有一定道理。
上海社會科學院哲學所副所長成素梅研究員則對人工智能研究的範式轉換和發展前景進行分析和展望。人工智能是計算機分支學科研究出來的，但是從學科性質上來講，人工智能不是自然科學，人工智能屬於技性科學，是科學與技術相互交叉的一個領域，一開始就具有跨學科性。它是要把科學的原理變成技術的實現，倒過來技術的實現又推動了科學原理的解釋和發展。人工智能研究者一旦揚棄追求通用人工智能的範式，轉向追求在具體領域的拓展應用，人工智能就會走出瓶頸，迎來新的發展高峰。
華東政法大學政治學研究院院長高奇琦教授也提出了重要觀點，認為中國在人工智能時代有特殊的使命。高教授首先對比了中美兩國的優勢和劣勢，認為中國的優勢第一個在於龐大活躍的中國市場，這個市場規模是全球獨一無二的；第二個是勤勞勇敢的中國人，讓國外感到恐懼的24小時開店、周末不休息；第三，科研隊伍和研究水平；第四是中國已經有了一個良好的發展基礎。而最大的優勢莫過於位置和文化。相比於西方，中國文化具有多元而開放的特點。最後，高教授提出未來發展的四個“智”——第一，跨智，發揮媒體之間的技術優勢；第二，眾智，利用群體智能；第三，合智，人工智能和人類智能的合作；第四，善智，發展的目的是為了人類的公平正義。“AI就是“愛”，我們研究AI的目的就是讓世界充滿AI。”
四、人工智能對法律與政府的影響
法律與政府是公平公正的代名詞，麵對AI在社會眾多領域的應用，法律和政府部門工作也在與人工智能接軌，在實踐中讓AI發揮更大的作用。
四川大學中國司法改革研究中心主任左衛民教授首先表態：實務界對AI是相當認同的。左衛民教授在法律實務領域具有一定建樹，他著重從形而下審思人工智能與中國智慧司法的未來。他鮮明地指出AI與法律學者有一定差距，但法律界總體上對AI是相當認同，上海、江蘇以及浙江等地已經將大數據人工智能運用到審判中來，而案多人少的現實背景、對公正效率的需求也需要發展人工智能。左教授接下來向大家講述法律界對人工智能的運用情況，他以國家開放司法審判書為例指出司法裁判引入大數據對於建構裁判標準具有重要的意義。當然，他也指出裁判文書的過度應用也存在問題，法律具有獨特性，很多現實情況很少用到裁判文書。總而言之，左教授對人工智能在司法領域的應用充滿信心。
“在我看來人工智能向法律提出的問題更具根本性。”上海交通大學凱原法學院鄭戈教授列舉了人工智能對法律職業和社會管理的種種挑戰。鄭戈教授主要以“電子人”為例探討是否建構人工智能的法律人格。他首先從歐洲關於人工智能的法律法規延伸開來，介紹阿西莫提出的機器人“三大律法”，然後詳細列舉人工智能給法律帶來的問題與挑戰。人工智能所涉及的倫理和法律問題是這個時代最關鍵的問題之一，第二個問題是它涉及現代法律體係的基礎性概念和思維方式，第三個問題是數據的實際占有者與使用者之間的界限越來越難以判定，第四個問題是過錯的判斷越來越困難，第五個問題是過錯與損害結果之間的因果關係越來越難以確定等。鄭教授主張對人工智能進行合理的法律規製，需要法律人和科學家的深度合作。
華東師範大學政治學係吳冠軍教授作為政治哲學研究者，著眼於未來社會秩序。吳冠軍教授的演講用人類學機器這個概念闡述自己對人工智能的理解。人類學機器是著名哲學家阿甘本提出的一個概念，他認為人類與動物以及其他事物之間存在分級製度，人與人工智能之間是一種機器關係，上下級的關係。吳教授指出人類學機器是基於人工智能的全新的物種，這個新物種會帶來一係列倫理問題、邏輯關係問題，對現實世界產生顛覆性的影響。我們在關注人工智能發展的同時也要關注它的正當性。
上海社會科學院互聯網研究中心執行主任惠誌斌主要探究人工智能應用場景中的法律問題。。他認為，人工智能能夠聯係大量的人、物，在這樣一個聯網的基礎上產生大量的數據，數據通過智能化的算法，這個算法至少目前來看還是由人來設計，由人來去驗證，去實施的算法，共同構造智能網絡的應用場景，在各種各樣的場景裏麵，醫療領域、環境領域，包括我們的生活等等各種場景裏在應用，所以，在鼓勵它發展的同時如何去規避危險，如何能按照人類所希望見到的“善智”這樣一些方向發展，這是我們需要考慮的問題。還要考慮如何通過一些公共政策，如何通過法律，把它那些可能帶來危害的風險點找到，進行規避。他認為，人工智能碰到的法律和經濟問題，比如產權版權問題，變成具體服務和產品問題時的責任歸屬問題等等，要在基本安全的框架內，探討人類和機器共同協作的方式，保持透明、開放，讓人工智能產品在公眾的監督之下，而不是隨意設置。
上海交通大學凱原法學院楊力教授的主題演講“司法大數據與人工智能的應用前沿”介紹了司法界AI應用的前景。他介紹了法律實務中大數據應用的四套大綱：第一套大綱是AI係統，所有人工智能依賴於數據驅動，在整個司法鏈條上做到數據驅動最底層工作，一定要把法院、檢查院的相關數據打通，這一點非常關鍵；第二套是在審判環節，審判環節是整個法律中的中心工作。第三套是算錢算績效，通過抓取走向司法人工智能付出的一小部分努力，對一個法官每一年到底每年的承受極限是承受多少案件等進行測算；第四套是模擬審判，希望通過三到五年，機器法官（現在還不敢稱智能法官）能夠承擔法院的簡單案件。
五、人工智能對經濟、社會與傳媒的影響
上海大學社會學係顧駿教授重點探討了人工智能研究的“燈下黑”問題。他認為，以往的研究隻是將人工智能與人類智能進行簡單的比較，人類的自我中心主義讓大多數研究者忽略了人類創造物的內在邏輯。他在演講中主要提出了自己擔憂的人工智能發展的八個問題，比如宇宙發展是否會終結人類，人工智能是否會超越人類，人類創造物是否有自主創造力以及機器人如果能夠自我進化，那麼進化的結果由誰來控製等。顧教授的演講體現出強烈的憂思。最後，顧教授認為自己關於人工智能的研究隻有問題，沒有答案，需要更多的人去理性思考。
上海師範大學知識與價值科學研究所所長何雲峰教授則持樂觀態度，站在進化論視角看待人工智能。他認為，人工智能像人類一樣，也是不斷進化的。人類為彌補自身進化不足不斷開發新的機器，所以說人工智能在很早之前就已經開始，這也可以運用康德的“先天知識何以可能”來論證。何教授對人工智能的發展同樣充滿自信，重要的問題不是人工智能會帶來一些風險，人們在前進的過程中是可以解決這些，問題的關鍵是人工智能大量的使用會導致人類進化危機，它比人類擺脫自身束縛更加可怕。何教授最後對人工智能發展做出樂觀預測，人工智能越發展，人類從勞動中解放程度越高，人類將有更多時間來學習和提升自己，擁有更多發展機會。
複旦大學哲學學院徐英瑾教授演講的主題聚焦於認知語言學與人工智能倫理學。他認為，在主流的人工智能倫理學研究中，很少有人意識到：將倫理規範的內容轉化為機器編碼的作業，在邏輯上必須預設一個好的語義學理論框架，而目前主流人工智能研究所采用的語義學基礎理論卻恰恰是有問題的。徐教授主張在人工智能與人工智能倫理學的研究中引入認知語言學的理論成果，並在此基礎上，特別強調“身體圖式”在倫理編碼進程中所起到的基礎性作用，必須嚴肅思考“怎樣的外圍設備才被允許與中央語義係統進行恒久的接駁”這一問題。
微軟亞太科技有限公司副總裁王楓也參加了研討會，他旗幟鮮明地提出：新科技應助力人工智能造福人類。第一，人工智能服務於人類，互聯網和各種軟件硬件都是由人製造，為人服務，這是前提。微軟近期推出的盲人智能眼鏡就是在這一前提下產生，幫助盲人實現以前無法做到的事情。第二，他強調，沒有數據的人工智能是一個理論和空談，數據的完整性、專業性和準確性是最基本的。彈性的雲計算的應用使得人工智能不再局限與手機管家的簡單問答。而與媒體合作過程中，可以看到，通過人工智能感知的技術可以保證視頻內容合法合規。此外，微軟最近也推出了新的應用——通過雲計算和大數據，抓取照片上人的特點，進行人臉識別，用於找尋流失兒童等。王楓副總裁同時表示，人工智能的標準要依托於法律法規和整個地區國家的標準。
上海財經大學講席教授、城市與區域科學學院副院長張學良教授，從經濟學框架來分析人工智能的發展與經濟學的未來。他認為經濟學可以看作是在不確定的世界中找出確定的因素，經濟學的研究將人工智能的發展看作要素驅動。第一，從供給與需求上來看，無論是人工智能和產品的出現，還是技術的發展，它所改變的形態是供給側。第二，從成本與收益上來看，技術的成本我們是否能看到，它往前走一步投入多少成本，用經濟規律講是有約束條件的，企業家的投資一定要帶來收益。它背後有一個成本與收益的法則。要用曆史階段性與連續性的眼光看待，讓市場來發揮作用。第三，從政府與市場的角度看，政府要防止壟斷，做好分配工作，利益共享，在人工智能時代找準自己的定位。第四，從中國與世界角度看，就業與勞動力市場、教育、文明、社會主要矛盾都是需要考慮的問題。
六、圓桌大討論：人工智能會戰勝人類嗎？
在圓桌會議中，圍繞本次研討會主題，與會專家學者進行了熱烈的自由討論，紛紛提出獨到的觀點。
華東師範大學曆史係王家範教授：今天的這個話題，我覺得有一個前提，畢竟是人在倡導人工智能，人是主體，既然能夠倡導也應該能夠控製。所謂的道義是什麼呢，我認為它所倡導的倡導物本應該是用來幫助人類的，凡是不利於人類，危害人類的都不應該倡導。違反道德基本準則的就是危害人類的，反人類的。在歡唿進步的同時，有必要對後果進行認真的檢討。要認真思考的是不應該隻關心利益，人文主義在科技裏麵應該占有主導地位。如果把史學看作一門人類理解自己的私密工藝——提煉人類的智慧，用來改善人類現在和未來的處境，這一類的史學工藝，人工智能做不了。搞史學的知道，任何一個有名的史學家，他隻能做很少一部分，有多少人能把古今中外的文獻都整合在一起？我不認同所謂的人類智慧終極論，我認為機器人永遠不可能完全勝過人類的整體智慧。
上海政法學院文學與傳媒學院副院長張永祿副教授：在人文科學裏麵，機器人寫作要解決兩大問題，要把認知語言學形式化。非線性的，非結構化的是不能表現出來的。目前最高級的（人工智能）是能寫三千字以內的小說，我們知道最好的小說不是單一類型的。
河南大學博士後趙牧：許多人對人工智能可能帶來災難後果報有深深的恐懼。這些恐懼毫無疑問是站在人本主義的立場上的，但種種悲觀論調卻建立在對人和人類社會既有的經驗和認識的基礎上，並對人工智能的概念帶有望文生意的理解。目前的人工智能，還不過是小部分地實現了人腦的功能模擬。人工智能離所謂的智還有著很長的路要走，但人文學的想象力卻將它的自我發展想象為即將到來的現實，似乎人為自己的創造物所奴役已經迫在眉睫了。我們當然不能輕易地否定這種憂慮所包含的人文關懷，但它卻在無遠弗界地想象人工智能的自主性時，對人之為人的屬性設定了一個不變的本質。退一萬步講，既便人工智能成為了無機智能而將來之人成為了它的奴役對象又怎樣呢？當年沒有走出森林的猴子對作為其進化物的人是沒有報怨資格的，它們如果有反思能力的話，也隻能“求諸己”，而沒辦法讓人再變成猴子。
蘇州大學鳳凰傳媒學院院長陳龍教授：我想從批判的視角來看一下人工智能它應用過程中的問題。講危害和恐懼，為時尚早。首先人工智能發展到現在的狀態，讓人們產生了憂思，這本身就是現代性的一種表現，發展到極致狀態的一種現象。我們知道人工智能現在的狀態，未來的狀態到底怎麼樣，它都是處在一個漫長的量變過程。最大的問題，是權力讓步的風險問題。
廈門大學法學院郭春鎮教授：人工智能和人類之間的關係，一個是人與人之間的關係，還有和商業之間的關係。它其實已經不光影響控製我們的行為了，而是公開的，可以得到我們的信息，政府知道我們這麼多信息，商業知道我們這麼多信息，這樣的話我們怎麼控製信息的邊界？怎麼讓他們不濫用個人信息的利用？如何界定和控製這個邊界，這個問題依然保留。
清華大學博士後曹渝：人工智能會怎麼走，第一，不必恐懼，因為該來的還是要來的，我們不如齊心協力把人工智能孵化出來，第二，一定要警惕資本權力的界線。我們技術人是有理想的，不要認為這些IT工程師沒有意識，人骨子裏追求自由、平等、博愛，會超越一切。
提問互動
本次研討會關注前沿熱點問題，深受各界重視，參會者人數眾多。研討會上，不同的觀點相互碰撞，氣氛熱烈，不少聽眾也參與到互動中。
聽眾紛紛同與會專家進行了互動交流，參會學者之間也進行了坦誠對話。有聽眾向江曉原教授提問， 權力、資本、技術在AI技術創新領域中是怎樣互動的，會產生什麼影響。
江教授表示，對資本的恐懼甚於對權力的恐懼，因為盲目的資本比權力更可怕。徐英瑾教授提出，將人工智能應用於武器的基本是負責任大國，不會造成過多危害。王飛躍教授指出，人工智能殺人並不符合現實情況，比如軍用無人機是由多人操縱的。江曉原教授則回應說，人工智能軍事化的危害性並不著眼於死亡人數，反對戰爭的理由也不是說隻要死人少就可取。郭春鎮教授提出大數據時代背景下怎樣對待個人信息的問題：“對個人信息的收集、使用、規製的邊界在什麼地方？”高奇琦教授認為，中國開放的文化特點有利於人工智能應用，例如，可以接受開放部分隱私提升社會治理。鄭戈教授提出，人工智能利用個人數據為生活提供方便是可以接受的，如果對個人權利保護過度，意味著錯失發展先機。顧駿教授則認為隱私泄露今天已經造成了巨大危害。讓渡珍貴的個人隱私權，令人質疑AI風險的不可承受性。
會議總結
上海市委宣傳部副部長、市社聯黨組書記、專職副主席燕爽在總結中對人工智能的發展表現出相對樂觀的態度：“有人講大失業是負麵的詞，但如果由人從勞動中解放的維度來理解，人工智能的大規模應用意味著人有更多的自由時間，這或許預示著人類進入到新的全麵自由發展的階段。”他認為，人工智能的發展是未來的必然趨勢，必須盡可能加以適應和應用：“既然它一定要來，就把它請到家裏來，讓它成為我們的一員，與我們和諧相處，使我們社會更加美好。”燕爽同時認為，關於人工智能的討論，未來將進一步升溫，中國學者的深度介入，顯示出中國學者在科技前沿領域話語權的提升。他指出：“近一段時間關於人工智能的討論很多，令我們感到興奮的是，中國在人工智能研究方麵走到了人類科技發展前沿。原來我們隻有看別人思考、分享別人思考成果的份，而今天我們正接近世界舞台的中央，接近世界科技發展的前沿。中國的業界和學界應緊緊抓住對人類今後可能產生重大影響的機會，做出中國人卓越的貢獻。”燕爽重申了會議主題的重要意義和前沿價值，倡導學界積極開展跨學科討論，促進相關研究的發展與深化，發出自己的聲音。
《探索與爭鳴》人間體
聯絡員小探
xiaotanxiaosuo
轉載 | 合作 | 谘詢 | 建議
長按掃碼加好友
END
人文社科學者的平台
《探索與爭鳴》
唯一官方微信平台
版權所有。歡迎個人轉發，媒體轉載請聯係授權
最後更新：2017-08-31 15:51:43