428      機器人

哈佛大學：人工智能與國家安全

過去五年人工智能領域的研究取得了重大的技術進步，發展速度比之前預期的要快很多。人工智能領域的很多進展主要歸功於其分支技術——機器學習領域取得的成就。很多專家認為人工智能仍將繼續快速發展,並且對國家安全的影響將逐步加深。哈佛大學貝爾弗科學和國際事務中心推出的這份研究報告，首先從軍事、信息和經濟三方麵分析了人工智能變革的潛力以及對國家安全的影響；接著闡述了從以往的變革技術案例中可以學習到的經驗以及吸取的教訓；最後對美國向AI發展的國家安全政策提出三個目標和十一條建議，報告提出的三大目標是：保持美國技術領先、支持和平利用人工智能技術、減輕災難性風險。

1. 過去五年人工智能領域的研究取得了重大的技術進步，AI發展比之前預期的要快很多

（1）AI領域的很多進步歸功於人工智能的分支技術——機器學習領域取得的研究進展。

（2）很多專家認為人工智能仍將繼續快速發展，甚至還有可能加速發展。

2. 大多數人工智能研究取得的進展主要集中在私營部門和學術界

私營部門在人工智能方麵投入的資金遠遠高於美國政府。

3. AI技術對國家安全具有重大的潛在影響

例如：機器學習技術可以使勞動密集型工作（如衛星圖像分析和網絡防禦）實現高度自動化。

4. 未來AI技術有可能帶來美國國家安全技術的變革（與核武器、航空，計算機和生物技術一樣）

核武器、航空，計算機和生物技術這些技術將使美國國家安全機構的戰略、組織、優先重點工作和資源分配發生重大的變化；

未來AI將至少具有同樣的影響力。

5. 人工智能的發展將推動三個方麵的進步（軍事優勢、信息優勢和經濟優勢），從而影響國家安全：

（1）在軍事方麵的優勢——既能實現新的功能，也能使現有功能可支持更廣泛的參與者

例如：商業上可用的、采用AI的技術（例如遠程無人機包裹遞送）可能會使弱小國家和非國家行為者獲得一種遠程精確打擊能力。

（2）在信息方麵的優勢——將大大增強數據收集和分析的能力，以及創建數據的能力

在情報活動中，采用AI技術後將可獲取更多的信息資源，有助於了解事情真相。

（3）在經濟方麵的優勢——可能會帶來一場新的工業革命

前美國財政部長拉裏·薩默斯認為，AI和相關技術的進步將導致美國對勞動力的需求大幅下降。

6. 報告分析了四類變革性軍事技術案例——核能、航空航天、網絡、生物技術，為人工智能提供可借鑒的“經驗教訓”

（1）激進的技術變革催生了激進的政府政策理念

正如之前的變革性軍事技術一樣，人工智能帶來的國家安全影響將是革命性的，而不僅僅是有所改變。

（2）軍備競賽有時是不可避免的，但它們是可以管理的

人工智能在戰爭和間諜活動中的應用很可能是像飛機飛行一樣不可抗拒的，防止擴大人工智能的軍事用途大概是不可能的。

（3）政府在促進AI商業活動的同時也要對其進行限製

擁有最大和最先進的數字技術產業對美國來說是一個巨大的優勢。然而，政府與一些領先的人工智能研究機構之間的關係處於緊張。

（4）政府必須正式確立技術安全目標，並提供足夠的資源

在上述四種技術發展案例中，國家安全政策製定者麵臨著安全和技術性能之間的權衡，但政府很可能對某些風險做出適當的回應。

（5）隨著技術的改變，美國的國家利益也發生了變化

生物武器的成本和複雜性下降使美國改變了他們的生物武器戰略，從侵略性的發展到自願的克製。

7．報告基於“政府整體”的構架，對美國向AI發展的國家安全政策提出三個目標和十一條建議：

（1）保持美國技術領先地位

建議1：DOD應進行以AI為重點的模擬軍事演習，以識別潛在的顛覆性軍事創新；

建議2：美國國防部應該投資對人工智能技術及其影響進行多樣化、長期的戰略分析。

建議3：美國國防部應該優先考慮人工智能研發支出領域，這些領域可以提供可持續的優勢，並減輕重大風險。

建議4：美國國防和情報部門應該對“反AI”能力進行大量投資，以應對進攻和防守。

（2）支持和平利用人工智能技術

建議5：美國國防部高級研究計劃局、IARPA海軍研究辦公室、美國國家科學基金會應增加對人工智能基礎研究的資助。

建議6：國防部應該發布開發軍事、民用兩用功能AI技術的信息需求（RFI）；

建議7：高科技風險投資公司In-Q-Tel應提供更多的資源，以促進國家安全團體與商業AI行業之間的合作。

（3）實施對災難性風險的管理

建議8：國家安全委員會、國防部和國務院需研究美國應通過製定條約限製哪些AI應用；

建議9：國防部和情報機構應建立專門的人工智能安全組織；

建議10：DARPA應該為人工智能係統的故障恢複和性能安全技術研究提供資金。

建議11：NIST和國家安全局應探索。

關鍵圖表

表1 四個案例中關鍵技術的各方麵比較

表2 四個案例中政府技術管理辦法

表3 政府技術管理辦法打分表

來源： 中國信息通信研究院

最後更新：2017-10-08 09:29:48

  上一篇： 世界第一圍棋手柯潔：“鬥法”人工智能，20歲斬獲世界圍棋四連冠

  下一篇： 人工智能輔助新藥發現有七個創新方向，可大幅度節省成本和縮短研發時間2017醫療大數據和人工智能產業報告節選