428      机器人

哈佛大学：人工智能与国家安全

过去五年人工智能领域的研究取得了重大的技术进步，发展速度比之前预期的要快很多。人工智能领域的很多进展主要归功于其分支技术——机器学习领域取得的成就。很多专家认为人工智能仍将继续快速发展,并且对国家安全的影响将逐步加深。哈佛大学贝尔弗科学和国际事务中心推出的这份研究报告，首先从军事、信息和经济三方面分析了人工智能变革的潜力以及对国家安全的影响；接着阐述了从以往的变革技术案例中可以学习到的经验以及吸取的教训；最后对美国向AI发展的国家安全政策提出三个目标和十一条建议，报告提出的三大目标是：保持美国技术领先、支持和平利用人工智能技术、减轻灾难性风险。

1. 过去五年人工智能领域的研究取得了重大的技术进步，AI发展比之前预期的要快很多

（1）AI领域的很多进步归功于人工智能的分支技术——机器学习领域取得的研究进展。

（2）很多专家认为人工智能仍将继续快速发展，甚至还有可能加速发展。

2. 大多数人工智能研究取得的进展主要集中在私营部门和学术界

私营部门在人工智能方面投入的资金远远高于美国政府。

3. AI技术对国家安全具有重大的潜在影响

例如：机器学习技术可以使劳动密集型工作（如卫星图像分析和网络防御）实现高度自动化。

4. 未来AI技术有可能带来美国国家安全技术的变革（与核武器、航空，计算机和生物技术一样）

核武器、航空，计算机和生物技术这些技术将使美国国家安全机构的战略、组织、优先重点工作和资源分配发生重大的变化；

未来AI将至少具有同样的影响力。

5. 人工智能的发展将推动三个方面的进步（军事优势、信息优势和经济优势），从而影响国家安全：

（1）在军事方面的优势——既能实现新的功能，也能使现有功能可支持更广泛的参与者

例如：商业上可用的、采用AI的技术（例如远程无人机包裹递送）可能会使弱小国家和非国家行为者获得一种远程精确打击能力。

（2）在信息方面的优势——将大大增强数据收集和分析的能力，以及创建数据的能力

在情报活动中，采用AI技术后将可获取更多的信息资源，有助于了解事情真相。

（3）在经济方面的优势——可能会带来一场新的工业革命

前美国财政部长拉里·萨默斯认为，AI和相关技术的进步将导致美国对劳动力的需求大幅下降。

6. 报告分析了四类变革性军事技术案例——核能、航空航天、网络、生物技术，为人工智能提供可借鉴的“经验教训”

（1）激进的技术变革催生了激进的政府政策理念

正如之前的变革性军事技术一样，人工智能带来的国家安全影响将是革命性的，而不仅仅是有所改变。

（2）军备竞赛有时是不可避免的，但它们是可以管理的

人工智能在战争和间谍活动中的应用很可能是像飞机飞行一样不可抗拒的，防止扩大人工智能的军事用途大概是不可能的。

（3）政府在促进AI商业活动的同时也要对其进行限制

拥有最大和最先进的数字技术产业对美国来说是一个巨大的优势。然而，政府与一些领先的人工智能研究机构之间的关系处于紧张。

（4）政府必须正式确立技术安全目标，并提供足够的资源

在上述四种技术发展案例中，国家安全政策制定者面临着安全和技术性能之间的权衡，但政府很可能对某些风险做出适当的回应。

（5）随着技术的改变，美国的国家利益也发生了变化

生物武器的成本和复杂性下降使美国改变了他们的生物武器战略，从侵略性的发展到自愿的克制。

7．报告基于“政府整体”的构架，对美国向AI发展的国家安全政策提出三个目标和十一条建议：

（1）保持美国技术领先地位

建议1：DOD应进行以AI为重点的模拟军事演习，以识别潜在的颠覆性军事创新；

建议2：美国国防部应该投资对人工智能技术及其影响进行多样化、长期的战略分析。

建议3：美国国防部应该优先考虑人工智能研发支出领域，这些领域可以提供可持续的优势，并减轻重大风险。

建议4：美国国防和情报部门应该对“反AI”能力进行大量投资，以应对进攻和防守。

（2）支持和平利用人工智能技术

建议5：美国国防部高级研究计划局、IARPA海军研究办公室、美国国家科学基金会应增加对人工智能基础研究的资助。

建议6：国防部应该发布开发军事、民用两用功能AI技术的信息需求（RFI）；

建议7：高科技风险投资公司In-Q-Tel应提供更多的资源，以促进国家安全团体与商业AI行业之间的合作。

（3）实施对灾难性风险的管理

建议8：国家安全委员会、国防部和国务院需研究美国应通过制定条约限制哪些AI应用；

建议9：国防部和情报机构应建立专门的人工智能安全组织；

建议10：DARPA应该为人工智能系统的故障恢复和性能安全技术研究提供资金。

建议11：NIST和国家安全局应探索。

关键图表

表1 四个案例中关键技术的各方面比较

表2 四个案例中政府技术管理办法

表3 政府技术管理办法打分表

来源： 中国信息通信研究院

最后更新：2017-10-08 09:29:48

  上一篇： 世界第一围棋手柯洁：“斗法”人工智能，20岁斩获世界围棋四连冠

  下一篇： 人工智能辅助新药发现有七个创新方向，可大幅度节省成本和缩短研发时间2017医疗大数据和人工智能产业报告节选