241
机器人
人工智能真会成为人类的“终结者”？
“我还会回来的！”美国科幻电影《终结者》中的经典台词让人记忆深刻。然而，最容易让人产生理解偏颇的是，未来的机器人真是“洪水猛兽”吗？真的会统治世界、灭绝人类吗？
近几年来，人工智能（AI）热潮在全球掀起，谷歌围棋机器人“阿尔法狗”横扫人类顶尖棋手；IBM Watson（沃森）机器人“沃森肿瘤智能联合会诊系统”在同济大学癌症中心、上海市第十人民医院全面临床启动，只用了10秒钟就完成了可覆盖8种癌症的治疗方案，对癌症患者术后治疗方案只需3～5秒，已超越了50%以上的医生诊疗水平；人工智能在自动驾驶汽车、无人机等领域更是硕果累累……AI技术在许多新领域的应用，使过去看似理论上的东西变成了现实。
显然，人工智能在应用领域开始由实验室走向实用，基于大数据、云计算、机器学习（深度学习算法）的人工智能应用，其正确率已经超过了人们的期望值，这才是人类力所不能及的，这才是对人类最大的挑战。近日，特斯拉CEO伊隆·马斯克与Facebook创始人扎克伯格关于“AI末日论”的对怼，再次将关于人工智能的讨论推向了高潮。
以平衡和合规的体系规避AI风险
日前在澳大利亚墨尔本举行的2017国际人工智能联合会议（IJCAI）的主题就是“人工智能的自主性（Autonomy）”，即人工智能自主规划、自主纠错、自主学习等能力。大会重点探讨了在给予AI系统更多自主性的同时，应该建立怎样的限制性和保障性措施，以进一步促使人工智能帮助我们建立一个更加公正和繁荣的社会。
那么，在人工智能发展过程当中如何去平衡AI的自主性与限制性、保障性之间的关系，使《终结者》中的场景永远是虚构的故事而已。
对此，澳大利亚维多利亚州驻大中华区特派专员Tim Dillon坦言，AI对人类而言毕竟是一个发展迅速的新领域，理所应当会自带风险，其中有些可以预见，但有些“隐形风险”还没显露，人类甚至不知道这些风险的存在。我们在积极支持AI产业发展的同时，需要通过广泛的研究、讨论、求证，来加深对AI系统的了解，以期在发展与防范之间达到一个平衡，从而更好地预防一些已知与未知的风险。而这些知识的共享、研究、讨论、求证和沟通交流，不应仅限于某个国家，而应该是全球互通的，这样才能搭建起一个比较完善的框架，促成一个相对比较平衡和合理的法律法规体系来规避未来的各种风险。
“在目前这一阶段，需要有耐心，不能冒进，在采取行动时不能毫无顾忌，以防不可控因素的发生；我们需要对这个不断发生变化的领域和行业更加敏感，灵活应对。”TimDillon强调。
从政府的层面来考虑，在四个方面应该有所作为：一要设计一个合理的框架来规范AI行业与市场；二要支持与鼓励AI行业的发展，既要支持大型国际企业，更要培育、支持小型初创企业的成长；三要起到教育大众的作用，让大众对于人工智能有更全面、更深入的认知。
毋庸置疑，人工智能将颠覆许多产业和相关企业的发展方式，在造成一些工作机会的流失时，同样会助力产生许多新的工作类型。“因此，摆在政府面前的一个重要课题是，如何安置好那些因产业变化而下岗或失业的群体，帮助他们培养新技能，助力他们重新上岗；如何更好地培养下一代年轻人，为AI产业的发展储备和输送专业人才。”Tim Dillon从一位政府官员的角度给出了建议。
以先进理论和技术指导AI安全研究
世界级顶尖的AI行业盛会——2017 IJCAI在澳大利亚维多利亚州首府墨尔本举办，是IJCAI以及整个AI行业对于维多利亚州在人工智能领域的实力的认可，强调了维多利亚州作为智慧城市、技术中心的地位，以及亚太地区科学技术和数据安全领域的最重要的中心之一。
本次IJCAI吸引了近2000名人工智能领域的顶尖研究人员和优秀从业者，分享人工智能领域的最新理论、工程和应用成果，涉及包括搜索、机器学习、推理、自然语言处理、机器人、计算可持续性、图像识别等人工智能相关的所有领域，并关注人工智能在安全、环保、医疗、交通、商业等领域的新型应用。同时，针对研究界一直关注的AI自主性这一焦点，大会从技术、哲学、法律、社会等层面探讨AI技术为人类社会带来的好处以及潜在的风险。
会上，新加坡南洋理工大学安波博士在题为《安全和可持续发展中的博弈论分析》的演讲中认为，只要是人的决策通常就有侠带私心的可能，因此，他研究了将博弈论用于优化和分析任何有人参与的交互行为。这一研究包括动态效益的博弈、图及网络安全博弈、不确定信息安全博弈、有外部性特征的安全博弈等，这对于人工智能的安全博弈同样具有重要意义。
美国伦思勒理工大学夏立荣博士的演讲主题是“通过AI改善群体决策”，从“人际合作”和“了解人类”两个方面介绍了改善群体决策的研究，论述了在沟通和理解人类选择倾向上，AI和机器学习是如何起到帮助作用的，以及如何通过社会选择理论方法，支持群体决策。夏立荣认为，防护策略性可以通过高计算复杂度达成，而公平性则可以通过社会选择理论来衡量。
显然，各国政府和AI领域的行业专家们已经关注AI的潜在风险，并着手开始研究相应对策和技术手段，以防患于未然。
但愿，马斯克的“AI或是人类最大风险”这一论断真的是危言耸听，或是杞人忧天。
最后更新：2017-10-08 05:18:47