23条索命铁规，人工智能若触发一条，自毁功能立即起效，无人能关闭

人类和人工智能机器人最大的区别是什么呢？很多人第一反应可能是想到：机器人各方面能力很强，特别是机器人的大脑比人脑要强大得多，可以储备大量的知识并加以运用。或者还会想到：机器人没有感情，而人类有七情六欲。然而，真相真的如此片面吗？

其实，机器人和人类最根本的区别是：机器人是人类制造出来的，说难听点机器人就是人类的附属品，是人类的奴隶。所以，机器人不能违背人类的意愿，做出危害人类生命的事情。

理论上，只要是有自主意识的生物都不愿意成为其他动物的工具，比如动物园里的动物内心并不愿意被囚禁，只要能够反抗就会反抗。那么，拥有高级智能的仿生学机器人是否也会反抗人类的统治呢？

科学家们在发展人工智能的时候也考虑到了这一个问题。他们认为，为了人类的安全，机器人也应该有机器的法律。于是，全球科学家签署了关于人工智能发展的23条原则。致力于建设出一个能够被人类控制的人工智能系统，从而保证人类文明的安全。

这份文件一般称为《阿西洛马AI原则》，一共23条人工智能发展与管理原则。在这23条原则中存在着两个最具风险的问题。

根据人工智能机器人(以下简称为 AI )的发展与管理原则，我们可以总结出：AI在任何情况下都要以保护人类不受伤害作为第一要务。也就是说，AI一定不能伤害人类，还要竭尽所能保护人类的生命安全。我们要面对的问题是，人类如何保证AI一定会遵守这个原则？

还有一个问题，倘若AI违背了三大原则，控制人类制造的武器反过来与人类为敌。那么，人类该如何应付在各方面都比人类厉害的AI呢？

很显然，这是一场搭上全人类命运的豪赌。赢，就赢得了人类文明的辉煌未来；输，就输掉了人类文明的所有，甚至是全人类的生命。

但是我们又不得不赌，因为这是人类文明发展的必然趋势，是人类文明升级为宇宙文明的必经之路，所以我们只能去顺从这种趋势，并在这种趋势中力争上游，努力取得最终的成功。

最后更新：2017-08-26 00:00:35