527
机器人
你知道“机器人三定律”吗？
开阔眼界、趣味驱动，培养4-12岁孩子的求知欲
好的教育，不是给他世界观，而是带他观世界
有自主意识的机器人
怎么才能保证它不伤人
“机器人三定律”由科幻小说家阿西莫夫提出：
第一定律：机器人不得伤害人类个体，或目睹人类个体将遭受危险而袖手不管；
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
这三大定律十分经典，以至于给后来机器人相关的各种领域都带来了极大的影响。
艾萨克·阿西莫夫
我觉得这里面，最核心的就一点：机器人不能伤害人类。
就目前来看，大家应该都不会担心这一点，毕竟，还没出现过机器人伤害人的案例。
也对，在机器人的自我意识出现之前，它的行为都是受程序控制的，肯定不会出问题啦。
真的吗？
你看看这个——
不方便戳视频的话，那就看这个动图。
点击播放
GIF/1788K
机器人手持凶器（螺丝刀），把一个番茄捅得稀巴烂……
真是下得了狠手啊。
不过这真的不怪它，它只是一款普通的家用机器人，名叫 Alpha2。
它是美国 UBTECH 的产品，功能是陪孩子玩，给孩子讲故事。
那它为何会做出这样的事儿呢？
嗯……没错，这个机器人是被黑客破解了。
视频一开始你可以看到，工程师利用漏洞给机器人运行了一段代码。
然后，机器人就开始“杀番茄”了。
其实，被发现漏洞的机器人不仅仅只有 Alpha2，还有很多其他品牌的产品。
比如软银的 NAO 机器人
Pepper 机器人
黑客可以破解它，利用它录制视频、音频，从而达到监视监听的目的。
最吓人的是这个——优傲工业机器人
就这个机械臂，完全可以敲死一个成年人了。
当然了，这些问题都不能让机器人背锅，讲道理它们都是用来服务人类的。
真正坏的是背后那些打着坏心思的人类。
认同这一点的，不仅仅只有我。这不，前段时间出了个事儿。
包括埃隆·马斯克在内的，来自26个国家的116名人工智能和机器人领域的专家，发布联名公开信。
呼吁联合国禁止“杀手机器人”的扩散。
杀手机器人？
别觉得奇怪，虽然我们没怎么见过，但早已成为各国争相研发的项目。
比如韩国的“哨兵机器人”，差不多就是一台杀手机器人了。
这款机器人可以执行站岗、警告任务，必要时候甚至会直接开火。
还有美军的“捕食者”无人机，具有侦查、歼灭的能力，基本有了一个杀手机器人的雏形。
尽管上面这些，和《终结者》里的 T-X、《X战警》里的哨兵还相差甚远。
但就看目前人工智能的发展速度，以及各类技术的进步。
杀手机器人的出现，问题不在于能不能，而是想不想。
要真想解决这个问题，我觉得还真的得参考马斯克的思路——监管AI。
我们不是没有见过可怕的武器：核武器、化学武器……这些武器的杀伤力远在机器人之上。
可机器人还是让我们觉得更恐怖，因为，它将会有自主意识。
机器人、AI 一旦觉醒，没有人再能控制住它们。
唉，科技就是这样，充满着未知。
谁也不会知道我们将打开的是新世界的大门，还是潘多拉的魔盒。
只祈祷人类千万别作死啊……
一定要看视频，因为那机器人发出的声音真让我毛骨悚然。
关注公众号“泡爸讲知识”
回复“历史26”，可免费收听
《让孩子着迷的中国历史》泡爸语音版全集26节
回复“语音课”
收听更多完整优质课程：
让孩子着迷的语文之美、数学之美
让孩子着迷的宋词宋史、唐诗唐史
适合6-99岁的史记故事课
情景故事自然拼读课
名师启蒙课：快速了解奥数是什么
西游记泡爸改编版（最好听的西游记）
找到教育的规律泡爸公开课
以上内容来自微信公众号“泡爸讲知识”
认真、从容、坚定的知识账号。以大人感兴趣、孩子更喜欢的故事型知识，开阔眼界，趣味驱动，培养4到12岁孩子的求知欲，也让你轻松成为知识型家长。
泡爸：出于给泡泡讲知识的原因，“不小心”成为作家。已出版《让孩子着迷的中国历史》、《让孩子着迷的中国地理》、《大人孩子都能懂的时间简史》等十多本知识童书。
最后更新：2017-10-08 00:19:46