527
機器人
你知道“機器人三定律”嗎？
開闊眼界、趣味驅動，培養4-12歲孩子的求知欲
好的教育，不是給他世界觀，而是帶他觀世界
有自主意識的機器人
怎麼才能保證它不傷人
“機器人三定律”由科幻小說家阿西莫夫提出：
第一定律：機器人不得傷害人類個體，或目睹人類個體將遭受危險而袖手不管；
第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外；
第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。
這三大定律十分經典，以至於給後來機器人相關的各種領域都帶來了極大的影響。
艾薩克·阿西莫夫
我覺得這裏麵，最核心的就一點：機器人不能傷害人類。
就目前來看，大家應該都不會擔心這一點，畢竟，還沒出現過機器人傷害人的案例。
也對，在機器人的自我意識出現之前，它的行為都是受程序控製的，肯定不會出問題啦。
真的嗎？
你看看這個——
不方便戳視頻的話，那就看這個動圖。
點擊播放
GIF/1788K
機器人手持凶器（螺絲刀），把一個番茄捅得稀巴爛……
真是下得了狠手啊。
不過這真的不怪它，它隻是一款普通的家用機器人，名叫 Alpha2。
它是美國 UBTECH 的產品，功能是陪孩子玩，給孩子講故事。
那它為何會做出這樣的事兒呢？
嗯……沒錯，這個機器人是被黑客破解了。
視頻一開始你可以看到，工程師利用漏洞給機器人運行了一段代碼。
然後，機器人就開始“殺番茄”了。
其實，被發現漏洞的機器人不僅僅隻有 Alpha2，還有很多其他品牌的產品。
比如軟銀的 NAO 機器人
Pepper 機器人
黑客可以破解它，利用它錄製視頻、音頻，從而達到監視監聽的目的。
最嚇人的是這個——優傲工業機器人
就這個機械臂，完全可以敲死一個成年人了。
當然了，這些問題都不能讓機器人背鍋，講道理它們都是用來服務人類的。
真正壞的是背後那些打著壞心思的人類。
認同這一點的，不僅僅隻有我。這不，前段時間出了個事兒。
包括埃隆·馬斯克在內的，來自26個國家的116名人工智能和機器人領域的專家，發布聯名公開信。
唿籲聯合國禁止“殺手機器人”的擴散。
殺手機器人？
別覺得奇怪，雖然我們沒怎麼見過，但早已成為各國爭相研發的項目。
比如韓國的“哨兵機器人”，差不多就是一台殺手機器人了。
這款機器人可以執行站崗、警告任務，必要時候甚至會直接開火。
還有美軍的“捕食者”無人機，具有偵查、殲滅的能力，基本有了一個殺手機器人的雛形。
盡管上麵這些，和《終結者》裏的 T-X、《X戰警》裏的哨兵還相差甚遠。
但就看目前人工智能的發展速度，以及各類技術的進步。
殺手機器人的出現，問題不在於能不能，而是想不想。
要真想解決這個問題，我覺得還真的得參考馬斯克的思路——監管AI。
我們不是沒有見過可怕的武器：核武器、化學武器……這些武器的殺傷力遠在機器人之上。
可機器人還是讓我們覺得更恐怖，因為，它將會有自主意識。
機器人、AI 一旦覺醒，沒有人再能控製住它們。
唉，科技就是這樣，充滿著未知。
誰也不會知道我們將打開的是新世界的大門，還是潘多拉的魔盒。
隻祈禱人類千萬別作死啊……
一定要看視頻，因為那機器人發出的聲音真讓我毛骨悚然。
關注公眾號“泡爸講知識”
回複“曆史26”，可免費收聽
《讓孩子著迷的中國曆史》泡爸語音版全集26節
回複“語音課”
收聽更多完整優質課程：
讓孩子著迷的語文之美、數學之美
讓孩子著迷的宋詞宋史、唐詩唐史
適合6-99歲的史記故事課
情景故事自然拚讀課
名師啟蒙課：快速了解奧數是什麼
西遊記泡爸改編版（最好聽的西遊記）
找到教育的規律泡爸公開課
以上內容來自微信公眾號“泡爸講知識”
認真、從容、堅定的知識賬號。以大人感興趣、孩子更喜歡的故事型知識，開闊眼界，趣味驅動，培養4到12歲孩子的求知欲，也讓你輕鬆成為知識型家長。
泡爸：出於給泡泡講知識的原因，“不小心”成為作家。已出版《讓孩子著迷的中國曆史》、《讓孩子著迷的中國地理》、《大人孩子都能懂的時間簡史》等十多本知識童書。
最後更新：2017-10-08 00:19:46