286
機器人
誒隆·馬斯克：人工智能是對人類文明最根本的威脅
Elon Musk（誒隆·馬斯克）一直認為AI（人工智能）是個威脅，這一點大家都知道，他還把研究AI比喻成從地獄裏召喚魔鬼。Elon Musk不斷地警告說AI會對人類構成威脅，在美國的一次州長大會上他又重申了這個觀點。除此之外，他還提出，政府要現在開始對AI加以管理。
“我已經多次提及AI對人類的威脅，人們真的應該去關心這件事情”，Elon Musk在上周六召開的全美州長協會大會上說道，“我不斷地為人們敲起警鍾，但是好像除非是到了機器人開始上街砍人，而人類不知作何反應的時候，人們才會意識到這個問題。因為在他們看來這不切實際。”
“而解決辦法”，Elon Musk說，就是“加以規範”。“AI是個特殊領域，我們應該積極防控，而不是被動反應。因為到那時候就太晚了。”他又補充說就目前來看，政府僅僅是在一係列不好的事情發生之後才會介入。這對於AI來說是不夠的，因為AI代表的是對人類文明最根本的威脅。
如往常一樣，Elon Musk談論的並不是穀歌、優步、微軟目前正在使用的AI，而是人工的高等智慧AI，它們是一些有自我意識並非常智慧的生命體，就像是我們在科幻電影裏看到的那種，比如這樣嬸滴：
或者這樣嬸滴：
Musk 以及其他的人工智能研究者都認為對前者的研究最終會導向後者。但是現在很多人都不認為它會發生，尤其是在我們這一代不會發生。
研究者們擔心目前狹隘又“不聰明的”的AI被濫用。David Ha在穀歌大腦工作，作為一名研究者，他在推特上回應Musk說，比起高等智慧生命體來說，他更擔心的反而是機器學習被運用來掩飾非法的人類行為。
高層神經網絡API平台的建立者François Chollet說到，AI讓現有的一些危險因素更加危險了，但是它是否會激起新的危險因素，這我們並不清楚。可以論證的是AI引起的最大危險就是它可能會對人類進行種族控製。不過機器學習這個問題不足為患。
使用AI會切實地引起一些直接問題。比如，機器學習創造出的算法現在已被應用於美國的各個方麵，而這些方麵都值得再三考慮，包括審判罪犯在內。研究者們也警告說由於特朗普當局對AI缺乏興趣（其實是對整個科學界都缺乏興趣），這就意味著這個新興領域不會得到應有的仔細審查。鑒於這個方麵，Musk對我們的多次警告對於引起人們的深層思考是非常有幫助的。
最後更新：2017-08-23 08:08:24