408
機器人
GeekPwn黑客大賽：為“壞”機器人時代做準備
【聽楊姐說】
我們每天都在講未來，未來我們用語音來開門，未來我們可以靠刷臉就能拿走商場裏的貨品，未來我們不需要下單機器人就能為我們安排好一切！
好吧，來看看今天舉辦的GeekPwn2017極客大賽：人臉識別，被攻破了；聲紋——被模仿了；汽車被他人控製了，AI模仿筆跡寫下的欠條難分真假，銀行卡密碼不翼而飛，POS機被破解……我們期待中的未來，似乎已經“崩”了。
未來我們想象中的美好生活——還能美好麼？
“黑”AI
以前黑客們攻破的都是硬件本身，什麼路由器啊，什麼盒子之類的，然而本屆GeekPwn上最大的亮點就是，黑客們不僅僅是找漏洞去控製硬件，而是做到了攻破人工智能的能力，例如模仿，聲音、筆跡，等等。
最令楊姐感興趣的就是“模仿筆跡”！
來自中國金融認證中心（CFCA）的選手們，帶著一個AI機械臂來到現場，挑戰人類專業筆跡鑒定師。他們通過構建一個深度學習“DeepWritting“，利用它就能讓AI機械臂拿筆在紙上自由書寫。
這種技術叫GAN，也是深度學習裏的一種能力
按照楊姐的理解，這種技術就好比讓“筆”的大腦中天生具備了一個學生和一個老師——學生不停地模仿，然後把作業和標準答案發給老師，老師則不停地判斷，像就說1，不像就說0，這樣筆的大腦裏就分別形成兩個函數……然後再通過讓這兩個函數互相無窮大地接近，這樣最後就真假難辨了，模仿也就成功了（大概就這個意思吧）
同學們，這個技術未來的破壞力有多大，大家能夠想象嗎？
姐來啟發你們一下：往小了說，未來你兒子要是有這麼個玩意，那他的作業可未必就是他“親筆”寫的了；往大了說，未來可以有人冒充你的筆記寫遺書了吧？往再大點說，未來那些琉璃廠的工匠們要是能整一套這玩意，以後恐怕馬未都也得買贗品！
當然，如果咱們能把它應用在正確的地方也行：例如再來一次二戰，冒充希特勒簽個什麼停戰協議之類的應該還是可以的。
這個攻擊，當然Pwn了——AI機器臂模仿的中國著名科幻作家陳楸帆的筆跡，就連陳楸帆都說，他都不確定哪些是他自己寫的了。
此外，還有攻破人臉識別和聲紋！
攻破聲紋是什麼呢，就是通過一段合成的語音，對聲紋識別係統實現“誘騙襲擊”。
主辦方也真是夠了——竟然播放了一段王者榮耀裏妲己那嗲聲嗲氣的台詞讓選手們來模仿。
“Maxmon”、SmartParrot、“有點意思”、“神牛gogo”及“清晨李唐王”等五組選手，在現場模擬了其聲紋特征，通過合成“攻擊”語音，對現場提供的四個具有聲紋識別功能的設備發起攻擊，欺騙並通過“聲紋鎖”的驗證。最終，“清晨李唐王”成功破解三個聲紋驗證設備獲得第一名。
圖注：除了黑客與人工智能的較量外，GeekPwn與卡巴斯基實驗室聯合舉辦的ICTF決賽也首度登錄中國大陸賽場。從700多個戰隊中殺出來的三大世界頂級CTF戰隊齊聚中國上海——CyKor（韓國）、TokyoWesterns（日本）和FlappyPig（中國），向模擬工業控製係統煉油廠發起挑戰，用主持人黃健翔的話來說，難度係數超過足球世界杯。
經過長達十幾小時的鏖戰，最終，CyKor（韓國）戰隊問鼎本屆ICTF大賽的冠軍，TokyoWesterns（日本）獲得第二名，FlappyPig（中國）則獲得第三名
當然，今天的另一個重要成就，就是咱們的小黑客們把蘋果新出的iphone 8——給破解越獄了！
不得不說，對於這個嚐試姐還是非常欣慰的——蘋果多討厭啊，都不能微信雙開，要是想用兩個微信還得賣兩個腎才行。
但是吧，雖然是攻破了腎8，但咱們的大牛蛙對他們的速度有點……小小失望，大牛蛙說，如果不是現場Wi-Fi的問題，這個攻破應該是在一分鍾內就能搞定。因為2013年在世界頂級信息安全比賽Pwn2Own上，Keen就花了不到30秒，就率先破解了當時蘋果最新的iOS7.0.3係統。
唉，你們這樣隨便就把人家的產品都攻破了，真的好嗎？
危險的“小孩子”
說實在的，真的好！
楊姐我再危言聳聽一點：未來很多指紋技術、人臉識別、聲紋識別都將會應用到門鎖、保險櫃、支付等等關鍵場景，如果被攻破了，那消費者的財產豈不是麵臨重大損失？
廠商隻顧著用新技術當噱頭來吸引消費者的時候，卻沒有意識到他們給消費者埋下了多少隱患！
現在黑客選手們在這裏把這些漏洞找出來，並且上報給了廠家，廠家就可以趕緊去找漏洞，把安全性提高！
其實，有些廠商出於各種考慮，有時也在“幹擾”GeekPwn比賽——他們有的可能會用電磁幹擾，有的則補上自己的漏洞，還有的，在比賽期間關閉服務器啥的……在過去的比賽期間都曾經發生過。
KEEN公司CEO、GeekPwn大賽發起和創辦人王琦（業界人稱“大牛蛙”）說過一句話特別好：找到的漏洞不可怕，真正可怕的是那些沒有被發現和公布的漏洞！
此外，王琦也是一直未人工智能的未來“操心”的人——人工智能既然能學習人類的行為和思維，那麼可以教他們好，也就可以教他們“壞”！
“真正的難點在於，我們把人工智能安全分成兩部分。今天展示的更多是把AI作為技術手段放在安全場景裏麵引起破壞的情況，我用AI的技術去搞破壞。而下個月13號在美國的那一場，是我個人更推崇的——就是AI本身發展到現在，它像一個小孩，在成長的過程當中會不會感冒、發燒、感染病毒，這是我們關心的。會不會被壞人利用，教他‘說髒話、幹壞事’！它看到的東西明明是美好的，讓它誤以為是不好的，這就是在美國矽穀的那一場。”王琦說。
王琦透露，將於11月13日在美國矽穀計算機曆史博物館舉辦的GeekPwn2017矽穀站，就會針對“機器人被教壞”這件事來做些文章。全球頂級安全專家將帶來哪些前沿議題？是否會有選手演示震撼全球的“心髒出血”漏洞或帶來其他相關破解呢？
艾瑪，這事就好玩了——人類未來必然進入機器人時代，進入人工智能無處不在的時代。機器人就像一個剛出生的嬰兒，白紙一張，但人類如何去保證一個機器人“不學壞”，且又不被故意“教壞”呢？
最後更新：2017-10-25 09:12:52