320
機器人
人工智能水軍來襲 網絡馬甲可能要下崗
近期一則“人工智能已經學會自動編寫虛假點評”的消息廣為流傳。“我喜歡這個地方。我跟我哥一起去的，我們點了素食意大利麵，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大”。這些看起來如假包換的評論如果以為是消費者評論的，那你就大錯特錯了。殊不知，這些評論都是AI操刀的點評，這種以假亂真的程度真是讓人咂舌。
消息源於趙燕斌等發表的一篇題為《在線點評係統中的自動眾包攻擊和防禦》的論文。在研究中，趙燕斌團隊發現，人工智能可以被用來生成複雜的點評信息。這些虛假的點評不僅機器無法檢測出來，就連人類讀者也分辨不出來。
趙燕斌接受了第一財經記者的采訪。他的實驗室一直在從事和網絡安全相關的課題。最新的研究曆時一年左右，是過去研究的延伸。“人工智能的技術很先進，好處也顯而易見，但是我們的目的是提前預測出人工智能對於社會潛在的威脅，因此當這些威脅真正來臨的時候，人們不會猝不及防。”趙燕斌對第一財經記者表示。
他進一步解釋道，在獲得了美國的“大眾點評網”Yelp的公開用戶評論數據後，團隊就開始做實驗。具體而言，是從亞馬遜上雇了600位用戶，讓他們對真人和人工智能編寫的點評進行辨別。
“結果是幾乎沒有人看得出來哪些是機器撰寫的點評。”趙燕斌對第一財經記者說道，“更讓我們吃驚的是，用戶不僅分辨不出真假，而且還覺得機器撰寫的這些點評對他們很有幫助。”
他表示：“目前這種技術仍較新，還無法做到十分精準。比如已經在微博或者Twitter上出現的有些基於簡單模板產生的評論。”
人工智能相比人類水軍優勢明顯
趙燕斌認為，雖然他們無從得知是否已經有一些公司試圖大規模利用人工智能的編程軟件撰寫虛假評論，但是這無疑會成為不法分子未來的一個“必要選項”，因為人工智能相比人類水軍的優勢非常明顯。
首先，人類“水軍”發送虛假評論的時間控製不了，因為“水軍”一見了工作都上去搶，所以很容易在被攻擊的網頁上發現異常，而人工智能發送消息的時間是可以控製的。其次，雇傭人類“水軍”撰寫評論的成本在增長，而人工智能可以反複頻繁地被使用。
“社交網站已經開始利用人工智能技術發布一些虛假的消息或評論。”人工智能初創公司WorkFusion創始人、CEO揚格列維奇（MaxYankelevich）告訴第一財經記者，“這些消息隻有通過人工智能的手段才能加以製止。這不僅僅需要政府的努力，更需要科技公司和整個社會的努力。”
人工智能能夠識別“機器水軍”
好消息是，人工智能有可能識別出機器中的“水軍”。趙燕斌團隊研究發現，用計算機去分析字符的分布等特征，他們就會發現真假點評之間存在著細微的差異。
假點評是從真實點評裏學出來的，在這個過程中，難免會有信息流失。假點評注重的是流暢、可信，但像字符分布這種平時沒人關注的特征，就做得不那麼好了。
當然，攻擊者也可以騙過檢測。換好一點的硬件，做更複雜一點的神經網絡就行。但這種檢測至少提高了攻擊的門檻，為攻擊者設置了障礙。趙燕斌對第一財經記者表示：“這就是一種勝利，所有的安全工作都是這樣，提高攻擊的門檻。”
不過，趙燕斌強調，雖然越來越多的研究致力於防禦“假新聞”，但是並不是一切問題都能夠用技術的手段來解決的。“我們需要更多地和社會學科學家以及心理學家合作，尋求共同的解決方案。”趙燕斌告訴第一財經記者。
水軍橫行的互聯網可信度還剩多少
試想一下，如何像我們平常使用的網站，淘寶、京東、美團、餓了麼等等本來就是靠用戶的點評作為參照的，一點上麵的點評都是虛假的，那麼你還會相信這些網站的真實性嗎？
所以，隨著人工智能的不斷發展，一旦AI水軍盛興，勢必會給整個互聯網帶來巨大的衝擊，致使網絡的可信度會大打折扣，這時我們就需要有正確的防範措施防止AI水軍。
最後更新：2017-10-07 23:49:57