619
機器人
在對抗網絡霸淩的戰爭中，人工智能成為Instagram的首選武器
科技行者報道
來源 ：SEEKER
Instagram正麵臨著所有社交媒體網站中都會遇到的問題——網絡霸淩的問題。但是，Instagram並沒有像Facebook和Twitter那樣，讓用戶承擔責任，而是通過使用機器學習來消除平台上言語的攻擊行為。
反霸淩慈善機構Ditch the Label最近進行的一項調查發現，在12至25歲的英國青少年中，有42％的人認為Instagram是讓他們感到最受欺負的平台，而這在Facebook和Twitter上分別僅為37％和9％，遠遠低於Instagram。此外，71％的被調查者認為所有社交媒體在阻止網絡霸淩方麵做得還很不夠。
尋找解決方案
為了解決網絡霸淩問題，Instagram最近宣布了一項新戰略：集成機器學習算法來檢測和阻止其平台上的潛在霸淩行為。該公司的首席執行官兼聯合創始人Kevin Systrom在一篇博文中表示，這項研究的目的是為了在Instagram上建立一個友善、包容的社區。
Instagram正在使用DeepText機器學習算法來嚐試解決網絡霸淩問題。在2016年6月，Facebook的工程師們推出了DeepText，它作為基於深度學習的文本理解引擎，以近乎人類的準確度，每秒可以理解數千個帖子的文本內容，同時還能實現上下文聯想功能。
通過深度學習，DeepText使用了人腦神經網絡建模的算法，像人類大腦一樣工作，通過演繹推理來確定某個單詞在特定語境下的意思。
例如，如果有人使用“mole”這個詞，DeepText則會識別用戶指的是小型哺乳動物、皮膚瑕疵還是叛徒。Facebook使用該係統篩選數千個帖子，更好地理解用戶，旨在創造一個更好、個性化的用戶體驗，來滿足個人興趣。
後來，2016年10月，Instagram又通過DeepText來消除垃圾郵件。該算法針對尋找企圖出售產品的組織，分析暗示數據是否為垃圾郵件。
DeepText的成功讓Instagram也在考慮該係統的其他用途。在2017年6月的博客文章中，Systrom宣布該公司將使用DeepText作為“阻止某些令人反感評論的過濾器”。該平台使用最初由Facebook創建的技術來創建一個過濾器，為用戶建立一個安全的環境。
其他社交網站
網絡霸淩並不是Instagram獨有的問題——其他主流的社交媒體網絡也在為其用戶做出安全方麵的改變。
康奈爾大學的研究生John Davidson也是很多關於社交媒體中網絡霸淩論文的合著者，他在談到Twitter時表示，“機器學習算法已被證明是檢測不良言論和網絡霸淩的有效方法。”Davidson表示，諸如“邏輯回歸模型、N Bayes、隨機森林、支持向量機”等各種不同的算法都被證實是有效的。但是，他表示所有這些方法的關鍵都是依賴監督學習，這是一種使用標簽訓練數據進行推理的機器學習策略。Davidson表示， 他的研究涉及收集數百萬個具有潛在可能的網絡霸淩（種族誹謗等等）推文，並為它們打上標簽，然後將這些數據提供給算法。
Davidson補充表示，這些例子用於訓練算法，之後它應該能夠自己區分出不良的言論。
Twitter在2016年11月發布博客文章，發布了通知靜音功能以及仇恨行為策略，為用戶提供更直接的方法來阻止濫用媒體的行為。雖然這些努力正在試圖阻止網絡霸淩，但是屏蔽攻擊性的通知並不會使推文不存在。
Facebook試圖通過建立Bullying Prevention Hub（霸淩預防中心）來減少網絡霸淩事件。當青少年、家長和教育工作者自身或者他們認識的某個人遭到霸淩時，這個中心就是他們可以使用的資源。雖然為開啟網絡霸淩對話提供了寶貴的建議，但Facebook的欺淩預防中心並沒有直接采取任何行動來正麵消除攻擊的內容。該公司隻用該工具根據用戶的興趣向用戶推薦內容。
DeepText的優缺點
盡管如此，這些努力還遠不能夠完全阻止網絡霸淩。
謝菲爾德大學的博士生Zeerak Waseem專注於辱罵語言檢測和Twitter上的仇恨言論，他表示，“這些嚐試沒有效果”。
為什麼？雖然Twitter和Facebook在抑製網絡霸淩方麵都取得了長足進展，但Instagram是第一個使攻擊性評論自動消失的社交網站。Systrom的博文和Wired都解釋了人工智能目前在Instagram帳戶上的運行情況。如果用戶發布令人反感或騷擾的語言，DeepText會捕獲並立即刪除它。Wired報道說，為了防止霸淩者試圖戲弄該係統，攻擊性的言論仍然可以被犯罪者看到。用戶還可以手動輸入要阻止的單詞或短語，通過阻止每個用戶設定的獨特的觸發詞，使DeepText更加有效。
然而，DeepText並不完美。
Instagram的機器學習算法自動集成在平台上，但一些不良言論仍然可以繞過該工具。 Waseem說，隱含的侮辱，如昵稱或誹謗的代號會讓DeepText難以發現。而且，該功能可以輕鬆關閉。隻要用手指點擊“隱藏攻擊評論”就可以切換關閉狀態，如果它的任務是消除網絡霸淩，這似乎是違反直覺的。言論自由與創造一個擺脫仇恨言論的環境之間的界線是不容易找到的。
Davidson補充表示，“機器學習不是一個能夠阻止網絡霸淩或網絡不良言論的萬能藥。”機器學習可以幫助被欺負的用戶體驗更好，但沒有技術會阻止個人說壞話。
Ditch the Label的首席執行官Liam Hackett認為，Instagram平台上年輕用戶眾多，網絡霸淩的問題也最為嚴重。侮辱形形色色，從對照片的負麵評論到霸淩者創造假帳戶來攻擊目標人群都有。
Hackett讚揚了Instagram的努力，並且認為機器學習策略是多麼明智，社交網絡應該更多地投資於這項技術。他提到Instagram如何使用人工智能在反網絡霸淩的運動中取得了很大的進步，人工智能真的在改變遊戲。
並且，除了防止霸淩，DeepText還有其他功能可以幫助企業深入了解客戶的興趣。
問題的根源
機器學習在情感層麵上邁出了正確的一步。然而，解決不良網民為什麼會在這些平台上持續不斷進行言論攻擊是一個更大的問題。
Hackett表示，“互聯網使人類變得不那麼人性化”，舒舒服服地躲在屏幕後麵侮辱其他用戶比在麵對麵的時候說出這些侮辱性的言辭要容易得多。線下的人際關係具有隱含的行為準則——這是一種不言而喻的社會規範。在互聯網上卻並不總是遵循同樣的準則。
作為今年最受歡迎的社交媒體網絡之一，Instagram擁有7億的活躍用戶，並且用戶數還在快速增長，在四個月的時間內即可獲得1億新用戶。然而，用戶數量的增加也同時帶來了傷害性內容和冒犯性語言的增加。
Hackett指出，程序本身可能不是教導人們在網上相互尊重的完全解決方案。
最後更新：2017-08-25 20:29:44