251
技術再好，能阻止暴力視頻的瘋傳嗎？
防止暴力視頻傳播的關鍵是什麼？
在複活節的禮拜日，一名男子在俄亥俄州克裏夫蘭的一條街道上隨機選擇槍殺了74歲的Robert Godwin Sr，並把視頻放在社交媒體上。在錄像中，Godwin被要求說出殺手的前女友的名字，並對著鏡頭說她就是他死的原因。
可悲的是，使用社交視頻表達惡意的例子不止於此。視頻應用的易用性已經降低了權限標準，我們看過伊斯蘭國家砍頭、強奸、自殺的視頻，甚至還看到過凶手遠程恐嚇一個與他結束關係的女人。
可以預見的是，這一事件引發了民眾對 Facebook的批評浪潮。在阻止這類視頻方麵該公司應該承擔什麼責任？人們很容易會歸咎到播放視頻的平台的技術手段，但是這不僅是對技術能力的過分天真，而且也忽略了誰該擔責的不安事實。
可以肯定的是，Facebook 已經不再光芒四射了。這部視頻引起關注的初始原始是其謀殺的“內容”。據報道至少兩個小時後視頻才被刪除。該公司從視頻上獲得豐厚利潤，而不采取任何審查畫麵的相關措施（它不受傳統廣播相同的限製），這一行為非常不妥。
新興的研究可謂雪上加霜，其表明這樣的畫麵可能會導致更多的謀殺。亞利桑那州國家大學的Sherry Towers說：“謀殺會傳染，這一點也不會讓我感到驚訝。”他發現了可怕的行為傳播的廣泛程度和模仿暴力的可能性之間存在著某種關係。“那些精神不正常的人可能會認為這（那）是他們想做的事情。”
AI 審查
Facebook 的大多數解決方案都是技術性的。例如，人們點擊發布信息會有3秒延遲以避免意外。或選擇更好的算法可以在共享之前標記和移除內容。
毫無疑問，這是有幫助的。Rand 公司研究 ISIS 宣傳視頻如何在網上傳播的行為科學家 Todd Helmus說，暴力影像傳到網上後，如果迅速撤除將有助防止其流行趨勢。例如，Helmus說，在2014年和2015年平台開始刪除ISIS宣傳暴力源用戶，期間Twitter上支持ISIS的人數急劇下降。
監管Facebook上18.6億用戶的廣泛暴力內容是困難的，這導致了AI 的介入以及民眾對問題視頻進入網絡前審查的唿籲。Helmus說：“你可以開發機器學習能力來檢測視頻和圖像的單詞或短語，例如ISIS旗幟，然後將它們清除。”
撇開現在的事實，要求AI監督Facebook的暴力視頻等價於要一個魔法咒語，我們真的希望所有的暴力視頻都事先被一個算法剔除嗎？他說：“一些暴力的視頻不應該被移除。”去年，Diamond Reynolds上傳了一個她的男友Philando Castile在他的車裏找身份證時被警察擊中身亡的視頻。該視頻引發了抗議並可能有助於對警務人員的定罪。在目擊警察暴力或例如提供化學戰爭影響的證詞的案例中，視頻是引起重視和獲得權力負責人支持的關鍵。Philando Castile的視頻播出之後Mark Zuckerberg宣稱“我們本周看到的影像生動而令人心碎，他們點燃了我們的社區數百萬成員心中的恐懼。”
旁觀者效應
誰能判斷暴力視頻的去留呢？目前AI肯定沒有能力做出精細的區分； Facebook 的審查仍然無法區分哺乳的母親、在家分娩和色情，或標誌性的戰爭攝影和兒童剝削的照片。與解讀照片意圖相比這項任務比較容易——甚至對於人類監管者來說，也會感到糾結。
未來，無論算法多麼強大，審查的問題可能更多地依賴於人性而不是技術。Towers說：“媒體關於大屠殺或類似謀殺案的報道之所以如此受歡迎，是因為公眾渴望了解它。尤其是當他們在 Facebook上瘋傳，這意味著人們正在積極分享它。我們為什麼要這樣做呢？”
甚至在Facebook刪除視頻後，視頻在其他平台上也在流傳。在其中一個帖子中，視頻有160萬瀏覽量。Towers說：“我們是被這種現象所吸引了。”
Facebook說，延遲刪除這些鏡頭是因為當第一個用戶報告內容有問題事就已經過了很久，這可能會再次暗示我們——旁觀者效應是眾所周知的，它會降低我們幹預緊急情況的動力。我們觀看這種圖像的欲望掩蓋了我們做正確的事情並報告它的本能。
這可能會給 Facebook 應該如何應對問題提供一個線索。最終，Facebook 需要對網站上的內容負責，並通過雇傭更多的員工承擔監管的角色，而不是把問題推給名義上的AI或監管彼此內容的無報酬的誌願者身上。說Facebook 隻是問題的一部分並沒有讓該公司擺脫困境。我們也要承擔一些傳播內容的責任，而且沒有應用程序可以解決這一問題。
原文發布時間為：2017-5-5
本文來自雲棲社區合作夥伴“大數據文摘”，了解相關信息可以關注“BigDataDigest”微信公眾號
最後更新：2017-05-16 17:31:09