【我們為什麼挑選這篇文章】在人口多達 15 億的 Facebook 大平台，幾乎是一個小型的社會，必定會出現許多超出常理的行為。直播謀殺，便是其中之一，聽起來實在是很可怕啊 ……。目前連 Facebook 都無法有效地控管內容，人工審核的方式太慢太費時，AI 能做的有限，直播謀殺必定會引發喧然大波，就看 Facebook 要怎麼應對了（責任編輯：陳君毅）
直播的一大障礙，就是無法及時掩藏人性的惡。
4 月 16 日，在美國克利夫蘭市街頭，一名男子開著車似乎在尋找著什麼，一邊還自言自語：「找個人，我要殺人，就那個人，那個老人。」，隨後他拿著槍下車走向那位老人，要求他說出一個女性的名字，老人表示不知道，槍聲響起，老人倒下。
這不是某一個電影或者電視劇的劇情，而是 4 月 17 日通過 Facebook Live 直播的真實謀殺事件。
直播的主角，也就是作案男子名叫 Steve Stephens，是一名 47 歲的非裔男子，目前正在被克利夫蘭市的警方通緝。社交網站為凶手變態的殺人炫耀心理提供了天然溫床，Stephens 在 Facebook 上記錄了這個變態殺人狂的發展路線，還發文講述自己的「復活節大屠殺」，一間棄屋和 15 具屍體。
直播中被害的老人是 78 歲的 Robert Goodwin Sr，並非仇人，而是被 Stephens 隨機指定的。
Facebook 在事後封禁了事件相關的視頻，並發表聲明說：「這是一個可怕的罪行，我們不允許 Facebook 上的這種內容。 我們努力在 Facebook 上保持安全的環境，並在緊急情況下與執法人員保持聯繫。」
但這個視頻下架的過程耗時近三個小時。這三個小時，視頻一邊被譴責一邊被轉發著就火了起來，也傳播到了網絡上的各個地方，恐怖氛圍醞釀的很到位。這即不是 Facebook 第一次成為暴力恐怖事件的溫床，也不是第一次暴力視頻沒有及時得到處理。
- 2016 年 6 月 13 日，一名自稱效忠「伊斯蘭國」極端組織的法國籍男子拉羅西·阿巴在巴黎附近持刀殺害了兩名警察，並且對殘忍殺害過程進行了直播。
- 2016 年 7 月，美國人 Antonio Perkins 遭到了芝加哥警方的槍殺在 Facebook 上直播。
- 據《華爾街日報》統計，目前在 Facebook Live 上的自殺、謀殺類的暴力直播已經達到 50 起。堪比一個視頻網站的恐怖頻道。
每次事故發生後 Facebook 都會自己檢討並表示杜絕此類視頻的再次傳播，但是在這個用戶數量超過 15 億的社交平台，審查員審查的速度還是遠沒有跟上事故發生的速度。
Facebook 最初的審查機制主要依靠用戶之間互相舉報，層層向上打報告。用戶舉報不宜內容，然後工作人員再逐個對內容進行檢查，重要程度高的再往上交給高管決定，確定違反規定的再進行下架刪除。這一套流程完成時間，正好可以滿足一起暴力事件的充分發酵。
這樣的審查通常不夠及時而且還很耗力，僅僅是瀏覽被用戶標記過的視頻就需要數個小時。
隨後 Facebook 開始開發智能監測的軟件，可以對視頻直播中的敏感內容進行監控和識別。這個系統可以對黃色、暴力、以及極端組織發布的畫面進行自動識別和標註。由於大量自殺直播事件的頻頻發生，在今年三月，Facebook 把自殺也加入智能監測的列表。
但是這樣的監測也有一定難度。智能監測系統的開發者說，要對視頻直播內容進行實時監控識別，主要存在兩個技術難題：首先是計算機視覺識別的算法必須足夠快，預計目前 Facebook 的研發能夠達到應用水平。另外系統也必須對違規視頻直播進行優先級決策，讓一些了解政策的專業人士決定是否應該停止某個直播。
從今天的事件看來，這個難度真實存在並且還沒有找到很好的解決辦法，智能監測系統中的漏網之魚仍然很多。
中國的網絡直播平台也在面臨一些相同的問題，雖說大部分的直播系統都自稱是機器+人工的審核方式，但機器只能排除一部分完全沒問題的畫面，大部分的直播視頻還是需要人工判斷。去年 12 月在微博上流傳著這樣一張照片，這是某家直播平台的審核現場，這種場景是不是很熟悉？網吧的網管們面對的屏幕基本都是這個樣的。
審核員會在後台瀏覽所有的直播間畫面，覺得不對勁的畫麵點進去親測，然後通過「忽略」和「處理」的按鈕對直播視頻歸類。映客直播此前還公佈了自己審核員的門檻標準，必須經過嚴格的培訓和考核之後才能正式上崗。
直播的人工審核瓶頸在於事件的實時發生，也就是在你已經抓到非正常事件的時候很大可能事件已經造成了不良的後果。所以審核的意義就更大在於及時的採取後續措施，同時把不良影響擴大控制在最小程度。要求任何形式的審核機制在犯罪發生的正當時立刻檢測到並做出反映，是不現實的。
然而，對於性騷擾、自殺他殺、虐殺貓狗等暴力直播來說，直播時觀眾的反應可能已經刺激了直播者的犯罪心理。
當然，即便沒有直播這個世界上依然每天有無數的暴力事件在發生。只是直播在讓我們貼近彼此的同時，也離那些陰暗面更近了，這可能才是最可怕的地方。
（本文經合作夥伴 pingwest 授權轉載，並同意 TechOrange 編寫導讀與修訂標題，原文標題為：《有人直播了一起謀殺，Facebook花了 3 個小時才刪掉它》；圖片來源：pixabay, CC Licensed。）
——
延伸閱讀
【五月天演唱會線上商機】演唱會辦在台灣，但九千萬流量都被中國直播賺走
中國直播夯到開「直播工廠」，事實是：過半主播月收不到 5000 台幣
美國大學生臥底 iPhone 工廠揭秘一線工人生活現狀 ：差點被逼瘋
前 Facebook 工程師給年輕人的 8 個提醒：有一種瞎忙，叫做自我滿足式的忙碌
