如今，直播+電商的模式不僅給互聯網產品運營帶來了新思路，也讓直播之火燃燒得更加旺盛。但與之同時，直播產品本身也產生的一系列問題，甚至極大地損害了用戶體驗，比如直播中的色情、廣告、謠言等。
在最近的網易運營開放日上，來自網易云安全(易盾)的產品總監饒曉艷做了有關于短視頻、直播內容安全運營實戰分享。在她看來，互聯網從業人員在產品日常運營中，除了要做到引導核心用戶貢獻優質的內容，同時也要做到處理掉那些低質量甚至是垃圾的內容，整個處理的過程其實是在跟黑灰產團伙做持久攻防斗爭。
互聯網內容建設現狀堪憂，黑產也會“追熱點”
據饒曉艷介紹，制造淫穢色情、詐騙信息、垃圾廣告等有害信息的團伙有一個很明顯的特征：追熱點。哪里有人氣、哪里有流量他們就在哪里扎推，不分晝夜，尤其會選擇夜間這一防守相對薄弱的時間段來發布垃圾惡意信息。
更為可怕的是，內容制造商團伙基本上是通過網上協作的形式進行不良信息發布，他們有的是需求方，有的是接單方，而在接單方中又會細分為自動發帖機提供方、批量賬號提供方、垃圾內容制造方。
以上“高效”的有害信息生產方式，足以讓互聯網產品的用戶體驗大打折扣。據中國互聯網違法和不良信息舉報中心數據顯示，平均每月全國各地網信辦受理網民舉報304.6萬件;淫穢色情、詐騙信息、垃圾廣告等有害信息源源不斷。其中，淫穢色情類有害信息仍較為突出，舉報達121.5萬件，占比67.2%;網絡社交工具的使用過程中碰到的侵權現象，廣告信息多占比最高70.8% 。
面對政策法規、用戶體驗，直播內容安全危機重重
饒曉艷認為，包括直播在內的所有互聯網UGC產品的內容運營風險主要來自于兩方面：一是政策法規，目前很多國家法規里面已經明確了對互聯網產品中相關內容的要求——彈幕必須是要做到先審后發;直播間必須有水印標識;直播內容必須要有二十四小時的審核監管;表演者必須實名注冊等。
二是涉及到用戶體驗，“現在大家實際看到的云音樂評論是特別有故事性，或者經常特別耐看，其實我們每天從云音樂的原創歌單或者評論區刪掉的內容也非常多”，饒曉艷說，“不同的粉絲群經常也會出現掐架或者撕逼的狀態，分分鐘人身攻擊到比較嚴重的程度，這些情況都需要過濾和處理”。
從直播類產品痛點案例來看，目前直播類碰到的內容監管有四個比較明顯的難點：首先是彈幕聊天室的實時審核;然后是色情審核，現在仍然有秀場類的主播通過衣服脫下去再馬上穿上的秒錄行為打“擦邊球”，如果監管不及時，很難抓到;再次是用戶突發通過平臺直播一個群體事件或者不良事件，平臺需要擔責;最后則是成本和技術方面的持續積累和投入負擔過重。
網易云安全(易盾)如何在實戰中解決內容安全問題?
面對專業黑產、政策法規規范、用戶體驗差等風險，饒曉艷解釋說，網易云安全(易盾)在給內部產品或者外部產品提供內容安全服務時，首先會從文本、圖片、視頻和語音等方面入手，來一次全面的檢測;在為做直播類產品提供服務時，網易云安全(易盾)還會從彈幕實時過濾、用戶頭像/昵稱過濾、聊天區文本/圖片過濾、直播間電視墻監控等方面來做內容安全解決方案。
“現在法規要求實名認證，我們的聯動行為式驗證碼和聯動身份認證都是在發垃圾之前提高相應的門檻，然后擋掉一部分的垃圾用戶”，饒曉艷說，“直播中掛機或者黑屏的行為，我們也會去做檢測”。
據介紹，在外部客戶口碑中，網易云安全(易盾)得到了全聚星、一起秀等負責人的高度評價。一起秀CTO黃景素就曾表示：“隨著一起秀產品的不斷發展，用戶量急劇上升，彈幕區留言區的參與活躍度都非常高，運營審核人員已不堪重負，網易易盾幫助我們解決了燃眉之急，切實幫助我們有效過濾了不良信息，減少了運營風險”。
饒曉燕總結說，做內容安全必須注意以下重要環節——注冊、登錄、帳號各個環節做預先的處理;做一些相應地法律法規學習;重點關注的產品熱門板塊等。網易云安全(易盾)團隊在內部做了將近二十年的內容安全工作，內容的審核方式也正在從人工到人工智能的演進，在未來，網易云安全(易盾)希望能為廣大政企客戶、開發者們提供更為完善高效的內容安全解決方案。
微信掃一掃
