內(nèi)容安全首家!金山云金睛即日開(kāi)放底層機(jī)器學(xué)習(xí)標(biāo)簽
2019-04-17 16:25:27
來(lái)源: 眾視媒體 熱度:
利用AI進(jìn)行內(nèi)容審核,已成為當(dāng)前短視頻、直播等互聯(lián)網(wǎng)平臺(tái)內(nèi)容風(fēng)控的首選。AI重新定義了內(nèi)容安全服務(wù)的生產(chǎn)力,在算法模型、服務(wù)方式上也在不斷“進(jìn)化”。為更好的契合內(nèi)容方平臺(tái)的審核策略,近日,國(guó)內(nèi)領(lǐng)先的一站式AI內(nèi)容服務(wù)平臺(tái)金山云金睛在業(yè)內(nèi)首度向內(nèi)容方開(kāi)放了其底層學(xué)習(xí)標(biāo)簽體系。
“AI+人工”是當(dāng)前主流的審核方式,AI提升了審核效率,人機(jī)協(xié)同策略提供了雙重保障。隨著平臺(tái)規(guī)模不斷擴(kuò)大,違規(guī)內(nèi)容越加復(fù)雜多元,如何實(shí)現(xiàn)“效率+1”,就對(duì)人機(jī)協(xié)同提出了更高的要求。“金睛”開(kāi)放底層機(jī)器學(xué)習(xí)標(biāo)簽,就是為了進(jìn)一步將機(jī)器識(shí)別結(jié)果從涉黃、涉恐、敏感內(nèi)容等寬泛標(biāo)簽,開(kāi)放到男性露背、涉旗涉徽、大型武器、特殊著裝等更加細(xì)分的標(biāo)簽,實(shí)現(xiàn)了“機(jī)審”和“人審”的無(wú)縫銜接。
“pass”或者“reject”是AI傳遞的一個(gè)果斷的答案,但不一定是會(huì)被審核員完全采信的結(jié)論。要讓信息接收方做出正確的選擇,給出明確的判定理由就變得尤為重要,底層機(jī)器學(xué)習(xí)標(biāo)簽就是發(fā)揮了這樣一個(gè)“闡釋”的作用。“金睛”在對(duì)內(nèi)容做出“拒絕”、“疑似”或者“通過(guò)”的判定基礎(chǔ)上,會(huì)同步輸出底層機(jī)器學(xué)習(xí)標(biāo)簽內(nèi)容,讓審核員清楚的知道AI為什么拒絕、通過(guò),疑似的又是什么。例如,在“金睛”暴恐違規(guī)審核模型下,AI識(shí)別出極端組織場(chǎng)景,除了會(huì)輸出“拒絕”指令,并會(huì)明確告知拒絕理由是因?yàn)閮?nèi)容中所涵蓋了基地組織標(biāo)志或者其他極端組織深度學(xué)習(xí)標(biāo)簽內(nèi)容,為人工復(fù)審提供信息判定支撐。目前,金山云深度學(xué)習(xí)標(biāo)簽涵蓋涉黃、涉恐、涉政、違規(guī)違法、游戲場(chǎng)景、直播場(chǎng)景等十幾個(gè)場(chǎng)景的幾百大類(lèi)的上千標(biāo)簽,后續(xù)將會(huì)逐步開(kāi)放。
此次,“金睛”開(kāi)放底層機(jī)器學(xué)習(xí)標(biāo)簽,進(jìn)一步優(yōu)化平臺(tái)服務(wù),是產(chǎn)品團(tuán)隊(duì)多次深入到B站、映客等國(guó)內(nèi)一線短視頻、直播審核團(tuán)隊(duì),充分調(diào)研的結(jié)果。公開(kāi)機(jī)器學(xué)習(xí)標(biāo)簽一方面極大提升平臺(tái)方人工復(fù)審的效率,節(jié)約了運(yùn)營(yíng)成本,為客戶根據(jù)自身的運(yùn)營(yíng)策略作出及時(shí)有效的判斷提供了便利。另外,根據(jù)機(jī)器輸出的結(jié)論,可以定向的對(duì)于特定模型進(jìn)行調(diào)優(yōu),實(shí)現(xiàn)一個(gè)良性循環(huán)。通過(guò)此舉,不斷增加“金睛”與審核員之間、“金睛”與開(kāi)發(fā)者之間的人機(jī)協(xié)同性,讓AI更好的參與到“互聯(lián)網(wǎng)內(nèi)容傳播”這件“人”的活動(dòng)中去。


責(zé)任編輯:吳昊