網(wǎng)絡(luò)直播被文化部查處，機(jī)器識(shí)別助力企業(yè)遠(yuǎn)離“黑名單”

?

??? 文化部于4月14日公布19家網(wǎng)絡(luò)直播平臺(tái)因涉嫌提供含有宣揚(yáng)淫穢、暴力、教唆犯罪等不良內(nèi)容的互聯(lián)網(wǎng)文化產(chǎn)品，被列入查處名單。?

作為新型的社交互動(dòng)平臺(tái)，網(wǎng)絡(luò)直播與傳統(tǒng)的視頻網(wǎng)站不同，當(dāng)用戶上傳內(nèi)容后，傳統(tǒng)的視頻網(wǎng)站會(huì)進(jìn)行審核，符合標(biāo)準(zhǔn)后才可上傳成功，而網(wǎng)絡(luò)直播都是實(shí)時(shí)播出的，如果有人在網(wǎng)上傳播不良信息或者發(fā)布違規(guī)內(nèi)容，即使被查處，也是播出之后的事情。

雖然，大多數(shù)直播企業(yè)會(huì)選擇人工審核的方式對(duì)直播內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)管，但是在過(guò)去的一年多里，“直播造人門”、“直播脫衣門”等事件仍然頻繁發(fā)生。某直播平臺(tái)負(fù)責(zé)人曾表示，視頻直播從技術(shù)不需要“上傳”這個(gè)步驟，當(dāng)手機(jī)按下攝影功能鍵，云端會(huì)同步抓取、同步存儲(chǔ)、同步傳遞，“延遲不會(huì)超過(guò)2秒”。在這個(gè)過(guò)程中，平臺(tái)面臨的困惑是“無(wú)法掌控直播下一秒會(huì)發(fā)生什么”，所以只能依靠人力進(jìn)行24小時(shí)輪班審核，但是人工審核存在的問(wèn)題較多，直播內(nèi)容監(jiān)管風(fēng)險(xiǎn)依舊存在。

?

第一：網(wǎng)絡(luò)直播規(guī)模龐大，人工審核成本高

2015年直播平臺(tái)接近200家，用戶數(shù)量已經(jīng)達(dá)到2億，大型直播平臺(tái)每日高峰時(shí)間會(huì)有3000－4000千個(gè)直播“房間”同時(shí)在線，用戶數(shù)可達(dá)兩三百萬(wàn)人次，如果全部用人工對(duì)4000路視頻同時(shí)進(jìn)行審核，為了保證“無(wú)漏網(wǎng)之魚(yú)”，至少需要上百人同時(shí)工作，并且每位工作人員需要配備1-2臺(tái)監(jiān)控設(shè)備。其實(shí)直播視頻內(nèi)容的違規(guī)比例占比不高，僅0.04%，甚至更低，但為了做到“無(wú)漏網(wǎng)之魚(yú)”，企業(yè)需要投入大量的人力、物力和財(cái)力進(jìn)行監(jiān)管，運(yùn)營(yíng)成本壓力增加。

第二：直播流量聚焦夜晚，人工審核效率低

網(wǎng)絡(luò)直播白天跟晚上的“房間數(shù)”不同，目前，白天直播流量峰值是數(shù)百路視頻，晚上可以飆升到數(shù)千路。但“三班倒”的審核人員，夜晚疲勞，人眼識(shí)別精確度降低，出現(xiàn)誤判漏判的概率上漲，審核效率降低，難以達(dá)到網(wǎng)絡(luò)直播的內(nèi)容監(jiān)管需求。

?

因此，網(wǎng)絡(luò)直播行業(yè)的內(nèi)容監(jiān)管不能只依賴人工，可以采用機(jī)器識(shí)別結(jié)合人工審核的新型審核模式。

目前，我國(guó)能夠?yàn)榫W(wǎng)絡(luò)直播企業(yè)的違規(guī)內(nèi)容過(guò)濾提供這種模式的主要有圖普科技的“智能審核機(jī)器人”，阿里的“阿里綠網(wǎng)”、騰訊的“萬(wàn)象優(yōu)圖”等。那機(jī)器識(shí)別原理的圖像識(shí)別技術(shù)是如何像人腦一樣認(rèn)識(shí)、學(xué)習(xí)圖像特征的呢？圖普科技的負(fù)責(zé)人李明強(qiáng)表示，其核心是深度學(xué)習(xí)理論(Deep Learning)。深度學(xué)習(xí)就是人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,以下簡(jiǎn)稱 ANN)。要了解 ANN,讓我們先來(lái)看看人類的大腦是如何工作的。

人腦的視覺(jué)處理系統(tǒng) (圖片來(lái)源:Simon Thorpe)

上圖表示,人理解外界視覺(jué)信息的過(guò)程。從視網(wǎng)膜(Retina)出發(fā),經(jīng)過(guò)低級(jí)的 V1 區(qū)提取邊 緣特征,到V2 區(qū)的基本形狀或目標(biāo)的局部,再到高層的整個(gè)目標(biāo)(如判定為一張人臉),以及到更高層的 PFC(前額葉皮層)進(jìn)行分類判斷等。也就是說(shuō)高層的特征是低層特征的組合, 從低層到高層的特征表達(dá)越來(lái)越抽象和概念化,也即越來(lái)越能表現(xiàn)語(yǔ)義或者意圖。

深度學(xué)習(xí),恰恰就是通過(guò)組合低層特征形成更加抽象的高層特征(或?qū)傩灶悇e)。然后在這 些低層次表達(dá)的基礎(chǔ)上,通過(guò)線性或者非線性組合,來(lái)獲得一個(gè)高層次的表達(dá)。此外,不僅圖像存在這個(gè)規(guī)律,聲音也是類似的。

?

現(xiàn)在來(lái)看深度學(xué)習(xí)的簡(jiǎn)易模型。

傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)與深度神經(jīng)網(wǎng)絡(luò)

深度學(xué)習(xí)的一個(gè)主要優(yōu)勢(shì)在于可以利用海量訓(xùn)練數(shù)據(jù)(即大數(shù)據(jù)),在學(xué)習(xí)的過(guò)程中不斷提 高識(shí)別精度,但是仍然對(duì)計(jì)算量有很高的要求。而近年來(lái),得益于計(jì)算機(jī)速度的提升、大規(guī)模集群技術(shù)的興起、GPU 的應(yīng)用以及眾多優(yōu)化算法的出現(xiàn),耗時(shí)數(shù)月的訓(xùn)練過(guò)程可縮短為數(shù)天甚至數(shù)小時(shí),深度學(xué)習(xí)才逐漸可以用于工業(yè)化。

對(duì)于開(kāi)發(fā)團(tuán)隊(duì)來(lái)說(shuō),做該領(lǐng)域的產(chǎn)品困難在于如何獲取大規(guī)模已標(biāo)注數(shù)據(jù)、集成有 GPU 的 計(jì)算集群以及針對(duì)自己的項(xiàng)目調(diào)參數(shù),團(tuán)隊(duì)需要不斷地輸入新數(shù)據(jù),持續(xù)迭代以提高機(jī)器識(shí)別準(zhǔn)確率。

圖普科技就是利用深度學(xué)習(xí)算法設(shè)計(jì)的智能程序能通過(guò)快速迭代擁有強(qiáng)大的學(xué)習(xí)能力，并與視頻直播、社交網(wǎng)絡(luò)、云計(jì)算等領(lǐng)域企業(yè)合作，積累大量圖片和視頻數(shù)據(jù)，克服智能程序設(shè)計(jì)中的大數(shù)據(jù)壁壘，得到高精度的智能識(shí)別結(jié)果。例如“鑒黃機(jī)器人”，圖普通過(guò)將大量人工標(biāo)注好的色情圖片和正常圖片來(lái)訓(xùn)練機(jī)器認(rèn)識(shí)、學(xué)習(xí)這兩類圖片的特征，然后自動(dòng)提取出可能是色情圖片和正常圖片的特征，當(dāng)機(jī)器再“看到”相似特征的圖片時(shí)，即可自動(dòng)識(shí)別出來(lái)，當(dāng)數(shù)據(jù)量越大，提取特征越準(zhǔn)確，識(shí)別精確度越高。

?

??? 因此，新型審核方式的原理就是：企業(yè)根據(jù)自身需求，利用自動(dòng)截圖程序?qū)χ辈ギ?huà)面定時(shí)（建議6-10s）進(jìn)行實(shí)時(shí)截圖，發(fā)送到圖像識(shí)別云服務(wù)平臺(tái)，機(jī)器自動(dòng)識(shí)別后將結(jié)果分為確定和復(fù)審兩部分，確認(rèn)部分的識(shí)別精確度達(dá)到或超過(guò)人工，無(wú)需復(fù)審，對(duì)于復(fù)審部分，機(jī)器會(huì)根據(jù)可能性排序，人工再根據(jù)概率從高到低來(lái)審核。

?

??? 相對(duì)傳統(tǒng)的純?nèi)斯徍说哪Ｊ?，這種新型審核模式的優(yōu)勢(shì)主要在于：

?

第一：改變傳統(tǒng)付費(fèi)模式，成本更低，計(jì)費(fèi)更靈活

直播企業(yè)只需要按圖片調(diào)用量付費(fèi)，比如直播平臺(tái)某日有推廣活動(dòng)，導(dǎo)致流量較大，需要審核力度較大，付費(fèi)較多，但活動(dòng)結(jié)束后，審核量減少，費(fèi)用也會(huì)隨之減少，不需要固定每日的付費(fèi)額度。

?

第二：機(jī)器識(shí)別精準(zhǔn)度高，穩(wěn)定性強(qiáng)，效率高

機(jī)器識(shí)別模型可以針對(duì)不同的應(yīng)用場(chǎng)景訓(xùn)練機(jī)器，對(duì)于識(shí)別結(jié)果的確認(rèn)部分的審核精準(zhǔn)度達(dá)到99.5%，超過(guò)人眼準(zhǔn)確度，需要人工復(fù)審的部分僅占圖片總量的5%，隨著模型的不斷優(yōu)化，精確度還會(huì)繼續(xù)提升，復(fù)審率也就繼續(xù)降低。

并且成熟運(yùn)作的智能審核機(jī)器人的圖片處理量日達(dá)3億張以上，單張圖片響應(yīng)時(shí)間小于0.2s，7x24h全天候服務(wù)。但是，如果純?nèi)斯徍?/span>3億張圖片，如果按照人眼每小時(shí)審核2萬(wàn)張左右的圖片計(jì)算，則需要大約625天不停歇的工作才能審核完畢，相對(duì)人有限的精力，不停運(yùn)轉(zhuǎn)的機(jī)器明顯更加穩(wěn)定可控，效率更高。

?

第三：機(jī)器識(shí)別更簡(jiǎn)單，更安全

網(wǎng)絡(luò)直播采用人工審核時(shí)，需要給每個(gè)審核人員配備相關(guān)設(shè)備及空間，因此企業(yè)需要投入更多的運(yùn)營(yíng)成本，尤其對(duì)于創(chuàng)業(yè)的網(wǎng)絡(luò)直播企業(yè)，需要承受的經(jīng)濟(jì)壓力更大，而機(jī)器識(shí)別只需要通過(guò)API調(diào)用即可直接使用服務(wù)。

此外，每個(gè)企業(yè)都有專屬的ID賬號(hào)，其所有調(diào)用數(shù)據(jù)都會(huì)被定期清除，不會(huì)長(zhǎng)期存留API界面，不同企業(yè)之間數(shù)據(jù)是隔離的，無(wú)法調(diào)看非本ID的數(shù)據(jù)，不用擔(dān)心企業(yè)信息泄漏，安全度更高。

???

據(jù)文化部透露，下一步將重點(diǎn)在經(jīng)營(yíng)主體管理、事中事后監(jiān)管方面對(duì)網(wǎng)絡(luò)表演關(guān)鍵環(huán)節(jié)進(jìn)行規(guī)范，以及建立違規(guī)網(wǎng)絡(luò)直播平臺(tái)和違規(guī)“主播”警示名單和黑名單制度，加強(qiáng)行業(yè)自律。

所以，網(wǎng)絡(luò)直播企業(yè)在利用機(jī)器識(shí)別提高內(nèi)容監(jiān)管有效度的同時(shí)，還要加大對(duì)主播素質(zhì)培養(yǎng)和監(jiān)管力度，守住經(jīng)營(yíng)的底線與紅線。

您也可以關(guān)注我們的官方微信公眾號(hào)（ID：ctoutiao），給您更多好看的內(nèi)容。