近年來，快手、抖音等平臺大規(guī)模發(fā)布招聘信息，面向全國新增招聘3000名內(nèi)容審核編輯崗位，將目前的審核團(tuán)隊從2000人擴(kuò)大至5000人。今日頭條在去年也表示，要將運營審核隊伍擴(kuò)大增至10000人。不光是在中國，2018年Facebook創(chuàng)始人扎克伯格在接受媒體采訪時也表示，公司將會有20000人致力于網(wǎng)絡(luò)安全和內(nèi)容審查的工作。

很多人認(rèn)為內(nèi)容審核員有著輕松的工作，但其實內(nèi)容審核并不像一般人們認(rèn)為的只有鑒黃這一種。更多時候，他們所面對的是黃色、暴力、涉恐、等高敏感度的信息，更忍受著長期精神和身體上的壓力。然而，內(nèi)容安全審核的路程才剛剛開始。

人工智能可以緩解內(nèi)容審核壓力么？

當(dāng)前，人工智能技術(shù)的發(fā)展為各行各業(yè)帶來便利。面對專一性較強(qiáng)的工作，AI可以在高準(zhǔn)確度、高效率和持久性上完勝人類。然而，它們很難提升內(nèi)容審核的精確度。以鑒黃師為例，人工智能的鑒定只能將海量視頻和圖片中的疑似黃色內(nèi)容篩選出來，它可以將審核范圍從無邊無際中圈出一個范圍，但并不能像人一樣理解每張圖片中內(nèi)容的準(zhǔn)確含義。

比如一張衣著暴露的圖片，如果整張拿給AI去識別，它可以能認(rèn)出這張圖有安全隱患。然而，如果將圖片切成數(shù)份并打亂順序呢？如果是人，大腦就會立即思考，并還原出這張照片的原貌，而AI還不行。

雖然AI的審核準(zhǔn)確度不如人類，但是隨著內(nèi)容生產(chǎn)數(shù)量的驟增、用戶體驗及負(fù)面事件風(fēng)險提高以及審核標(biāo)準(zhǔn)嚴(yán)苛細(xì)化，各種各樣非標(biāo)準(zhǔn)化審核管理系統(tǒng)猶如一塊巨石壓得審核工作者喘不過氣。很多內(nèi)容的含義并不能用標(biāo)簽化的方式來判斷，這是人工審核容易犯難的地方，而除了鑒別各類內(nèi)容，人工審核還不得不應(yīng)對雜亂無章的審核管理體系，這對于加快人工審核速率沒有一點幫助。針對這一問題，業(yè)內(nèi)的企業(yè)紛紛提出自己的想法，對內(nèi)容審核監(jiān)測做出了提升。

例如去年12月，F(xiàn)acebook宣布撥款1.3億美元建獨立“刪帖法庭”。作為美國社交網(wǎng)絡(luò)巨頭Facebook除了爆出不計其數(shù)的侵犯隱私丑聞之外，還遭到了對于用戶內(nèi)容缺乏監(jiān)管、給社會和青少年造成不良影響的批評，F(xiàn)acebook開始采取各種措施，監(jiān)管內(nèi)容，其中一個措施是設(shè)立一個類似“刪帖法庭”的內(nèi)部機(jī)構(gòu)，來決定哪些用戶言論或者內(nèi)容必須刪除或可以保留。除此之外，比如國內(nèi)目前內(nèi)容審核技術(shù)比較突出的極鏈科技Video++，也推出了全棧式智能內(nèi)容安全審核引擎神眼系統(tǒng)，都在為人類審核員進(jìn)行減負(fù)。

更多平臺需要高效的內(nèi)容審核機(jī)制

不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內(nèi)容審核服務(wù)。從年初人民網(wǎng)開始暴漲開始，內(nèi)容審核就已經(jīng)開始受到重視，人民網(wǎng)公告顯示，2018年第三方內(nèi)容審核業(yè)務(wù)收入同比增長約166%。未來幾年，視頻、AR/VR內(nèi)容會隨著5G發(fā)展而爆發(fā)，內(nèi)容審核的需求也必將跟著水漲船高，客戶會越來越多，市場空間和規(guī)模會越來越大。不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內(nèi)容審核服務(wù)。除了少數(shù)大型互聯(lián)網(wǎng)可以自建團(tuán)隊之外，其它的中小企業(yè)，都只能靠第三方審核服務(wù)，大量的需求催生了一個新行業(yè)：第三方內(nèi)容審核服務(wù)。這些第三方機(jī)構(gòu)看到了問題背后的商機(jī)，研發(fā)出內(nèi)容審核風(fēng)控系統(tǒng)，專門提供給內(nèi)容相關(guān)企業(yè)。不過，第三方內(nèi)容審核的進(jìn)入壁壘較高，包括技術(shù)壁壘、人才壁壘、管理壁壘。

除了少數(shù)大型互聯(lián)網(wǎng)可以自建團(tuán)隊之外，其它的企業(yè)，都只能靠第三方審核服務(wù)，大量的需求催生了一個新行業(yè)，那就是第三方內(nèi)容審核服務(wù)。這些第三方機(jī)構(gòu)看到了問題背后的商機(jī)，研發(fā)出內(nèi)容審核風(fēng)控系統(tǒng)，專門提供給內(nèi)容相關(guān)企業(yè)。

在今天的互聯(lián)網(wǎng)輿論環(huán)境下，不同的平臺為自己制定的審核標(biāo)準(zhǔn)也不同，有的嚴(yán)格，有的寬泛，這是各家平臺的權(quán)利。但隨著平臺的發(fā)展，雇傭和培訓(xùn)人員的速度很難跟上平臺的發(fā)展步伐，網(wǎng)站上的內(nèi)容可以在一天中的任何時間發(fā)布，這意味著內(nèi)容審查人員必須24小時不間斷工作，但這樣的工作時間，可能無法保證審核的精確度。即使擁有一個強(qiáng)大的內(nèi)容審查團(tuán)隊，也很難進(jìn)行無偏見審核，這也是AI內(nèi)容審核開始發(fā)揮作用的時候。未來，內(nèi)容審核系統(tǒng)的升級，不光是品牌驅(qū)動、產(chǎn)品需求的剛性體現(xiàn)，也更應(yīng)該去努力滿足社會需求。