近年來，快手、抖音等平臺大規(guī)模發(fā)布招聘信息，面向全國新增招聘3000名內容審核編輯崗位，將目前的審核團隊從2000人擴大至5000人。今日頭條在去年也表示，要將運營審核隊伍擴大增至10000人。不光是在中國，2018年Facebook創(chuàng)始人扎克伯格在接受媒體采訪時也表示，公司將會有20000人致力于網(wǎng)絡安全和內容審查的工作。

很多人認為內容審核員有著輕松的工作，但其實內容審核并不像一般人們認為的只有鑒黃這一種。更多時候，他們所面對的是黃色、暴力、涉恐、等高敏感度的信息，更忍受著長期精神和身體上的壓力。然而，內容安全審核的路程才剛剛開始。

人工智能可以緩解內容審核壓力么？

當前，人工智能技術的發(fā)展為各行各業(yè)帶來便利。面對專一性較強的工作，AI可以在高準確度、高效率和持久性上完勝人類。然而，它們很難提升內容審核的精確度。以鑒黃師為例，人工智能的鑒定只能將海量視頻和圖片中的疑似黃色內容篩選出來，它可以將審核范圍從無邊無際中圈出一個范圍，但并不能像人一樣理解每張圖片中內容的準確含義。

比如一張衣著暴露的圖片，如果整張拿給AI去識別，它可以能認出這張圖有安全隱患。然而，如果將圖片切成數(shù)份并打亂順序呢？如果是人，大腦就會立即思考，并還原出這張照片的原貌，而AI還不行。

雖然AI的審核準確度不如人類，但是隨著內容生產(chǎn)數(shù)量的驟增、用戶體驗及負面事件風險提高以及審核標準嚴苛細化，各種各樣非標準化審核管理系統(tǒng)猶如一塊巨石壓得審核工作者喘不過氣。很多內容的含義并不能用標簽化的方式來判斷，這是人工審核容易犯難的地方，而除了鑒別各類內容，人工審核還不得不應對雜亂無章的審核管理體系，這對于加快人工審核速率沒有一點幫助。針對這一問題，業(yè)內的企業(yè)紛紛提出自己的想法，對內容審核監(jiān)測做出了提升。

例如去年12月，F(xiàn)acebook宣布撥款1.3億美元建獨立“刪帖法庭”。作為美國社交網(wǎng)絡巨頭Facebook除了爆出不計其數(shù)的侵犯隱私丑聞之外，還遭到了對于用戶內容缺乏監(jiān)管、給社會和青少年造成不良影響的批評，F(xiàn)acebook開始采取各種措施，監(jiān)管內容，其中一個措施是設立一個類似“刪帖法庭”的內部機構，來決定哪些用戶言論或者內容必須刪除或可以保留。除此之外，比如國內目前內容審核技術比較突出的極鏈科技Video++，也推出了全棧式智能內容安全審核引擎神眼系統(tǒng)，都在為人類審核員進行減負。

更多平臺需要高效的內容審核機制

不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內容審核服務。從年初人民網(wǎng)開始暴漲開始，內容審核就已經(jīng)開始受到重視，人民網(wǎng)公告顯示，2018年第三方內容審核業(yè)務收入同比增長約166%。未來幾年，視頻、AR/VR內容會隨著5G發(fā)展而爆發(fā)，內容審核的需求也必將跟著水漲船高，客戶會越來越多，市場空間和規(guī)模會越來越大。不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內容審核服務。除了少數(shù)大型互聯(lián)網(wǎng)可以自建團隊之外，其它的中小企業(yè)，都只能靠第三方審核服務，大量的需求催生了一個新行業(yè)：第三方內容審核服務。這些第三方機構看到了問題背后的商機，研發(fā)出內容審核風控系統(tǒng)，專門提供給內容相關企業(yè)。不過，第三方內容審核的進入壁壘較高，包括技術壁壘、人才壁壘、管理壁壘。

除了少數(shù)大型互聯(lián)網(wǎng)可以自建團隊之外，其它的企業(yè)，都只能靠第三方審核服務，大量的需求催生了一個新行業(yè)，那就是第三方內容審核服務。這些第三方機構看到了問題背后的商機，研發(fā)出內容審核風控系統(tǒng)，專門提供給內容相關企業(yè)。

在今天的互聯(lián)網(wǎng)輿論環(huán)境下，不同的平臺為自己制定的審核標準也不同，有的嚴格，有的寬泛，這是各家平臺的權利。但隨著平臺的發(fā)展，雇傭和培訓人員的速度很難跟上平臺的發(fā)展步伐，網(wǎng)站上的內容可以在一天中的任何時間發(fā)布，這意味著內容審查人員必須24小時不間斷工作，但這樣的工作時間，可能無法保證審核的精確度。即使擁有一個強大的內容審查團隊，也很難進行無偏見審核，這也是AI內容審核開始發(fā)揮作用的時候。未來，內容審核系統(tǒng)的升級，不光是品牌驅動、產(chǎn)品需求的剛性體現(xiàn)，也更應該去努力滿足社會需求。