“內容管理進化”？全球視頻直播巨頭直擊審核難

近來，兒童動漫視頻領域一度成為傳播不良信息的重災區。據監管部門通報，自2017年底開始，一些以唐老鴨、蜘蛛俠等經典卡通角色為主角，經過“二次創作”的“邪典”動畫片，已通過互聯網流入國內多家視頻網站。

通常，“邪典”動畫片隱藏于“親子”、“早教”等的合法外衣之下，實則傳播暴力、涉黃等諸多兒童不宜的內容。

2018年2月6日，全國“掃黃打非”辦公室組織騰訊、快手等16家互聯網公司，就網絡有害出版物特征值共享數據庫召開年度第一次工作會議。

會議圍繞處置清理兒童“邪典”動畫視頻等方面工作，對各公司落實企業主體責任，特別是中小學在寒假和春節期間加強自律清查提出要求，一場監管風暴來臨。

文化“洋垃圾”頻頻入境

根據通報，廣受社會關注的廣州胤鈞貿易有限公司制作傳播兒童“邪典”動畫視頻案件，已交由廣州市天河區公安機關刑事立案查處。

自此，由境外傳入并經“漢化”后大范圍流入中國，毒害中國兒童的“兒童邪典片”呈現階段性打擊成果，彰顯出政法執法部門對此類視頻的“零容忍”態度。

2017年底，西方主流媒體曝光“艾爾莎門”事件（“邪典”視頻中的主角為《冰雪奇緣》女主角艾爾莎公主而得名），迅速引發西方社會激烈的爭論。

在視頻領域，如何鑒別并審核此種可能騙過機器算法甚至人工審核的視頻，一時成為爭論的焦點。

此類問題并非YouTube獨自面對，中國互聯網領域面臨更多、更棘手的相關問題。數據顯示，中國正以7.51億網民數位居世界第一，普及率達55.8%，美國以近3億網民人數居第二。

更值得重視的是，在硬件（智能手機）和軟件（4G網絡、WIFI）的發展及普及下，中國移動互聯網已進入“井噴式”發展階段，甚至在農村地區，兒童用手機刷視頻的場景也隨處可見。

在中國視頻網站中，“兒童邪典”視頻事件也掀起層層波瀾。多家媒體曾對此報道稱，這些“洋垃圾”入境后，竟然開始被“本土化”，不僅有國外視頻“搬運”后的漢化，還有各仿制拍攝、制作的視頻生產。隨著互聯網大數據和算法的客觀作用，這些視頻可能會“越看越多”，甚至“永遠看不完”。

全球視頻業面臨“審核邊界”

截至發稿時，國內相關視頻發布平臺均已進行整改下架。盡管搜索關鍵字仍可看到相關視頻留下的蛛絲馬跡，絕大部分已經無法打開觀看，但留給業界的是審核難題。

“關于視頻審核，就我所知，行業已在積極推進。”一名業內算法工程師坦言，“更困難的是直播審核。”

中國互聯網協會相關人士也指出，“（在直播平臺上）由于主播的直播行為具有即時性的特點，也給平臺方的審核帶來一定難度。”

短視頻內容審核已是“全球性難題”。“兒童邪典”事件發生后，YouTube的 CEO Susan Wojcicki曾表示，2018 年公司將把人類審查員的數量增至 10,000 名，以遏制不良內容。

但形勢依舊不容樂觀。海外知名媒體BuzzFeed NEWS通過采訪發現，YouTube 系統仍存在不少問題，并存在一些令人難以理解甚至有時自相矛盾的評級準則。

來自業界、學界及法律界人士并非杞人憂天。當前，騰訊、阿里巴巴、滴滴等成為全球互聯網標桿企業的同時，以快手為代表的短視頻平臺正在迅速崛起，不僅吸引到巨大的流量，引起資本界的矚目，其內容審核難度更大、技術要求更高。

在視頻內容的審核和管理當中，最基本的要求必須遵循國家相關的法律法規，但審核工作中卻存在“模糊地帶”。

據業內人士舉證說，猴子是不是可以當寵物養、海龜是不是可以隨意捕撈？諸如此類問題都曾觸發廣泛社會爭議。根據《中華人民共和國野生動物保護法》的規定，中國并沒有允許個人飼養寵物猴。這意味著，無論是否是在合法商販處購買，均屬于違法行為。

在公眾輿論看來，此類問題卻是“稀松平常”。只要搜索網絡，諸如“女子公園遛猴子，個人飼養寵物猴屬于違法行為(圖)”等新聞并不鮮見。

無疑，中國社會各界需要達成廣泛的共識，以在法律、道德、價值觀甚至審美等多個維度上實現最精準的界定和最有效的平衡。

領跑“內容管理進化論”

根據官方介紹，快手是一家日活用戶已過億、人均日使用時長超過一個小時的短視頻平臺，每天有1000多萬條原創短視頻上傳，累計超過40億條原創視頻。

2018年1月28日，快手通過微信公眾號披露違規用戶及內容處罰情況透露，該平臺1月份平均每天清理違規內容超過42萬條，每天處置有效視頻類舉報1.8萬條。

由此，短視頻內容管理工作之巨可窺見一斑。

“對執法機關來說，應該建立多部門的聯合監管機制，形成強有力的監管，對涉及兒童的影視視頻等應該細化分類管理，實施分級制度。”女童保護基金管委會委員、《中國經濟周刊》記者徐毫曾撰文指出，“對網絡平臺來說，也應該完善自查機制，暢通舉報渠道，強化反應機制，充分利用技術篩查和人工干預，決不能讓有害的內容傳播，更不能為了“流量”而不顧道德法律。”

作為短視頻領域的領頭羊，快手已經走在內容管理的前列。近日，快手聯合浙江大學達成協議，共同探尋視頻領域內容管理的規則這一“世界性課題”。

無疑，快手將借助浙江大學在公序良俗方面的學術積累，為整個短視頻行業摸索出一條可行道路，并對內容管理提供空前完備的規則借鑒。

業內普遍認為，就短視頻內容管理，短視頻平臺積極聯手科技界、學界進行深入研究和探索，這確系一次有益的嘗試。

近年來，針對涉及暴力、色情等違法有害內容零容忍，快手建有數以千計的人力和服務器組成的7x24小時全職內容評級團隊。

此外，快手還成立行業首家“社區自律委員會”，邀請知名學者、媒體人和普通用戶共同參與對快手的監督；在平臺內設置了完善的用戶“一鍵舉報”功能，并在網站首頁進行公示24小時舉報電話及郵箱。

“我們已建立了業內領先的多級處罰手段和標注體系，并已取得初步成效，同時也正在借助外部力量，聯合社會各界相關機構一起推動短視頻內容管理的課題研究。”快手一名負責人透露。

作為一家注冊用戶數億的平臺，快手的影響力越來越大，正積極擔負平臺管理責任和更多的社會責任，成為短視頻領域規范發展的標桿。