隨著近年來短視頻和直播等新型內(nèi)容傳播媒體興起，內(nèi)容平臺(tái)因涉及色情、暴恐、敏感、低俗等違法違規(guī)內(nèi)容而下架、封禁等事件屢屢發(fā)生。網(wǎng)安、網(wǎng)信、文化部等政府部門對于新媒體平臺(tái)的內(nèi)容監(jiān)管逐漸規(guī)范化、體系化。2019年1月，中國網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)在官方網(wǎng)站公布了《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》100條，對于違規(guī)視頻內(nèi)容進(jìn)行了詳細(xì)的分類，并重點(diǎn)提出視頻彈幕內(nèi)容必須“先審后播”。
細(xì)則中指出，短視頻節(jié)目及其標(biāo)題、名稱、評論、彈幕、表情包等，同時(shí)語言、表演、字幕、背景中均不得出現(xiàn)所提及的問題。包括攻擊我國政治制度，法律制度，中國特色社會(huì)主義道路、理論、制度和文化以及國家既定重大方針政策、破壞社會(huì)穩(wěn)定如影響公共秩序與公共安全的群體性事件及分裂國家，損害國家形象等的內(nèi)容均不能在短視頻內(nèi)容中出現(xiàn)，足見對于打擊違規(guī)內(nèi)容的決心之強(qiáng)、力度之重。
對此，為了更好的幫助短視頻內(nèi)容平臺(tái)在合規(guī)運(yùn)營的同時(shí)降低成本，七牛云“明瞳”內(nèi)容安全產(chǎn)品也迎來升級。在圖片與視頻的基礎(chǔ)上新增文本審核功能，在原本三類（色情內(nèi)容審核、暴恐內(nèi)容審核、政治敏感審核）的內(nèi)容審核基礎(chǔ)上，新增惡意廣告審核、低俗內(nèi)容審核、違法違禁審核，升級為共支持六類互聯(lián)網(wǎng)有害內(nèi)容的審核，提供更為全面的內(nèi)容審核服務(wù)。具體為：
1. 色情內(nèi)容審核：精準(zhǔn)識(shí)別圖片、視頻、直播中的涉黃內(nèi)容，準(zhǔn)確率高達(dá)98%
2.暴恐內(nèi)容審核：支持識(shí)別血腥、爆炸、槍支等10余種貼合真實(shí)場景的暴恐類型
3.政治敏感審核：覆蓋2500+政治、敏感人物。第一時(shí)間更新，從容應(yīng)對突發(fā)事件
4.惡意廣告審核：實(shí)時(shí)過濾圖片、視頻中的二維碼、QQ號(hào)等惡意廣告信息
5.低俗內(nèi)容審核：識(shí)別性暗示、惡搞、裸露等消滅違規(guī)擦邊球，保障內(nèi)容合規(guī)
6.違法違禁審核：對涉賭、涉毒、違禁藥物、販賣人口等嚴(yán)重違法內(nèi)容專項(xiàng)審核
針對“審核人力成本高”的問題，七牛云“明瞳”可提供一站式的 AI 機(jī)審+專員復(fù)審服務(wù)體系，有效過濾視頻、圖片、文本與直播流中99.5%涉黃、涉暴和涉政敏感、惡意廣告、低俗內(nèi)容、違法違禁等一系列有害內(nèi)容，節(jié)約80%的綜合成本，實(shí)現(xiàn)零風(fēng)險(xiǎn)運(yùn)營、零開發(fā)搭建以及零負(fù)擔(dān)管理。
針對“審核效率低下”的問題，七牛云“明瞳”可提供日均數(shù)億次審核的能力，更是提供了“一鍵開啟”的便捷體驗(yàn)，無需開發(fā)一行代碼，在 portal 做簡單設(shè)置后即可開始審核，審核結(jié)果直觀可視。“明瞳”還提供了全局內(nèi)容違規(guī)比例以及歷史趨勢的展示，使得用戶對于內(nèi)容風(fēng)險(xiǎn)程度和趨勢一目了然，從而可以更有針對性地從源頭做好內(nèi)容安全。
七牛云“明瞳”分秒即用的可視化審核體驗(yàn)
此外，七牛云與監(jiān)管部門項(xiàng)目合作，能夠深入理解監(jiān)管標(biāo)準(zhǔn)，提供更加完善的審核能力。
依托于七牛人工智能實(shí)驗(yàn)室在視覺智能方面的深耕，同時(shí)得力于七牛云在海量圖像視頻數(shù)據(jù)的多年管理經(jīng)驗(yàn)，“明瞳”在各項(xiàng)審核上表現(xiàn)突出，達(dá)到行業(yè)內(nèi)領(lǐng)先水平。當(dāng)下“明瞳”可廣泛應(yīng)用于視頻平臺(tái)、直播平臺(tái)、電商平臺(tái)、論壇社區(qū)、社交媒體、公共網(wǎng)盤、廣播電視等各個(gè)領(lǐng)域，更是為諸如中國平安、FaceU、Blued 等各種業(yè)務(wù)類型的客戶提供服務(wù)，建立了良好的行業(yè)口碑。未來，七牛云將致力于保護(hù)各行業(yè)平臺(tái)運(yùn)營，助力互聯(lián)網(wǎng)環(huán)境的凈化。
