视频时代已然拉开帷幕。

根据2019年公布的数据,Youtube全球月活已经突破19亿,微信也超过了10亿,可以说,视频产业已经关联到了全球的大部分人口。而随着这种使用人数的激增,用户时长和内容生产消费量级也呈现出了一个指数级的上升。在这海量的内容面前,无论是大平台还是小公司都面临着巨大的管理难度和审核挑战。毕竟在大量视频内容涌现的同时,暴力、色情内容也会随之进入互联网,成为用户视频浏览中的“定时炸弹”。

而这些大公司们自然也早有准备。2018年,Facebook推出DeepText,利用深层神经网络架构理解内容。而YouTube早就推出了Content ID,监测并删除涉及色情和暴力等违规视频,多年来总计在该技术上花费了超过1亿美元。在这个AI赋能一切的时代,人工智能似乎正在视频内容的审核中大展拳脚。甚至不少媒体都预言,AI将凭借着其对海量数据的组织能力,不久后会取代人工审核。

然而事实上,人工审核是很难被机器完全替代的。

AI审核存在两个技术难点,一个是算法准确率问题。在业内有句话,“脱离数据集来谈准确率都是耍流氓”,这就是说,用数据集训练出来的AI模型并不都能匹配实际行为,还存在用户行为偏差等诸多影响因素,即使AI审核的准确率达到了99%,考虑到用户上传的视频量,剩下1%的累计量也是惊人的。

另一个难关就是对内容的主观判断。简单来说,不是所有露骨的内容都是色情,也不是所有色情视频都有裸露,再加上视频内容中涉及到的文字、语音等多方面情景混杂,对人来说较容易判断,但对机器而言需要多个算法叠加。

要知道,AI参与视频审核并非近几年才有。早在2000年左右,就有公司在做这方面的尝试。但那时,视频审核需要人为设定特征和规则,一直等到深度学习得到发展后,视频审核才终于变得“灵活”了。但是,在视频审核上,目前业内普遍采用的仍然是“人机结合”的方式,并且人工在其中占据着重要比例。

YouTube的算法工程师便曾表示,目前YouTube上大部分视频仍需要经过人工审核,被审核视频一部分是AI检测出来,一部分是用户举报的,但最终都需要专业的审核师把关决定是否违规。

此外,在利用AI进行内容审核时还要注意以下三点:

一是对内容的审核需要文化意识和对相关社区标准的语境理解。尽管AI可以执行预调节,帮助减少人工审核的工作量,但人工参与仍是不可缺少的环节。

二是AI面临着公众不信任,特别是可能存在无意识的人类或技术偏见。此外,算法可能对违规内容起不到检测作用。针对此,一方面要定期分析并调整算法,利益相关者也应保证AI的透明度。

三是由于格式多样性和内容复杂度,用户生成的视频内容越来越难以分析,它们需要被解释为一个整体,以此来鉴定是否违规。为了更好地了解用户行为,及时更新违规有害内容的定义,平台和服务提供商之间最好能够共享数据集,这有利于利益相关者获得更好的文化意识和语境理解。

也正因此,目前业内有两种比较常见的“人机配合”审核方式——一种是AI将相对确定的视频进行分类,然后对部分用户做出推荐,观察用户反应,其中高热视频会人工率先审核;另一种则是AI将视频标记为“good”或“bad”,当审核师遇到标注有“bad”视频时再细致地审核,这也提高了审核效率。

比如说今日头条采取的是第一种模式。视频再得到大量推荐之前,会被机器试着推荐给首批用户,根据他们的反映,来判断你这条视频是不是值得更多的推荐。如果数据是正向的,则会被推荐给更多的人;如果数据是负向的,则会减少或者停止推荐。

而极链科技video++采取的则是第二种模式,针对目前行业面临的主要问题,结合人工智能技术,打造全栈式智能内容安全审核引擎——神眼系统,用AI技术帮助平台方减轻内容审核压力、降低内容审核成本,为客户提供一站式的智能内容安全解决方案。

未来,随着用户和内容数量的继续增长,内容审核的挑战会越来越严峻,政策相关的监管也会越来越严格,语音和视频的内容理解更加任重道远。作为时代洪流的见证者,且让我们拭目以待。