国王金融官网

内容审核是字节跳动绕不过去的一座大山。抖音在海内所面临的压力，TikTok在外洋也没能幸免。

印度一位TikTok创作者上传了一段向女性泼酸性液体的视频，再次引发对于TikTok的普遍争议。大量印度用户示意将抵制TikTok，并在Google Play商铺中对TikTok给了1星级评价，导致TikTok的评分一度从4.5星陡降至1.2星。

TikTok正高歌猛进外洋市场，印度正是下载量最大的市场，迄今为止贡献了6.11亿次下载，占TikTok全球总下载量的30.3%。

字节跳动的出海梦想已照进现实，内容问题使TikTok深陷舆论漩涡，提升内容审核的精准度和速率，能为Tiktok的全球化历程削减一些阻力。

绕不开的人工审核

TikTok所面临的内容审核难题，是全球互联网公司配合心病。

亿欧智库研究院院长由天宇示意，在全球范围内，随着内容的数字化水平越来越高，数目越来越重大，内容类型的庞大度不停增强，需要构建与之相匹配的内容治理机制。

近几年，Google、Facebook、Twitter都显著增强了内容审核的力度，激增的内容包罗文字、图片、视频和音乐，审核手艺正经受着新一轮的磨练。

海内市场内容审核团队已成为大型互联网公司的标配。

以短视频营业为例，2019年1月出台的《网络短视频平台治理规范》显示，网络平台开展短视频服务，应当凭据其营业规模，同步确立审核员队伍。审核员数目与上传和播出的短视频条数应当相匹配。原则上，审核员人数应当在本平台天天新增播出短视频条数的千分之一以上。

字节跳动为此早已组建了规模重大的审核团队，同时也在研发人工智能审核手艺。

2018年，字节跳动副总裁张辅评曾示意，字节跳动确保对所有推荐内容举行人工审核，字节跳动审核团队职员已跨越1万人，其中大部分从事视频审核。

统一年，字节跳动副总裁、字节跳动人工智能实验室主任马维英透露，抖音一直使用人工智能辅助审核，组成人机交互的闭环：平台上有 600 多个机械学习模子，能够自动明白和识别内容；审核职员同时也是标注职员，用标注好的数据训练模子，再反过来辅助审核。

通过自主研发的AI手艺，字节跳动节约跨越十万的审核人力，人工审核团队却仍被保留。究其缘故原由，除了治理规范的要求硬性要求外，AI审核的手艺瓶颈也是缘故原由之一。

AI审核的手艺瓶颈

人工智能的局限性在于，不能对所有的前言形式举行精准识别。

对于图片和视频来说，人工智能介入审核异常有用，由于盘算机视觉识别手艺相对成熟。机械通过一定时间的训练，都能够识别出敏感种别的内容，好比裸体、枪支等。

在对语音、文字举行剖析时，不能到达识别图片和视频的高准确率。差别的文字在差别的语境下，表达的寄义可能有所差别，人工智能很难像人一样思索，明白语言的真正寄义。靠山音和噪音会对识别造成滋扰，在方言识别上，AI也略显吃力。

图普科技创始人兼CEO李明强坦言，内容审核现在最大的障碍是语音，海内市场面临方言识别难题，出海企业要针对当地语言设置小语种识别，手艺难度大于方言。

在由天宇看来，语音审核在研发阶段需要投入较高的成本，语音内容的精准识别难度较大，语义的庞大性也带来了诸多挑战。

与人类能够对新事物举行思索差别，深度学习手艺只能凭据既有的数据举行训练，对新泛起的不良内容，人工审核举行甄别，对用户行为举行判断，在此基础上，才气总结履历“教授”给AI。

若是AI审核泛起问题，平台也需要负担执法风险。

中国政法大学流传法研究中心副主任朱巍示意，AI审核是基于深度学习的人工智能，其中的程序、算法，实际上体现的是一个平台的价值观和法治观。“不管这个手艺是由平台自主研发，照样由第三方提供，一旦泛起问题的话，平台肯定要负担责任。”

从平安和成本两个方面来思量，通过AI审核举行初筛，再将疑似有害内容送达人工审核二次判断，依然是内容平台普遍接纳的审核模式。

自研手艺并非标配

我直播带货没挣钱，还亏了

,国王期货,

涉足UGC内容的平台日益增多，用户上传的内容作品质量乱七八糟，内容审核方面的需求也随之不停增进。引入AI审核工具成为内容平台的必由之路，至于选择自主研发审核工具，照样与服务商互助，要看平台自身的考量。

亿欧从业内人士领会到，字节跳动并未引入外部内容审核工具，可能是出于数据珍爱的需要。腾讯、阿里、百度等头部互联网企业在内容审核方面都有所结构，若是选择与外部机构互助，可能有将平台内容和数据泄露给竞争对手的风险。

AI审核工具需要大量数据举行训练，字节跳动旗下拥有多个内容平台，能够确立较为完整的数据库，工具研发后可以高频应用。字节跳动对于内容审核事情十分重视，选择自主研发可能更适合自身生长需求。

哪些企业会选择第三方提供的AI审核服务呢？凭据李明强的履历，与头部企业相比，腰部企业更愿意引进内容审核领域的互助伙伴，将资源和精神放在最焦点的创新营业上，很少接纳自主研发的方式。

AI审核公司相对市场更具审核优势，李明强示意，某一平台不良样本的种类和数目都比较有限，服务商介入能够起到众包和共享的作用。不良内容在一个平台上泛起，可以快速被收入数据库中，在服务其他公司时加倍便捷、平安。

中娱智库创始人高东旭认可了这一看法，创业型内容平台资金和手艺实力有限，只能通过第三方的工具和平台来举行内容羁系。现在海内的数美科技、图普科技、百度智能云、金山云和阿里云等，都能提供相关的服务和工具。

平台若想从源头削减内容风险，除了引入第三方机构举行内容审核外，提升团队的把控能力也十分重要。“在内容生产前，可以请行业专家对内容生产者举行培训，在内容创作阶段就能规避一些风险，同时，还应该增强对于执法律例和相关政策的领会。”高东旭说道。

出海平台若何过审核关

内容平台出海，并不是字节跳动独占的战略。

今年5月初，快手在美国公布了应用Zynn，允许用户上传、编辑和分享短视频。据Sensor Tower提供的数据，在Zynn公布的一个月后，就成为了美国下载量最高的iOS应用。

欢聚时代旗下的泛娱乐直播平台BIGO LIVE也在外洋取得了不俗成就。2020年第一季度，欢聚时代的全球平均移动端月活跃用户到达5.2亿，其中77.0%来自外洋市场。

作为行业考察者，由天宇站在时间沿革的角度，回首了互联网企业的出海历程。在互联网领域，中国公司最早的出海产物主要为工具和游戏，认知属性和内容色彩较弱，以B2C模式为主。今后，资讯类产物又成为了出海的热门，内容多以PGC的形式生产，内容审核方面的压力仍不算太大。

海内娱乐平台、社交平台陆续出海，带来了UGC内容的激增，对平台内容审核能力的要求越来越高，十分磨练平台内容和当地文化的兼容水平，以及平台运营商的文化明白能力、相同协调能力和问题解决逻辑。

AI审核手艺的第三方服务也追随平台走向外洋市场。“图普针对外洋市场研发的图像审核产物，已经在全球多个区域部署了盘算节点，其中外洋市场应用最普遍的是暴力、色情、未成年识别等审核场景。”李明强说道。

AI审核的手艺瓶颈也在出海过程中体现。东南亚、印度、非洲是中国互联网平台出海的主要偏向，这些国家和区域都具有语种多样的特点，AI手艺则只能在图像、视频审核上沿用海内数据，势必有所局限。

TikTok在印度市场遇阻正是例证。拥有13亿人口的印度拥有伟大的市场空间，对内容提供商的挑战是庞大的语言系统、多样的宗教和文化靠山，甚至另有当地尖锐的社会议题。

2019年2月，TikTok就曾因内容问题被印度政府封禁。作为应对，字节跳动在印度沿用了AI手艺与审核团队协作的内容审核流程，审核团队可以支持14种语言，并用内陆语言做出与文化相关的决议。

字节跳动计划在2019年12月之前将印度分公司员工人数增加到1000人。此外，字节跳动还在印度雇佣了跨越250名的专职内容审核员。

越来越多的互联网平台实验到外洋生长，做好前期准备事情，可以制止内容违规后的被动整改。

作为执法从业者，朱巍为出海平台归纳了制止违规的要点。首先是对儿童权益的珍爱，杜绝儿童色情等内容的泛起，否则在各个国家都将面临顶格处罚。

做好用户的个人信息珍爱也至关重要，在美国、欧盟、新加坡等地，适用的个人信息珍爱规则可能都不相同，在抓取信息、推荐信息时需要注重当地律例。除此之外，还要遵守当地的文化和习惯。

高东旭则给出了进一步的建议：在出海前，互联网企业必须先行制订适用于外洋市场的审核机制，制止平台内容泛起问题。“出海平台可以在当地约请法务职员、熟悉当地文化和宗教的人士，确立配套的审核机制。”

尾声

前言形式的进一步多样化，正给内容审核带来新的挑战。

新兴的数字娱乐产业是高东旭关注的工具，凭据他的考察，AR、VR的手艺门槛正在降低，大量应用AR、VR手艺的内容也在不停涌现，对于若何举行这一部分内容的羁系，仍待企业和相关部门关注和进一步研究。

知识付费催化了语音内容的生长，喜马拉雅FM、荔枝FM、获得等平台的音频内容数目激增，质量乱七八糟，针对语音内容的羁系力度也在增强。

李明强十分看好内容审核产物的未来：“随着5G和融媒体的生长，平台的内容量将会呈几何级数增进。内容审核手艺是一个底层服务，市场需求会连续变大。”