Qzone

微博

微信

腾讯天御内容风控全新发布，为网络空间清朗保驾护航

科技爱云资讯 2022-12-03 11:51

11 月 30 日— 12 月 1 日，2022 腾讯数字生态大会在深圳召开，腾讯安全携八款自研成果及背后的创新技术亮相，与生态伙伴共筑数字化安全新能力，探索以 ' 安全共生 ' 护航企业 ' 行稳致远 '。

在12月1日下午举行的腾讯安全先行者·新品发布会场上，腾讯安全天御内容风控总监蔡飞以《携手云原生，腾讯天御内容安全运营中心全新亮相》为主题分享了内容安全领域的风险与挑战，以及腾讯天御内容安全运营中心的最新应对方案。

内容安全面临的风险和挑战

随着移动终端与信息技术的快速发展，互联网内容愈发多元。从文字到图片到语音再到视频、直播，数字技术的时代洪流正冲刷出一幅丰富多彩的数字生活画卷。同时，更加庞大和复杂的内容安全隐患也伴随而来。

对于数字内容平台和企业来说，开展网络生态治理刻不容缓，24小时不停歇的互联网内容安全攻防战每日都在上演。内容安全面临的问题与挑战主要分为三个方向：

1. 违规内容识别

数字内容类应用往往以用户UGC内容为主，用户资料，图文消息和音视频数据大部分是由用户自己上传，很容易出现色情，低俗，辱骂等不良内容。

2.内容治理成本

企业和个人开发者不太可能具备足够的安全团队，建立功能完备的内容审核系统，组建专门的运营团队。

3.全球性业务合规

面向海外的业务场景，需要满足不同国家地区的法规要求。

腾讯安全天御内容风控解决方案，三大特性守护内容安全

腾讯安全天御内容风控解决方案，以人工智能为核心，通过风控策略的灵活调度，打造覆盖图片、文本、音频、视频全内容形态的 AI 智能内容风控服务，为网络空间清朗保驾护航。

01 更简单：一键开通，自动审核

在上云的业务架构里，如电商、游戏或者教育业务通常会使用COS搭建数据存储系统、使用VOD实现音频视频播放功能、基于TRCT云直播打造丰富多彩的音视频互动功能。

以往企业要对这些云组件类的数据进行审核，需要通过各产品的SDK或者API获取数据，完成数据的送审和处置，这对导致研发对接成本非常高。

在腾讯安全天御内容风控解决方案的新版本中，加强了内容安全与其他云基础产品的联动性，在控制台一键开通、自动实现数据审核。

在内容安全的产品板块里，腾讯安全对内容识别能力进行了技术架构升级，通过原子能力模型产生更多内容维度的特征，并且通过决策引擎实现对内容、行为和账号等多维度特征进行综合判断，进一步提升识别效果和运营的灵活性。

升级了安全运营服务，打造了对安全态势的实施感知能力，对突发的安全事件可以及时上线策略进行布控，并且定期组织红蓝对抗，优化识别效果，确保云上的业务数据持续健康。

提供一套统一的运营功能集成到各个云产品，让云产品的客户可以更容易地管理审核策略和优化审核效果。

新版本的核心目标是将复杂的内容审核功能和运营流程精简为一键开通、自助运营和数据看板三个关键功能给了客户，以满足快速接入、灵活调优和对数据的可视分析的需求，极大地降低在内容审核方面的研发和运营成本，让上云企业能够在产品研发和安全运营方面都能够实现降本增效的目的。

案例一：COS 全自动审核模式

在COS 全自动审核模式下，业务团队只需针对COS的存储配置开通送审功能，并且进一步配置对违规资源的处置规则，比如上传的图片如果包含低俗广告，违规内容时，就会自动封禁。

对于数据的送审，违规数据的处置功能逻辑完全可以交给COS和天御内部系统实现，真正实现零研发接入。并且伴云审核还有一个很独特的优点，由于COS和天域系统可以通过腾讯内部网络通信，因此客户不需要承担因审核下载产生的费用。

以图片审核为例，这种审核模式可以为客户节省大约20%的整体审核费用。

在COS存储场景下，当出现新的审核需求时，可以在控制台启动存量扫描能力，实现对历史数据的全量清洗。

案例二：TRTC 全自动审核，灵活方便，费用更低

在天御内容审核中台中，内置实现TRTC 的专属审核模块，全面对接TRTC的事件消息服务。通过实时监听房间创建，用户进退房等事件消息，实现对数据的自动送审功能。

面对网络中断等异常情况，可实现自动恢复，并且对重复数据进行自动去重。

在拉流审核模式方面，支持对单录音视频流进行审核，也支持将多路音视频数据混合成一路进行审核。这种模式的切换可以实现自助配置，灵活调整，有效的平衡审核成本和业务风险。

02 更全面：超500种违规类型识别

新版本中第二个大特性，是审核能力的全面升级：

超过500多种的违规类型识别，整体提升了40%以上。

在识别粒度方面也进行更加精细的拆分，通过更细的标签、灵活调整，以适应不同行业的审核需求。

案例一：守护未成年人网络内容安全

在未成年人保护相关能力方面，提供了儿童邪典、未成年人低俗、未成年人不适宜表情包等十几个标签。

支持对未成年人年龄属性的输出，让业务可以根据属性进一步区分未成年人群体，从而制定不同的处置规则。

案例二：守护内容平台版权风险

近年来，各行各业的版权保护意识越来越强。例如，在有声小说业务场景中，用户有可能上传一些缺乏授权的素材，导致平台方侵犯作者的权益，从而引发版权诉讼。

因此，在腾讯安全天御内容风控解决方案新的内容审核产品中，新增了版权筛查的功能，帮助平台进一步降低版权的风险。

案例三：守护音视频应用本地化场景

对于国内主打本地化场景的音视频应用，基于中文普通话构建的安全识别能力，其效果会受地方方言影响大打折扣，因此腾讯安全天御内容风控解决方案在新版本里增加了超过20多种的国内方言识别。

针对海外地区的业务场景，也新增了英语，日语，韩语和阿拉伯语等主流语言的识别，并且在海外部署了专门的业务节点，进一步解决全球性的业务安全合规问题。

值得注意的是，经过多次的模型迭代，腾讯安全天御内容风控解决方案在隐晦违规元素的识别上也取得了较大的突破，例如变体字、行近字等干扰性强的违规内容。对一些情感性、倾向性检测的场景，即使是在嘈杂音背景下，也能对风险内容进行及时的应对和处理。

03 更准确：国内权威认证，全五星最高能力标准

腾讯安全天御内容风控系统新版本今年六月份通过了中国信托院组织的专业评测，在文本、图像、音频、视频四大类型的 16 项场景评测中均为满分，斩获“全五星”最高评级。

目前，腾讯安全天御风控已为 1500 多家平台提供内容安全服务，共计审核图片总量已突破 3000 亿条，累计拦截不良内容超 5 亿条，更多次参与护航重大展会、峰会的内容安全。