最高评级!腾讯安全天御内容风控全五星通过信通院能力认证
消息来源:baojiabao.com 作者: 发布时间:2024-05-15
近日,中国信息通信研究院、内容科技产业推进方阵发布 2022 内容审核服务系统评测结果,腾讯安全天御内容风控系统在文本、图像、音频、视频四大类型的 16 项场景评测中均为满分,斩获"全五星"最高评级。
本次内容审核服务系统评测基于《网络治理能力评估规范:第 2 部分-有害信息内容识别服务系统》,从内容识别系统的图像、文本、音频、视频的智能识别基础功能、性能两个维度对产品进行评测,并根据性能测试结果评定星级。其中,5 星是本次评测的最高能力标准。
获得五星认证的难度相较往年有所提升。本次测评中增加了变体测试和对抗测试,同时测评样本来源也进行更新,极短音频、边缘图片等复杂场景增加,这对参与测评系统的内容识别精准性、识别策略灵活性也提出了更高的要求。腾讯安全天御内容风控系统在四大核心测评场景中均取得五星成绩,足见其在内容安全领域的能力优势。
腾讯安全天御内容风控解决方案依托腾讯 20 多年黑灰产攻防经验,以人工智能为核心,通过风控策略的灵活调度,打造覆盖图片、文本、音频、视频全内容形态的 AI 智能内容风控服务,为网络空间清朗保驾护航。
在内容识别样本维度,腾讯在多年产品运营过程中积累了万亿级违规样本,覆盖各个行业的数百种违规类型,并实时跟进监管要求,能够高效识别过滤涉黄、涉恐等违规内容;在底层算法维度,腾讯安全天御内容风控融合了数十种算法技术构建综合识别模型体系,避免单一模型误判,使机器审核识别准确率高达 95% 以上。
此外,随着风控标准和内容对抗形态升级,腾讯安全天御内容风控体系也紧跟企业需求迭代升级,配合精细化标签体系,并支持灵活的策略配置以适配不同的应用场景。
针对越来越多"语音转文字"的社交场景,如 IM 聊天消息、多人语音通话、语音聊天室等,天御内容风控体系在精准识别低俗语音等违规内容同时,还可借助语音识别(ASR)引擎,转译语音内容,通过文本内容风控系统,帮助用户进一步处理社交场景中产生的音频数据。
随着各内容平台多元功能和用户属性的演变,内容风控还涉及不同语种场景的分类检测。目前,天御音频审核系统在常见的普通话、英语外,还支持粤语、蒙语、藏语、维语、日语、韩语等小语种及方言的语音内容识别,大大提升了音频审核覆盖的广度和深度,可有效应对新型对抗变异的内容形态。
资源交易、账号交易、虚假兼职等广告信息,往往混杂在海量真实信息中让人难以分辨,并通过多种手段如同音字转换、文字转拼音等生成对抗变异内容。腾讯安全天御内容风控体系可分别提取内容形态中的关键元素,综合视、音、图、文审核能力进行识别过滤,对风险广告进行及时的应对和处理。
目前,腾讯安全天御风控已为 1500 多家平台提供内容安全服务,共计审核图片总量已突破 3000 亿条,累计拦截不良内容超 5 亿条,更多次参与护航重大展会、峰会的内容安全。
2022-09-13 16:53:32相关文章
- 美国法院裁定阿里须为Squishmallows玩具侵权案答辩
2023-12-28 19:59:34
- 小米汽车传员工3700人 雷军称小米汽车不可能卖9万9
2023-12-28 19:41:57
- 国家新闻出版署:认真研究《网络游戏管理办法(草桉徵求意见稿)》关切 实行前进一步完善
2023-12-28 19:14:56
- 天猫新规可以无条件申请“仅退款”了?淘宝天猫又离狗多多零元购近了一步
2023-12-28 18:57:55
- 印度以打击金融犯罪为由逮捕了两名 vivo 高管
2023-12-26 16:49:01
- 在国外微信收不到国内信息?微信和WeChat将被拆分
2023-12-15 10:40:15
- 苹果iPhone15 系列手机发布最新消息 预计上市发布时间9月
2023-08-06 23:21:02
- 华为将发布鸿蒙HarmonyOS4操作系统 功能五大升级支持设备清单
2023-08-06 23:17:37
- 整治自媒体网红账号 400万粉丝网红发布擦边视频被无限期封禁
2023-07-12 09:56:09
- 网传微信文件传输助手是真人是真的吗?微信官方回应
2023-06-27 15:53:32
- 电信移动送手机成了“信用购”?你上了运营商的贷款套路了吗?
2023-06-12 17:18:55
- 中国电信广东地区崩了无信号 客服回应已在核实处理
2023-06-08 15:39:04
- 消息称小米新能源汽车价格表正讨论定价区间:双版本不同配置,高配或超 35 万元
2023-03-06 12:56:03
- 华为因制裁被传或分拆剥离手机业务? 内部人士回应:可能性不大.
2023-03-05 23:26:41
- OPPO正式发布安第斯智能云,让终端更智能
2023-02-24 16:02:27
- 华为与OPPO签订全球专利交叉许可协议 包括5G蜂窝通信专利
2023-02-24 16:02:26
- 老蛙将推MINI镜头新品:目前未知具体规格 官宣将于12月20日发布
2023-02-24 16:02:26
- 首发全新35mm定制光学系统 努比亚Z50性能同样强悍
2023-02-24 16:02:25
- Redmi K60屏幕细节曝光:全系标配2K护眼柔性直屏+5000mAh大容量电池
2023-02-24 16:02:25
- OPPO Find N2今天发 合金金属折叠屏更轻了
2023-02-24 16:02:24