APP下载
报价宝  ›  人工智能  › 

OpenAI升级儿童防护 新分类器免费开放

报价宝 来源:baojiabao.com 发布时间:2026-11-17 01:55:12 11月17日更新
报价宝综合消息OpenAI升级儿童防护 新分类器免费开放

据TechCrunch报道,OpenAI宣布推出一揽子新工具,用于打击儿童性剥削内容(CSAM),涵盖图像检测分类器、ChatGPT警示与临时封禁、开发者指南以及面向执法机构的工具包。在AI工具使用安全担忧持续升温的背景下,这是该公司在儿童保护方向上动作最大的一次集中升级。

核心是全新的图像分类器:它能识别包括AI生成图像在内的儿童性剥削内容,对从未见过的图像也能找出视觉上的虐待特征,并给出评分供人工审核参考。该分类器由OpenAI与美国全国失踪与受虐儿童中心(NCMEC)联合开发,将经由Tech Coalition和ROOST两个行业组织向入选企业免费开放API。早期合作测试显示,它在检出违法图片数量不变的前提下,把需要人工过目的图片减少了48%,而被它标记的图片中真正属于违法内容的比例翻了一倍,显著减轻审核员负担。

ChatGPT端也加上了「前置拦截」:当用户试图生成或获取美化儿童性内容的信息时,应用会弹出警示屏,说明此类内容有害且可能违法,引导用户寻求专业支持,并暂停账号24小时作为警告;屡犯者账号将被永久关闭。这套劝阻信息的措辞由Protect Children、Lucy Faithfull基金会和塔斯马尼亚大学的Joel Scanlan等机构与研究者参与设计,后者还独立评估了试点中的警示效果。

对开发者和执法机构,OpenAI分别给出配套支持:开发者指南帮助使用其工具的团队预防、检测儿童性剥削内容,并完成向NCMEC的法定报告登记;执法部门则可获得专用插件、调查工具和复杂数据分析能力,由项目管理员统一控制权限,OpenAI还将为办案人员提供培训和现场手册。

此次升级的背景并不轻松:OpenAI正面临多起指责其技术伤害未成年人用户的诉讼,专注儿童安全的非营利机构Common Sense Media曾将其技术评为对青少年「不可接受的风险」;竞争对手Grok也已被曝被人用来生成非自愿的性化图像。过去12个月里,OpenAI陆续发布安全蓝图、收紧内容准则、重训模型阻止有害输出,并推出了面向青少年的专用版ChatGPT。

编译自 TechCrunch,原标题:"OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM"

文章标签: OpenAI ChatGPT 儿童安全 CSAM AI安全 内容审核 NCMEC 报价宝 降噪耳机价格 耳机价格 红米手机价格 华为手机价格 小米手机价格 电视机价格 笔记本电脑价格 笔记本价格 汽车价格 手机价格 汽车价格 电视机价格 红米手机价格 降噪耳机价格