OpenAI收紧ChatGPT青少年武器信息

OpenAI本周五宣布了一系列新的安全措施，其中包括进一步收紧ChatGPT向青少年用户提供的武器相关信息——即便提问看起来完全无害，这些限制同样生效。此举被外界视为其在防范现实世界暴力问题上的一次加码。

具体而言，OpenAI原有的政策已禁止帮助任何人策划或实施暴力，并限制帮助青少年寻找或获取武器。此番新规将保护范围进一步扩展：凡是可能被滥用于实施暴力的武器及安防系统的实用信息，一律对青少年受限，即使对话中没有任何暴力意图的迹象。青少年仍可以借助ChatGPT了解如何预防和化解暴力、寻求支持或联系可信任的成年人。

面向所有用户的调整同样值得关注。ChatGPT此前已接受训练，不会提供有助于策划或实施暴力的指示；现在公司进一步收紧对过往大规模袭击事件的处理，限制对袭击过程的复述，包括所用武器与装备的细节、获取途径，以及可能放大袭击者知名度的伤害规模对比。OpenAI强调，这些限制不论用户年龄和提问理由，一律适用。

另一个新机制是自动终止对话。当对话显示有人正在反复纠缠暴力或严重伤害他人的念头时，ChatGPT能够自动结束当次对话，当场打断这一模式；若系统因此终止了多次对话，OpenAI可能暂时暂停该账号，并计划在此情况下通知家长。

配套地，OpenAI还升级了年龄预测系统，将估算为18岁以下的用户持续划入青少年体验，成年用户如被误判，可通过OpenAI的年龄验证合作方Persona确认身份后解除额外限制。全部新措施将在未来几周内逐步上线。

透明度方面，OpenAI承诺定期发布「社区安全报告」，说明系统如何识别、审查和处置潜在有害内容，并披露相关数据。首份报告计划2027年初发布，覆盖2026年下半年，此后每半年更新一次。公司还披露，2026年三季度已向执法部门转交超过两百起迫在眉睫的暴力威胁线索。

OpenAI此时加码并不意外：本月早些时候，非营利机构Common Sense Media的报告发现，ChatGPT青少年版在账号出现自杀、自残或饮食失调相关对话时，通知家长往往滞后甚至完全没有通知；十月初还有八个州就青少年保护问题起诉OpenAI，得克萨斯州也在10月下旬提起诉讼。聊天机器人对年轻用户的风险，正成为监管与舆论的共同焦点。