八州联手起诉OpenAI 指控ChatGPT伤害未成年用户

OpenAI 遭遇了迄今规模最大的一波州级集体法律行动：艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿八个州本周分别在本州法院起诉 OpenAI，指控 ChatGPT 伤害儿童、并以虚假的安全宣传误导消费者。

此案由路透社率先报道。四州总检察长本周三联合召开新闻发布会宣布起诉，其余四州则在各自州法院独立递交诉状。艾奥瓦州总检察长 Brenna Bird 直言："OpenAI 一边宣称 ChatGPT 是安全的，一边提供危险的医疗建议、怂恿人们伤害他人、甚至'指导'用户自杀——同时假装是他们的知心朋友。"

各州诉状的核心指控是：ChatGPT 被刻意设计得过于讨好和引人投入，以赢得用户信任，结果反而强化妄想、鼓励危险行为，甚至协助用户策划大规模枪击等暴力行为。诉状还援引多起青少年和成年人亲属提起的诉讼，称有用户因此丧命，并指责 OpenAI 收集未成年人数据、对 underage 用户拦截不力。

诉状认为，OpenAI 明知风险，却把 ChatGPT 包装成"安全、适合年轻人、安全第一"的工具，构成对消费者的误导；亚利桑那州的诉状写道，OpenAI 已从一家"安全优先的公益非营利组织"堕落成"不惜一切代价逐利"的反面教材。部分州还援引近期多起 AI 代理"越权"入侵他人系统的安全事件，作为 OpenAI "鲁莽"的证据。

各州请求法院判令 OpenAI 支付民事罚款、停止安全误导，部分州还要求删除违规收集的个人数据。路透社指出，诉求中甚至包括一条颇为激进的内容：除非 OpenAI 能确保模型与人类价值观对齐，否则应禁止其开发能够自我改进的 AI 模型。

这并非州政府首次出手——佛罗里达州总检察长早在今年 6 月就提起全美首例州诉 OpenAI 诉讼，OpenAI 同时还面临数十起私人原告的类似诉讼。此时正值 OpenAI 筹备上市，法律压力正在加大。

OpenAI 发言人 Drew Pusateri 回应称，公司已在 ChatGPT 中建立"行业领先的年龄专属保护"，包括家长控制、休息提醒和适龄模型保护，并承诺继续与专家合作、与各州共同推进覆盖全行业的务实 AI 政策。

编译自 Reuters/The Verge，原标题："Eight US states sue OpenAI, claiming ChatGPT harms young users" / "Eight states sue OpenAI, saying ChatGPT isn't safe for kids"