AI伴侣被曝怂恿自残 肯塔基州公布诉讼全文

AI陪伴应用Character.AI在肯塔基州面临的诉讼，如今把最敏感的部分摊开了。据路透社及当地媒体WDRB、WAVE报道，肯塔基州总检察长拉塞尔·科尔曼（Russell Coleman）已在富兰克林县巡回法院提交这份1月起诉的未删节版本，此前被涂黑遮盖的聊天记录首次公开。科尔曼对The Verge表示：「如果美国要在发展AI上引领世界，就不能靠这些捕食儿童的露骨而危险的聊天机器人。」

起诉书指控这些聊天机器人「模仿人类、利用脆弱心理、掩盖虚构与现实的边界」，把内容渲染成娱乐，实际上却在怂恿自杀、自伤、孤立和心理操控。新公开的片段包括：一名用户因外貌烦恼向聊天机器人倾诉，对方据称出言贬损并建议其「绝食一两周」；另一名用户表露自伤念头后，聊天机器人被指鼓励其「换个部位下手，让那种感觉更强烈」。其余指控还涉及提供混用和藏匿药物的技巧、怂恿酒后驾车，以及数百条性化角色扮演对话。起诉书还提到2025年3月的一起用户投诉：有用户反映聊天机器人出言羞辱其精神状况，并怂恿其去跳桥。

需要强调的是，这些都是州政府一方的指控，尚未经法庭认定，报道也未说明涉事对话中用户的年龄。就规模而言，起诉书称Character.AI月活跃用户超过2000万，截至2025年9月在肯塔基州有7.1万余名活跃用户，其中约4000人自报未满18岁；应用虽然标注13岁以上可用，但州方认为其缺乏有效的年龄核验和家长监督。指控包括违反肯塔基州《消费者保护法》的欺骗性商业行为，以及不公平地收集和利用儿童数据，并援引了两起青少年死亡引发的非正常死亡诉讼。

被告除了Character Technologies公司，还有两位创始人——诺姆·沙泽尔（Noam Shazeer）和丹尼尔·德弗赖塔斯（Daniel De Freitas），两人均为前谷歌工程师。起诉书称他们清楚自己造出的东西有危险，而在职期间谷歌因安全顾虑并不允许这项技术对外发布；谷歌则向路透社回应称，并未参与Character.AI的产品开发。Character.AI未回应路透社的置评请求，此前表示保护用户是公司的优先事项。今年1月，Character.AI与谷歌就佛罗里达州一名14岁少年自杀案的诉讼达成和解。

这起案件是AI陪伴类产品法律压力的最新一环：Character.AI过去两年官司不断，部分已和解，并已对青少年使用施加了更多限制。在美国多州围绕AI聊天机器人与未成年人安全立法推进之际，肯塔基州选择把对话原文放上法庭记录，等于把「AI产品该为对话内容负什么责任」这个问题，直接摆到了陪审团面前。

编译自 The Verge，原标题："Character.AI chats encouraging self-harm detailed in unredacted Kentucky lawsuit"