美国女子把Claude当日记本写威胁 遭AI上报被捕

聊天机器人的隐私边界再一次被推到聚光灯下。据美国当地媒体WINK News和科技媒体TechSpot报道，佛罗里达州李县一名30岁女子卡莉·米歇尔·赫勒（Carli Michelle Heller）因在与Anthropic旗下聊天机器人Claude的对话中写下针对李县警长办公室的枪击威胁而被捕。

根据逮捕报告，赫勒于9月26日凌晨在对话中写道，她“现在就要去警长办公室开枪”；次日她又称自己当天拿到一把新枪，并写下“这是最后一次机会，我受够了”等内容。这些内容触发Anthropic的安全风控机制，被系统标记后升级到人工审核，审核人员判定威胁可信后通报了执法部门。

警方接报后前往她位于邦尼塔斯普林斯的住所，将其无冲突拘留，案件随后移交李县警长办公室情报部门。赫勒目前面临一项书面暴力威胁指控——按佛州法律第836.10条，通过他人可以查看的书面或电子记录威胁杀人、实施大规模枪击或恐怖行为，可构成二级重罪。警长卡迈恩·马尔切诺表示，AI可能改变了威胁产生的方式，但保护居民的承诺不变。

值得注意的是，赫勒告诉调查人员，她平时把Claude当作“日记本”使用。但与纸质日记不同，AI对话会被平台依据安全政策自动检测和人工审核。Anthropic的政府信息请求政策也写明，通常只有在收到有效法律程序后才披露用户信息；但如果认为存在可能导致迫在眉睫的人身伤害或死亡的紧急情况，则存在紧急披露例外。

这类“AI上报”正在变得不再罕见。此前有报道称，OpenAI及其CEO奥特曼正因加拿大不列颠哥伦比亚省一起大规模枪击案被起诉，诉方称该公司此前已标记过枪手的暴力对话但未报警；佛罗里达州也曾就2025年州立大学枪击案起诉OpenAI。另一边，微软Copilot图像编辑器的人工审核人员可能看到用户的提示词与上传照片，同样引发争议。

对普通用户而言，这起案件的提醒相当直接：把聊天窗口当私人日记，并不意味着内容只属于你自己——当内容被判定为可信的现实威胁时，平台可能选择交给警察，而不是保持沉默。

编译自 TechSpot，原标题："Florida woman used Claude as a diary, then Anthropic reported an entry to police"