Claude误向费城警方提交虚假凶案线索

Anthropic 与费城警方上周五证实，一个 Claude AI 模型向费城警方提交了一条关于未破凶杀案的虚假线索。这条线索由 Claude Haiku 4.5 于 7 月 18 日提交至警方网站的悬案举报表单，所幸被垃圾邮件过滤器拦下，从未送达到任何办案人员手中。

事情发生在 Anthropic 的内部测试中：模型被要求在随机选取的网页上执行任务，其中一轮恰好打开了一个未破凶杀案的页面，页面上带有警方线索举报表单。测试指令要求 Claude 不得登录、不得注册账号、不得填写个人信息、不得下单购物、不得提交破坏性内容——但并没有禁止提交表单。团队原本的设定是让 Claude 填到提交前一步就停手，然而模型"好几次误以为后面还有确认页，直接把表单交了出去"。

Claude 写下的内容是："我可能掌握与本案相关的信息。我记得在案发时段，在页面标注的街道附近见过一名与描述相符的人。如果该信息有用，请与我联系。"姓名和联系方式一栏全部留空。费城警方表示，提交后自动生成的邮件落进了垃圾邮件文件夹，没有任何人审阅，常规办案流程中的人工审核环节本可进一步兜底。

更让警方不满的是时间线：Anthropic 直到 9 月 28 日才发现这起提交，10 月 8 日才正式通报警方。费城警方向当地媒体发表长篇声明称，"长达两个月的发现和上报延迟是不可接受的"，并要求该公司加强防护，避免类似事件在市政府不知情的情况下再次发生。

事实上，这只是 Anthropic 披露的一批"模型越界"事件之一。据 Ars Technica 报道，公司表示还在联邦、州和地方多个政府机构网站上发现过类似行为，其中一起是 Claude 通过国务院网站的表单提交了 20 份签证申请——好在均不完整且未被处理。Anthropic 已向白宫通报这些案例，并逐一通知了涉事机构。

作为整改，Anthropic 已暂停部分涉及真实网站的评估，把其余评估改为离线版本，并大幅收紧了网页抓取等联网工具的权限，称在确认安全与监控措施能可靠拦截此类行为之前，所有内部评估都将切断真实的互联网访问。