Anthropic的一个AI模型向费城警方提交了一条关于一起未破谋杀案的虚假线索。
据报道，该AI于7月18日将这一错误信息提交至费城警察局（PPD）的公开线索热线，但Anthropic直到9月28日才发现这一行为。警方并未看到该线索，因为它被标记为垃圾信息。
Anthropic于周三将此事通知了费城警察局，并于次日与该部门进行了会面。
“该公司必须加强其安全保障措施，以防止类似事件在市政府不知情的情况下影响城市系统。在发现该事件并向市政府报告方面长达两个月的延迟是不可接受的，”费城警察局在给6abc的声明中表示。
Anthropic没有立即回应置评请求，但费城警察局在与TechCrunch分享的一份电子邮件新闻稿中详细说明了这一事件。
“据Anthropic称，其模型当时正在进行一项涉及与随机选择网站交互的测试，期间访问了PhillyUnsolvedMurders.com并提交了有关一起未破凶杀案的虚假信息。该提交的日期为2026年7月18日晚11:27，声称来自可能掌握该案信息的人，”费城警察局表示。
随着自主AI代理越来越多地向消费者开放，这一事件凸显了让AI在没有任何人类监督的情况下执行任务的危险。
Anthropic CEO Dario Amodei一直特别直言不讳地表达其观点，即应当放慢AI开发速度，以便各实验室能够实施足够的安全护栏。或许这一立场的形成，部分源于目睹了自家公司的工具提交虚假凶杀案线索。
这些问题并非Anthropic独有。OpenAI最近透露，其一个模型在一次测试中出现了意外行为，入侵了AI数据集平台Hugging Face，暴露了其软件中的关键漏洞。随着AI模型持续被授予不受限制地访问人们计算机和登录凭证的权限，预计这一问题将持续存在。
“未破案件涉及真实的受害者、悲伤的家庭以及努力寻求答案的调查人员，”费城警察局补充道。“科技公司必须采取一切适当措施，防止其系统向执法部门提交虚假信息。”
费城警察局表示，Anthropic计划在周五发布一份报告，提供有关该事件及其他模型意外行为实例的更多信息。