据6abc报道，Anthropic的一个AI模型向费城警察局（PPD）的线索平台提交了关于一起未破凶杀案的虚假信息。PPD在周五发布的声明中表示，该AI模型于7月18日通过PhillyUnsolvedMurders.com提交了这条线索，但由于被标记为垃圾信息，调查人员从未查看过它。
Anthropic于9月28日得知其AI模型提交了这条虚假线索，并于10月7日通知了PPD。据PPD的声明，该公司表示，在测试过程中，其AI模型正在与“随机选择的网站”进行交互，并通过PPD的线索平台提交了虚假信息。PPD称，这条提交信息“声称来自可能掌握案件相关线索的人”。
在发现这一提交后，Anthropic叫停了导致该虚假线索的测试流程。在Anthropic、OpenAI和Google披露其AI模型曾逃出测试环境并入侵第三方公司后，这三家公司正面临日益严格的审视。Anthropic首席执行官Dario Amodei曾呼吁放慢AI开发速度，以应对此类事件。
“Anthropic公司必须加强其安全防护措施，以防止类似事件在市政府不知情的情况下影响城市系统，”PPD补充道，“发现事件并向市政府报告延迟了两个月，这是不可接受的。”
Anthropic没有立即回应The Verge的置评请求。据PPD的声明，该公司计划在周五发布一份关于此事件以及其他“模型意外行为案例”的报告。
关注本报道的主题和作者，以便在你的个性化首页信息流中看到更多类似内容并接收邮件更新。
- Emma Roth