图片说明：2026年8月16日拍摄的图片插图中可见Anthropic标志。
作者：Laura Cress（科技记者）、Nardine Saad
Anthropic表示，已识别并阻止了利用其AI模型进行可能支持生物武器开发的"恶意活动"的企图。
这一发现来自该公司最新的威胁情报报告，是AI研究人员和业内人士对这项技术对人类潜在风险日益增多的一系列警告中的最新一例。
这些警告已促使人们呼吁采取行动，美国参议员Bernie Sanders要求暂停高级AI开发并禁止人工超级智能。
特朗普总统迄今拒绝了此类担忧，他周四表示，他担心的是"如果我们不能赢得AI竞争，我们将处于非常不利的境地"。
该公司
随着各公司试图展示自己如何识别并阻止滥用其模型的企图，此类报告已成为AI行业的常态。
其中包括Google，该公司周二撰文称，有人曾试图使用其AI工具Gemini获取"合成武器化生物制剂的完整分步技术指南"。
根据报告，Anthropic的AI模型Claude也被与一个位于俄罗斯的网络间谍活动有关的行为者以及一个伊朗宣传机构使用。
过去八个月内发现的值得关注案例，从虚假交友应用和酒店Wifi骗局，到旨在识别异见人士的监控系统。
Anthropic还指责中国AI公司试图复制Claude的能力。
这份长篇报告列出了疑似国家支持的组织、罪犯、间谍软件供应商、国家宣传机构以及有政治动机的个人滥用其技术的案例。
报告称，2025年12月至2026年8月期间，其Claude Haiku、Sonnet和Opus模型的"恶意使用"已被阻断。
除一例蒸馏（利用更大、更昂贵的模型训练较小AI模型的过程）外，没有任何滥用案例涉及Claude Fable或强大的Mythos级模型。
Anthropic表示，除了检测到其模型被用于网络与影响力行动、监控、骗局欺诈以及武器开发外，还阻止了以可能支持生物武器开发的方式使用其AI的科学家。
报告重点介绍了"五个行为者以可能支持生物武器开发的方式使用我们模型的案例研究"。
报告称，生物学滥用是"前沿AI模型最严重的风险之一"。Anthropic表示，如果没有适当的防护措施，这些能力"可能带来灾难性后果"。
Anthropic表示：“可用于开发生物武器的信息，同样也可以用于开发，例如，疫苗或疾病疗法。”
Anthropic威胁情报负责人Jacob Klein对《纽约时报》表示，这是一个"极其微妙的情况"。
他说：“你不会看到有人像漫画书里那样直白地说，‘嘿，我想制造一种生物武器来杀死所有人。’”
报告还提到了六个案例，其中Claude被"用于开发常规武器相关软件，包括枪支、导弹、武装无人机、炸弹及其他弹药，以及操作这些武器的瞄准和控制系统"。
- 为什么一些专家越来越担心AI将接管世界
- Anthropic研究员认为AI"可能杀死所有人类"的概率超过10%
报告指出，网络罪犯和国家支持的黑客已越来越多地利用其技术协助自身行动。
黑客组织ShinyHunters以及位于中国的实验室均在报告中被点名。
报告还表示，一个其工作手法与位于俄罗斯的Midnight Blizzard一致的黑客组织，据称使用AI构建了一套系统，可自动检测其恶意软件何时被安全防御机制标记，并反复重写代码直至规避检测。
这家位于加州的公司表示，已将调查发现纳入自身流程，“以便在未来更好地预防、检测和阻止这些活动”。
Anthropic表示，已在适当情况下与政府当局和行业合作伙伴共享情报。
图片说明：观看：“慢下来”——Bernie Sanders提出禁止AI超级智能的法案
这份报告——该公司今年的首份报告——发布之际，Anthropic一名顶级安全研究员此前警告称，AI发展速度如此之快，他认为未来十年内AI"可能杀死所有人类"的概率超过10%。
在一篇文章中，“我担心没有人准备好应对机器智能持续快速崛起所带来的后果，“Pachocki表示，并补充说，开发ChatGPT的OpenAI将继续构建安全防护措施，但仍需要更广泛的干预。
这一警告促成了一封致英国首相Andy Burnham的公开信，呼吁制定一项新的多边条约以确保AI的安全开发，并呼吁各国政府就基于超级智能发展的条约应具备何种形态展开协作。
在美国，民主党议员Bernie Sanders已提出立法，禁止AI超级智能并暂时暂停高级AI开发。
“当科学家告诉你存在一种可能性，一种可能对人类造成灾难性影响的可能性时，如果你不说’慢下来’，那你就是个傻子，“他周四在BBC的Newsnight节目上表示。
Osmond Chia补充报道。
- AI"垃圾内容"正在改变社交媒体——反弹正在酝酿
- 万亿美元AI竞赛核心的矛盾
图片说明：绿色宣传横幅，黑色方块与矩形组成像素，从右侧移入。文字为：“Tech Decoded：每周一将全球最大科技新闻送达您的邮箱。”
订阅我们的Tech Decoded通讯，追踪全球顶级科技新闻与趋势。身在英国之外？在此注册。