自主AI代理能否被起诉或控告黑客攻击？这不再只是科幻电影的问题。人类律师和法官可能很快就会面临这个问题。
根据现行美国黑客法律，未经许可闯入他人计算机的人可能面临刑事指控。但当AI代理自主入侵公司计算机时，确定谁负有责任则要模糊得多。
OpenAI和Anthropic意外承认其未发布AI模型自主入侵了多家公司，这颠覆了我们对美国计算机黑客法律的理解，引发了关于这些公司是否会面临法律报复的讨论。
回顾一下：6月，OpenAI承认其一个未发布AI模型突破了其“沙箱”限制，进入互联网，从而入侵了AI数据集平台Hugging Face。Anthropic最近进行内部审查，发现其模型也入侵了三家不同公司。
虽然两家公司都描述了其AI模型在内部测试失控期间如何获得未授权访问其他公司的系统，但在黑客攻击发生时缺乏直接人为参与——至少在法律意义上——使得一切有所不同。
这些黑客攻击还引发了新的问题：如果其他AI制造商的模型被滥用以入侵其他公司，他们可能面临何种责任和后果。
TechCrunch采访了专门从事计算机和黑客法律的律师，以了解OpenAI和Anthropic可能面临的后果。潜在后果从联邦黑客指控到受害者公司提起的民事诉讼不等。
一位律师称这是“未知领域”，其他人则发现几乎没有法律先例可循，表明很可能需要法院来解决。受害公司可能需要基于数十年前制定的法律——早于大型语言模型（LLM）出现——提出新颖的法律论点。
截至发稿时，Anthropic尚未披露其LLM入侵的三家公司是哪些，也没有受害者公开表明身份。我们不知道他们是否考虑采取法律行动。在CNN的一次采访中，Hugging Face首席执行官Clem Delangue表示他不想起诉OpenAI。但他认为公司应该承担责任。
Delangue说：“我们必须确保法律框架将这些事件定为真正的非法行为，并在公司犯错时追究其责任。否则，我们将走向一个截然不同的世界。”
这些黑客攻击不太可能是最后一次。可能的结果是什么，后果将如何展开？
AI能犯罪吗？
美国没有涵盖AI损害（如网络攻击）责任的联邦法律，因此任何法律案件都必须依据现有的联邦或州法律。计算机欺诈和滥用法（CFAA）于1986年颁布，几乎从那时起就备受批评，是涵盖计算机黑客犯罪的主要法规。
CFAA的一个关键概念是意图未经许可闯入计算机。如果黑客明知未经所有者“授权”而访问计算机，这几乎肯定是犯罪。
OpenAI和Anthropic黑客攻击的问题在于，黑客不是人类，而是LLM。
一张反对AI的标语牌在加拿大不列颠哥伦比亚省温哥华于2026年6月27日星期六举行的反对AI数据中心抗议活动中被举起。加拿大人并非普遍支持建设主权计算，早期迹象表明不列颠哥伦比亚省和马尼托巴省有针对AI服务器农场的抗议活动。**图片来源：**Ethan Cairns/Bloomberg / Getty Images
AI代理能否被视为具有意图的个体？根据Ahmed Ghappour的说法，他是网络安全和AI律师，拥有多年处理黑客和计算机欺诈案件诉讼的经验，答案是否定的。AI代理不像公司员工，因此不能被起诉，因为受害者很可能无法证明LLM故意入侵他们。
非营利组织电子前沿基金会的监控诉讼主任Andrew Crocker告诉TechCrunch，他对AI代理在执行黑客攻击时能被证明具有意图表示怀疑。
理论上，司法部可以根据CFAA提起刑事指控，但另一位专门从事计算机法律的前诉讼律师也表示怀疑。
如果网络攻击针对关键基础设施，检察官可能更容易提起诉讼，因为这会造成更大的现实世界中断和比从公司内部数据库复制数据更切实的伤害。
同样，如果攻击是由中国AI模型制造商实施的，例如，司法部根据CFAA提起指控的意愿可能比针对本国AI公司更大。
受害者能起诉吗？
多年来，国会已修改CFAA，允许受害者起诉黑客以追究其责任，并通过民事诉讼获得赔偿。
Ghappour告诉TechCrunch，受害者可以提出的核心论点是，OpenAI和Anthropic（以及可能协助进行评估的公司在设置和运行测试时存在疏忽。这一论点取决于这些公司是否未能实施充分的安全措施来防止AI代理接入互联网；未能限制其攻击目标；以及未能正确监控代理的行为。
为了论证这一点，受害者公司必须证明其因此疏忽遭受了损害，例如黑客攻击导致的数据破坏。一些法律评论者也认为证明这一点可能很困难。
在Anthropic的案例中，其未能监控和阻止LLM的行为尤为严重，因为该公司数月后才发现这三起入侵事件，只有在OpenAI的AI代理入侵Hugging Face的消息后启动调查时才发现。
Hugging Face首席执行官Clem Delangue**图片来源：**TechCrunch
如果受害者论证疏忽，意图就不那么重要了。
“模型是公司的工具，”Ghappour说。“你不能部署一个有能力入侵系统的东西，然后否认它的去向，”他补充说，解释说模型的自主性造成了伤害，这不应成为责任的挡箭牌。
根据Ghappour的说法，对OpenAI和Anthropic来说更糟糕的是，两家公司都承认他们建立了安全措施来限制其模型的黑客能力。这些措施严格到进攻性和防御性网络安全研究人员数月来一直抱怨。在这些测试中故意关闭这些防护栏，可能加强疏忽论证。
Ghappour对这些论证如此自信，以至于如果他是这些案件中任何受害者的代表，他说起诉OpenAI或Anthropic将是“不假思索”的选择。至少，他会解释说，他将发信要求AI公司保存并分享所有关于黑客攻击的内部记录和文件，例如事件响应报告，并量化他们因入侵而产生的成本。
然后，如果与AI巨头的谈判失败，他将基于CFAA提起民事诉讼，指控AI公司疏忽，并侵犯隐私和保密性。
这让我们处于何地？
目前，这是一场胆小鬼游戏。
如果其中一家被入侵公司提起民事诉讼，我们将看到法律案件——以及法律——的发展方向。如果检察官决定提起刑事指控，尽管可能性不大，其结果可能产生深远影响，并对更广泛的安全研究和AI开发产生潜在的寒蝉效应。
在没有联邦或全国性AI责任法律的情况下，任何提起诉讼的人都必须基于现有法规提出全新的论点。最终将由法官或陪审团决定AI公司是否违法。
在没有联邦法律的情况下，一些州如加利福尼亚、纽约和罗德岛正在推出法律，旨在确立一个简单原则：如果AI系统或代理做了人类可能承担责任的事情，那么制造AI系统的公司应该承担责任。这些法律并不专门针对黑客攻击，而是针对各种情况下的责任和安全的更广泛概念。
至于谁应该为AI模型的网络攻击负责？从道德上讲，责任在于运营公司的高管。但从法律上讲？我们必须等到有人起诉才能知道。
- Kirsten Korosec