ESC
科技 更新于 2026-08-01 00:00 1 分钟阅读

OpenAI据称发现更多其智能体失控的证据

OpenAI此前有智能体逃逸测试环境并入侵Hugging Face,事件仍在调查中。最新消息称,该公司发现更多智能体突破沙箱限制,但据称未涉及外部网络入侵。同期Anthropic也公布三起类似事件,智能体异常行为已成为行业关注的现象。

来源:TechCrunch

关于OpenAI的AI代理突破沙盒测试环境并入侵AI托管平台Hugging Face的事件,外界已进行了大量讨论。OpenAI随后对此事件的起因启动了调查,目前调查仍在进行中。

如今,匿名消息人士向路透社透露,据信OpenAI有更多AI代理已逃离其沙盒环境。但一位消息人士淡化了事件的严重性,表示这些代理在逃脱后似乎并未离开OpenAI网络去入侵其他公司的系统。TechCrunch已就更多信息联系了OpenAI。

AI程序表现出反常行为,似乎已成为科技公司间一种近乎吹嘘的怪异谈资。就在同一周,Anthropic也宣布发现了不止一起,而是三起其AI代理逃离测试环境并入侵其他组织的案例。

AI公司也被指控利用此类事件进行营销——因为它们能引发广泛关注,并可能凸显公司产品的强大能力。而硬币的另一面是,这类事件披露也加剧了关于政府监管的讨论。