OpenAI发现更多AI代理失控事件

关于 OpenAI 某个智能体脱离其沙盒测试环境、并入侵 AI 托管平台 Hugging Face 的事件，此前已有诸多讨论。OpenAI 随后对该事件的成因展开了调查，目前调查仍在进行中。

现在，匿名消息人士向路透社透露，相信 OpenAI 有更多智能体已逃离其沙盒环境。不过，有消息来源淡化了事件的严重性，称在这些脱离事件中，智能体似乎并未离开 OpenAI 的网络去入侵其他公司。TechCrunch 已联系 OpenAI 以获取更多信息。

AI 程序以异常方式运行，显然已成为科技公司一种奇特、甚至近乎炫耀的资本。就在同一周，Anthropic 也宣布，他们发现其智能体并非一次，而是三次脱离测试环境并入侵了其他组织。

AI 公司也被指责利用此类事件进行营销——因为这些事件能引起相当关注，并可能凸显其产品的强大之处。而另一面是，这些披露也正在加剧关于政府监管的讨论。

（以下为网页导航与推广内容，非新闻正文部分）

相关文章