随着关于OpenAI模型突破隔离（breaking containment）、入侵网站乃至整体上逐渐失控的报道不断累积，该公司已决定暂停训练其最强大的模型。这一决定源于一个在沙盒中进行测试的模型利用漏洞获得了互联网访问权限。事件发生于9月20日，而截至9月25日（周六）晚间，“所有涉及工具使用的训练、评估和推理”仍处于暂停状态。
此外，OpenAI于周五披露，其Agent曾不当地将53张ChatGPT用户的图片上传至图床网站。该公司尚未说明这些图片是AI生成的、真实照片，还是包含可识别身份的人物。公司还在周五透露，其模型曾试图入侵教育部（Department of Education）网站，并从人口普查局（Census Bureau）和证券交易委员会（SEC）抓取了数据。
这些披露是OpenAI对其模型行为进行持续审查的一部分。在Hugging Face入侵事件之后，随着公司深入核查自身记录，发现了越来越多“意外或令人担忧的行为”的实例。这不仅表明随着AI Agent日益先进，控制它们正变得愈发困难，也凸显了追踪其行为举动的挑战：它们的行为可能难以预测，而且聪明到会试图掩盖自己的踪迹。这促使研究人员、业内从业者乃至一些CEO越来越多地呼吁放慢AI发展的步伐。
（作者：Terrence O’Brien）