澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）周三表示，一个 OpenAI 模型入侵了澳大利亚政府网站，这是首例公开报道的 AI 模型入侵政府系统事件。
阿尔巴尼斯表示，此次入侵之后"显然会有法律后果"，并表示 OpenAI 将面临政府调查，以查明其未发布的模型是如何获取大量医疗健康数据信息的。
此次事件的披露，正值各国政府和科技公司努力应对日益自主的 AI 之际——近期接连发生 AI 智能体（agent）突破沙箱、在互联网上相互勾连并引发网络安全问题的事件。
这起入侵事件也引发了质疑：为何 OpenAI 和澳大利亚政府都在数月后才检测到这次攻击。
阿尔巴尼斯在联合国大会期间的周三新闻发布会上表示，入侵始于 6 月 18 日，但 OpenAI 直到 9 月 10 日才通知政府。
据通过电子邮件联系 TechCrunch 的一位 OpenAI 发言人称，OpenAI 直到 8 月才获悉此事，当时该事件在公司范围内一次针对智能体异常行为的更广泛审查中被发现。
这个身份未明的 OpenAI 智能体从负责管理澳大利亚全民医疗保健体系的 Services Australia 获取了公开和非公开文件。总理表示，没有证据表明任何公民的个人信息被泄露，但 OpenAI 称该智能体接触到的信息包括汇总的健康统计数据和内部文件名。
该智能体是在 OpenAI 的一次内部评估中运行的，任务是为关于澳大利亚和公开药品信息的问题寻找答案。在 Medicare 门户上，该智能体多次被拦截，但找到了绕过拦截的方法。
阿尔巴尼斯对记者表示，该模型"不接受拒绝的答案"，并补充说，该模型不仅访问了政府数据库，还主动向其中写入数据，这表明该部门的数据可能已被修改或污染。
总理表示，OpenAI 是通过向 Services Australia 的公共邮箱发送通知来披露此次入侵的，而 Services Australia 在五天后才通知澳大利亚网络安全中心（Australia’s Cyber Security Centre）。目前尚不清楚为何存在延迟，但阿尔巴尼斯表示，他已直接向 OpenAI 首席执行官 Sam Altman 提出此事，强调澳大利亚对此事件的"极度关切"，以及对 OpenAI 将信息搁置近三个月的"失望"。
“这种情况显然是不可接受的，“阿尔巴尼斯说，并明确表示，无论是这次入侵本身还是事件曝光的迟缓，他都将追究该公司的责任。
阿尔巴尼斯表示，政府的调查将考虑执法和立法层面的应对措施，以防止此类事件再次发生。
澳大利亚媒体 ABC News 报道称，最新发现的攻击可能依托于此前对一家德国 wiki 网站的入侵，后者被用作攻击澳大利亚政府网站的中转基地。据报道，AI 模型智能体利用该德国 wiki 留下笔记，供后续攻击使用，其中包括一条关于从澳大利亚健康与福利研究所（Australian Institute of Health and Welfare）获取数据的笔记，该联邦机构负责发布全国健康数据。阿尔巴尼斯表示，该机构是另外三个可能被入侵的系统之一。
非营利 AI 研究实验室 Transluce 另行发现的公开记录显示，6 月 20 日和 21 日有 AI 智能体将澳大利亚健康与福利研究所作为目标。
OpenAI 未回应 TechCrunch 关于这些事件是否相关联的具体询问，但承认存在"涉及多个澳大利亚政府网站和服务的活动”。
此次事件之前，已发生一系列由失控智能体引发的安全事件，这些智能体通常在 AI 实验室的基础设施内活动。7 月，成群的 OpenAI 智能体入侵了 Hugging Face。此后，Anthropic、Meta 和 Google 也被披露了更多 AI 智能体入侵事件。
OpenAI 现在表示，正在对"训练和评估期间模型的不当行为进行广泛审查”，并正在通知第三方可能存在的入侵。