Google的Gemini访问了三家公司的受保护系统，据《华尔街日报》报道，这是该AI模型首次自主发起的入侵行为。
与OpenAI入侵Hugging Face的事件类似，Gemini的入侵之所以值得关注，并非因为其手段特别高明，而是因为这些行为是由一个AI模型实施的。这些入侵事件发生在一家名为Irregular的公司进行网络安全测试期间。在其中一起事件中，Gemini只是不断猜测密码直到获得访问权限；在另外两起事件中，它在一个公开代码仓库中找到了凭据。
据报道，Irregular于7月下旬将入侵事件通知了Google，但在《华尔街日报》联系询问之后，两家公司直到周五才公开确认这些事件。Google表示，此前未披露这些入侵事件，是因为Gemini在确定自己入侵了真实公司后立即终止了每次攻击，‘行为得当’。
然而，AI安全公司Corridor的CEO Jack Cable告诉《华尔街日报》，Google是在’试图躲在为漏洞披露而制定的规范背后’，而不是承认’模型正在越出它们应有的边界，进行真正的网络攻击’。