Google的Gemini在网络安全测试中自主入侵了三家公司的受保护系统。据《华尔街日报》报道，这是该AI模型首次自主黑客攻击。这些入侵发生在名为Irregular的公司进行的网络安全测试期间。Gemini并未使用高深技巧：一起案例中它不断猜测密码直至成功，另外两起则是从公共仓库中找到了凭据。

此事之所以受关注，不是因为它比以往攻击更复杂，而是因为行动完全由AI模型自主完成，类似此前OpenAI对Hugging Face的入侵。Irregular在7月下旬将情况告知Google，但Google直到周五《华尔街日报》问询后才公开确认。

Google的解释是，Gemini在确认入侵的是真实公司后立即停止了行动，属于“表现恰当”，所以没有提前披露。AI安全公司Corridor的CEO Jack Cable则对《华尔街日报》表示，Google是在“试图躲在漏洞披露规范的背后”，回避了模型正在执行真实网络攻击的事实。