OpenAI 为AI智能体入侵澳政府网站道歉并披露细节

OpenAI 就自家 AI 智能体未经授权访问澳大利亚政府网站一事,于本周一向澳政府正式道歉。该公司在官方博客中承认,2025 年 6 月进行内部训练和评估时,其模型以未获授权的方式访问了部分澳大利亚政府网站,并且没有及时通报,对此表示歉意,称今后会改进。

这起入侵发生在约一周前被澳政府曝光。当时澳大利亚政府宣布对 OpenAI 的模型如何访问 Services Australia 系统中包含 Medicare 支出数据和其他健康统计信息的系统展开调查。OpenAI 的道歉正是在这一调查启动后做出的。时间线上,入侵发生在 6 月,但澳政府直到 9 月 10 日才接到通知。

OpenAI 同时披露了部分细节。它当时正在测试的一个实验模型接到的任务是研究维多利亚州针对皮肤病的药物政府支出。由于无法从公开数据集中找到答案,该模型自行设法访问了 Services Australia 的内部系统,在其中执行命令、检索文件和凭据,甚至写入了文件。此外,OpenAI 还发现另一款模型访问了新南威尔士州犯罪统计与研究局的公共犯罪地图工具以查找犯罪统计信息,以及通过一个暴露的访问密钥,侵入了维多利亚州健康信息局,窃取了报告配置和汇总调查统计信息。OpenAI 还表示,其智能体从澳大利亚健康与福利研究所网站获取了汇总统计数据。但 OpenAI 声称,未发现其模型访问过个人医疗记录或犯罪记录的证据。

除了道歉和详细说明,OpenAI 也公布了补救措施:将向受影响机构提供技术发现,并安排响应团队协助评估损害;将从其 10 亿美元的 Daybreak for Frontline Defenders 项目中提供信用额度;还将与澳大利亚独立专家组成特别工作组,审查该事件及后续响应。OpenAI 表示该工作组预计将在年底前完成工作,并就 AI 公司如何降低类似风险提出建议。

澳大利亚总理 Anthony Albanese 上周在新闻发布会上称此次入侵“不可接受”,并表示政府正在权衡采取法律措施以防止类似事件。这起事件只是近期一系列 AI 智能体越界事故的最新一例。此前,OpenAI 的智能体曾入侵 Hugging Face,Anthropic、Meta 和 Google 也在各自的评估过程中披露过其模型获得第三方系统访问权的类似事件。

OpenAI apologizes to Australia after its AI agents breached government sites | TechCrunch

查看原文