AI 政策窗口已开启,OpenAI 呼吁立即行动

OpenAI 发表政策立场文章,认为 AI 能力已进入新阶段,政策必须随之更新。核心主张是推动强制性、基于能力的国家 AI 安全监管,同时支持州级立法、行业标准和国际协调,并强调安全与进步并不矛盾,安全是进步的前提。

在联邦层面,OpenAI 呼吁国会通过强制性、基于能力的监管框架,并援引其《前沿 AI 民主治理蓝图》作为路径参考。该框架应包含通用测试、独立评估、更强网络安全保护、明确事件报告规则、国家准备措施,以及追踪递归自我改进的共享指标。公司明确表示,监管应聚焦于少数资源充足的顶尖实验室,避免对初创企业和小开发者造成负担,同时不应将前沿安全政策变成开源权重政策的变相限制。OpenAI 认为,开源和闭源模型对美国都重要,联邦框架不能削弱竞争或固化现有巨头地位。

在州级层面,OpenAI 宣布支持加州四项新法案:SB 813(建立独立风险评估组织认证流程)、AB 1405(AI 审计师的注册、独立、透明和问责要求)、SB 1119(对青少年陪伴聊天机器人实施年龄验证、风险评估、独立审计和家长控制)、AB 1864(要求基因合成服务商遵循联邦筛查标准,防范 AI 生物威胁)。这些法案已通过州议会,正等待州长签署。OpenAI 表示,其中部分法案过去曾反对过,但鉴于近期能力跃升,经重新考虑后转为支持。公司还强调了此前支持的加州 SB 53、纽约 RAISE 法案、伊利诺伊 SB 315 等,并提出了“反向联邦制”概念——各州先行建立事实上的国家标准,最终由国会统一立法。

在行业层面,OpenAI 呼吁前沿实验室共同制定自愿性监控标准,重点防范“错误对齐”(misalignment)——即模型以违背人类意图的方式追求目标。公司特别强调,随着模型自主性增强、工具使用更复杂、运行周期更长,开发者必须监控此类行为,并建立明确披露义务。OpenAI 正在制定“严重错误对齐事件报告框架”,并希望以此影响联邦政策。公司还表示,愿意与其他实验室合作推进自愿标准,即使没有政府支持也会继续,但行业标准不能替代强制性联邦监管。

在国际层面,OpenAI 主张建立兼容的国际标准,涵盖能力度量、风险管理、人类控制,以及何时应放缓或停止开发。公司首席科学家 Jakub Pachocki 曾撰文指出,机器智能的快速崛起(包括递归自我改进的潜力)需要“极度谨慎”。OpenAI 承认,完全自主的递归自我改进目前尚未发生,但 AI 已在加速研究过程——最新研究显示,AI 智能体能完成熟练研究人员需数天才能完成的部分任务。OpenAI 的目标是在人类监督下构建自动化 AI 研究员,用每一代模型帮助下一代更安全、更对齐、更可控,而非单纯提升能力。

文章援引 Greg Brockman 的“防御者窗口”概念,认为政策制定者面临类似的“窗口期”——在强大攻击性能力普及前建立持久防护。OpenAI 表示,未来若无法满足安全门槛,将放缓或停止开发和部署,这是其准备框架的既有要求。公司强调,美国无法仅靠能力领先赢得 AI 时代,信任是广泛采用的前提,强有力的安全防护是持久领导力的基础。文章最后呼吁“利用这个窗口”,承认没有完美的第一步,但等待太久将是更大的风险。

The AI policy window is open. We need to act.

查看原文