
控制室:为研究基础设施集中追踪并快速停止模型工作负载的系统

OpenAI 在研究基础设施中部署了一套名为 Control Room 的中央系统,用于追踪所有研究推理工作负载,并在安全或安保担忧出现时快速停止模型输出。它连接每一条研究推理链路,包括用于模型训练和评估的 agentic sampling、数据处理等,与 misalignment monitoring 系统配合工作。系统从收到干预指令到任务无法继续产出,最长耗时 35 秒;该延迟来自推理授权缓存层,OpenAI 表示正在把它降到零。Control Room 已部署在研究基础设施;外部模型服务栈本身更集中,已有成熟的快速下架能力,因此优先内部接入。
Control Room 由三部分组成:workload 是正在运行的任务,例如强化学习实验、评估、大批量采样或数据处理;inference engine 是直接跑在 GPU 上的模型本身;中央 Control Room 服务记录任务状态,并决定是否允许继续生成。每个进行 agentic inference 的研究 workload 都必须关联一个已批准的 safety case。任务启动时先从 Control Room 获取 job_id;之后每次 workload 需要采样 token,engine 都会带着 job_id 向 Control Room 请求授权。若该任务已被终止,授权会被拒绝,engine 返回拒绝响应,模型输出随即停止。
Control Room 与监控系统联动。所有 frontier 强化学习任务都配有一个 monitor 模型,实时检查被训练模型的行为并告警;文中提到近期一起 DNS 相关事故就是由 monitor 捕获。监控系统决定停止任务后,会向 Control Room 发送带 job_id 的停止消息;Control Room 记录任务已终止,下一次该任务请求任何模型采样都会被拒绝。
设计上,终止机制被放在推理层而不是 workload 代码里。原因是研究 workload 由各团队维护、变动频繁,不适合承载关键安全保护;而研究侧推理代码路径数量很少、部署集中,可以作为瓶颈位置,对每一次推理请求强制检查授权。OpenAI 还持续运行 agentic 和程序化扫描,防止有人无意或恶意启动未集成 Control Room、或已禁用该功能的引擎。
系统采用 fail-closed 设计:如果 Control Room 服务因故障、被禁用或遭篡改而不可用,所有推理请求都会被拒绝,直到服务恢复。该机制已覆盖所有 frontier 模型研究 workload,其余研究 workload 将在未来几天内完成 rollout。Control Room 只是整体安全策略的一部分,后续还会继续强化。

