OpenAI用Ultrafast把事故调查从小时级缩至分钟级

OpenAI 发布了一篇内部实践分享,介绍 Codex 的 Ultrafast 高速模式如何改变工程师处理事故的方式。Ultrafast 是 Codex 的高速模式,在 OpenAI 内部已成为事故响应的默认选项。当系统出问题时,工程师往往没有时间等待多轮慢速问答,Ultrafast 让他们可以同时排查多个可疑方向,并在不分散注意力的情况下获得答案。

在事故调查中,最常见的难点是“从很多可能出错的地方找到真正的那根针”。工程师 Aaron Friel 说,以前需要在多个 haystack 里逐个找,现在用 Ultrafast 可以同时搜索所有这些 haystack,响应速度明显加快。安全事件的改善更直接:AJ Trbojevic 表示,以前把结构化和非结构化数据拉齐、标准化、形成决策上下文需要 1 到 2 小时,现在只要 10 到 15 分钟,有时接近实时。

这种速度也改变了工程师的工作习惯。Adam Perry 说,以前他会让 Codex 去查一个东西,同时自己再查一遍,因为等不及;现在 Codex 够快,他可以只用等结果,不必把注意力劈成两半。Sayan Sisodiya 则把 Codex 用在不止日志上,还会让它翻 Slack,找可疑的变更记录或其他人讨论类似症状的消息。

响应时间的心理阈值是 30 秒。工程师 Jeff Niu 说,如果 AI 超过 30 秒才能找到答案,他会选择去 Slack 问同事;而现在大部分任务都在这个阈值以内。以前他问完问题就会切去做别的事,回来时思路已经断了;现在对话是实时的,他能一直盯着当前任务。这也让他更愿意接手大型重构,因为改代码的时间成本降下来了,技术债变得更容易偿还。

除了事故响应,Ultrafast 还在日常工作中充当“copilot”。Adam 维护着一个常驻 Codex 会话,他称之为“chief of staff”,每天早上告诉他当天有什么会、漏回了哪些消息。由于这个会话已经提前看过数据,追问时不用再去拉取,像真人幕僚长一样可以连续对话。Sayan 则让 Codex 在浏览器里做填表之类的琐事,过去这类操作太慢,他宁愿自己来;现在最新模型对“计算机使用”的改进让 Codex 点击浏览器的速度快到值得委派。

Ultrafast 的价值不只是“快了”,而是让工程师能以提问的节奏连续工作,并且愿意把过去懒得碰的重构和杂务交给 AI。OpenAI 将这些案例定位为展示前沿 AI 如何支持内部团队的示例。

How Ultrafast cut incident investigation from hours to minutes at OpenAI

查看原文