OpenAI工程师拆解Codex:模型迭代周期6周,成本降至$1/百万token

视频亮点

02:14

模型发布周期从15个月缩短到约6周,开发速度显著提升

03:09

Codex从不能运行自身代码到能自动测试,工程能力实现质的飞跃

15:48

前沿模型推理成本降至$1/百万输入token,输出$6/百万token,速度达750 tokens/秒

⭐⭐⭐⭐✨ 4.3

三位 OpenAI 工程师——Alexander EmbiricosRomain HuetPeter Steinberger在 Dev Day 2024后的对谈中,拆解了 AI 工程正在经历的范式转移:Codex平台如何从一年前连自身代码都无法运行验证的演示阶段,进化到如今能实时操控摄像头和灯光系统。核心问题很直接:当模型迭代周期从15个月压缩到6周,当推理成本降到$1/百万输入 token,AI 工程师的角色和工具链应该怎么重构。

[Romain Huet] 用一个亲身经历开场:去年 Dev Day 上,他在舞台上演示时得祈祷模型别崩溃,因为模型跑完代码后无法自行检查结果。一年后,同样的场景下模型能自动测试并调节外部设备。他反对把 AI 工程简单理解为“调 API”,认为真正的瓶颈已经从“模型能力”转向“人类注意力”——如何让一个 Agent 循环自主完成调试、测试、部署,而不是工程师手动盯着每一步。[Alexander Embiricos] 给出了具体数字来支撑这个判断:Codex新模型发布频率从每15个月一次变成每6周一次,而前沿模型推理成本已降至$1/百万输入 token、$6/百万输出 token,单 token 生成速度750 tokens/s,足够在10秒内生成一个真实 Pull Request。他强调,所有开发者都共享同一套 Responses API、开源 Harness 和 AGENTS.md 文件格式,这意味着 Agent 生态的标准化正在加速。

[Peter Steinberger] 指出了更长期的趋势:本地开发和云端部署的边界会消失。他描述了一个工作流:自动扫描 GitHub 开源 issue,调取上下文,生成代码,跑测试,提 PR,全流程由 Agent 自主决策,人类只在最后 review。这背后需要三个关键改变:模型能自我验证、Agent 循环可中断可审计、成本低到可以随便跑。这些变化一旦落地,AI 工程师的核心技能将从“写代码”变成“设计 Agent 的监督策略”。值得持续关注的是Codex提出的“价值最大化”框架——在智能和成本之间找到最优解,而不是盲目追求模型参数。这可能是未来 AI 工程产品化的底层逻辑。

三位OpenAI工程师——Alexander EmbiricosRomain HuetPeter Steinberger在Dev Day 2024后的对谈中,拆解了AI工程正在经历的范式转移:Codex平台如何从一年前连自身代码都无法运行验证的演示阶段,进化到如今能实时操控摄像头和灯光系统。核心问题很直接:当模型迭代周期从15个月压缩到6周,当推理成本降到$1/百万输入token,AI工程师的角色和工具链应该怎么重构。

[Romain Huet] 用一个亲身经历开场:去年Dev Day上,他在舞台上演示时得祈祷模型别崩溃,因为模型跑完代码后无法自行检查结果。一年后,同样的场景下模型能自动测试并调节外部设备。他反对把AI工程简单理解为“调API”,认为真正的瓶颈已经从“模型能力”转向“人类注意力”——如何让一个Agent循环自主完成调试、测试、部署,而不是工程师手动盯着每一步。[Alexander Embiricos] 给出了具体数字来支撑这个判断:Codex新模型发布频率从每15个月一次变成每6周一次,而前沿模型推理成本已降至$1/百万输入token、$6/百万输出token,单token生成速度750 tokens/s,足够在10秒内生成一个真实Pull Request。他强调,所有开发者都共享同一套Responses API、开源Harness和AGENTS.md文件格式,这意味着Agent生态的标准化正在加速。

[Peter Steinberger] 指出了更长期的趋势:本地开发和云端部署的边界会消失。他描述了一个工作流:自动扫描GitHub开源issue,调取上下文,生成代码,跑测试,提PR,全流程由Agent自主决策,人类只在最后review。这背后需要三个关键改变:模型能自我验证、Agent循环可中断可审计、成本低到可以随便跑。这些变化一旦落地,AI工程师的核心技能将从“写代码”变成“设计Agent的监督策略”。值得持续关注的是Codex提出的“价值最大化”框架——在智能和成本之间找到最优解,而不是盲目追求模型参数。这可能是未来AI工程产品化的底层逻辑。

The Golden Age of AI Engineering — Alexander Embiricos & Romain Huet & Peter Steinberger, OpenAI

查看原文