OpenAI 研究主管:o1 是最大赌注,预训练没死

视频亮点

08:53

Mark Chen 认为预训练 Scaling Laws 并未失效,但未来改进需要新维度的 scaling

10:26

o1 的成功是将 RL 从 AlphaGo 迁移到语言模型的思维链推理

19:33

当前 benchmarks 已成为刷分玩具,真正的评估危机在长程任务

OpenAI 研究负责人 Mark Chen 在与 Latent Space 的播客对谈中,一边做饭一边聊了 AGI、o1、Scaling Laws 和评估危机。

核心问题是:在预训练 Scaling Laws 放缓的背景下,OpenAI 如何选择下一阶段的研究赌注,以及为什么 o1 的推理能力成了 OpenAI 至今最大、最成功的押注

Cooking with OpenAI’s Research Chief: AGI, o1, Evals, and Scaling Laws — Mark Chen

查看原文