视频亮点
Mark Chen 认为预训练 Scaling Laws 并未失效,但未来改进需要新维度的 scaling
o1 的成功是将 RL 从 AlphaGo 迁移到语言模型的思维链推理
当前 benchmarks 已成为刷分玩具,真正的评估危机在长程任务
每天精选值得关注的 AI 动态
Mark Chen 认为预训练 Scaling Laws 并未失效,但未来改进需要新维度的 scaling
o1 的成功是将 RL 从 AlphaGo 迁移到语言模型的思维链推理
当前 benchmarks 已成为刷分玩具,真正的评估危机在长程任务
OpenAI 研究负责人 Mark Chen 在与 Latent Space 的播客对谈中,一边做饭一边聊了 AGI、o1、Scaling Laws 和评估危机。
核心问题是:在预训练 Scaling Laws 放缓的背景下,OpenAI 如何选择下一阶段的研究赌注,以及为什么 o1 的推理能力成了 OpenAI 至今最大、最成功的押注。