
困惑度与智能

OpenAI 在一篇新博文中提出一个核心论点:现代 AI 看似由多种针对性技术拼装,实际上主要来自一个更简单且不可解释的过程——在大规模语料上训练压缩器(等价于预测器)。理解 AI 的进步,关键在于追踪训练更好压缩器的进展,而不是不断更换的下游 benchmark;后者在 GPT-4 附近已基本饱和。作者主张把困惑度(perplexity,等价于交叉熵损失)作为跨实验室比较模型、制定共享安全标准的指标,并为此公开了 OpenAI 内部的预训练困惑度测量。作者承认这会让竞争对手看清 OpenAI 的位置,但建立全行业安全措施的紧迫性压过了这种顾虑。
困惑度衡量模型平均预测下一个 token 的能力,越低越好。文中给出了 log-perplexity 与能力跃迁的对应关系:GPT-2 曾刷新旧数据集上的困惑度 SOTA,成为第一个稳定写出连贯段落的模型;GPT-3 展现上下文学习;GPT-3.5 在约 0.99 时具备流畅对话能力,构成最初 ChatGPT 的基础;GPT-4 在约 0.91 时能有效进行思维链推理。当损失降到 0.8 以下,模型在网络安全和数学领域出现变革性能力;到了约 0.76,模型开始连续解决作者团队长期思考的开放数学问题。作者强调,这些能力在达到对应阈值之前并非先验可知,它们是单一指标持续进步带来的涌现潜能。
基于数学领域看到的突然爆发,作者认为预训练研究也可能发生类似转变:虽然该领域更依赖实验,但历史上常有简单洞见被忽视多年,因此设想最快在 2027 年出现雪崩式的一连串根本性预训练进展。他还区分了完全自动化的递归自我改进——这种状态为保持人类控制显然应当避免——以及 AI 参与预训练算法研究这个关键环节;后者可能带来被常见讨论忽视的阶跃变化。作者也预期 AI 会对齐与监控方面的进展有显著贡献,但认为其速度不太可能赶得上预训练侧的加速。
在安全治理上,作者建议前沿模型开发者共同建立共享透明度标准,约定如何评估模型、首次使用前如何对其安全案例进行红队测试;并基于困惑度等指标约定一个共同开发上限。在理解与监控 AI 行为达到某个具体里程碑(例如开发出 CoT monitors 的后继者)之前,各方承诺不越过这条线。作者希望这成为连续设限、有节奏推进开发的行业框架,也是构建共享科学基础的第一步。
他也列出困惑度作为共享指标的挑战:不同实验室使用不同的评估数据集和数据配比,难以直接横比;困惑度不直接对应具体任务,其价值在于预示新能力;思维链等训练后手段不会降低困惑度却会大幅提升能力;数据固有熵未知,困惑度不可能降到 0,越接近下限,同样的降幅对应的智能跃迁越大。尽管有这些局限,作者认为困惑度经受住了时间考验,值得成为行业讨论 AI 进展时的共同语言。

