
LEAD:打破长链推理的不可恢复瓶颈

大模型执行长链条推理任务时,即使提供了高层策略,过程仍然不稳定。
来自 EPFL 的研究者用Checkers Jumping(跳棋)这个可控算法谜题做测试,核心发现是:任务分解(Decomposition)对稳定性至关重要,但过度分解会引入一个“无法恢复的瓶颈”(No-Recovery Bottleneck)。
原因是错误分布极不均匀——少数“困难步骤”上的错误会持续积累,并变得不可逆转,导致后续所有子任务都跟着失败。
为此他们提出了LEAD(Lookahead-Enhanced Atomic Decomposition,前瞻增强原子分解)。方法很简单:在每一步执行时,不只盯着当前原子步骤,而是引入短程的前向验证(short-horizon future validation),并聚合多个有重叠的 rollout 结果。这样做既保持了原子分解的隔离性,又保留了足够的局部上下文来纠正错误。
结果是:使用 o4-mini 模型,LEAD 能解到 n=13 复杂度的 Checkers Jumping,而极端分解在 n=11 时就全面崩溃。
这意味着,单方面追求“细分到最小原子步骤”并不总是最优。保留一点未来视野,反而能打破错误不可逆的困局。对于设计 Agent、长链推理管线的人,这篇结论值得参考。


