ALTK-Evolve 的核心做法是：让模型从 agent 自己在训练任务上的轨迹中提炼行为规则，再把规则追加到系统提示里；不需要更新权重，也不需要人工标注。用 GPT-4.1 这个较旧的非推理模型配合 τ²-bench 自带的 ReAct 脚手架，零售域达到 Pass^4 67.5%，在 2026 年 10 月 12 日给出的榜单快照里超过所有零售条目，并比在合成零售数据上微调过的 RAFT-30B-A3B（61.4%）高 6.1 个百分点。提炼规则和运行 agent 用的是同一个模型；除了一段 markdown 形式的 learned guidelines，policy、tools、scaffold 全部是 benchmark 原装。这项做法此前已在 coding agents 上验证过，本文把它用到客服场景。

τ²-bench 由 Sierra 提出，属于强约束客服场景：agent 要面对 LLM 模拟的客户、一组领域工具（查订单、退款、改签等）和一份必须遵守的书面政策；任务只有在最终数据库状态与预期一致时才判为成功，是严格二元奖励。评测覆盖 retail 与 airline 两个域，每任务跑 4 次。所谓 Pass^4，就是 4 次尝试全部通过的任务占比；Mean Accuracy 则是 4 次的平均成功率。实验使用 stock ReAct 的 THINK→ACT 循环，gpt-4.1 作 agent，gpt-5.5 作客户模拟器。学习到的规则包括：操作前先认证用户、对任何改动给出结构化摘要并等待明确批准、退款要逐项列出并说明到账时间、一步只做一个动作。每条规则带 support count，表示它从多少个不同训练任务中提炼而来。

作者比较了三种配置：无规则、sup3（只保留 support≥3 的高置信规则；retail 31 条、airline 14 条）和 lossless（全部保留；retail 292 条、airline 101 条）。在 held-out 测试集上，retail 的 Mean Accuracy 从 78.1% 升至 lossless 的 82.5%（+4.4），Pass^4 从 57.5% 升至 67.5%（+10.0）；sup3 只比基线略高。airline 的形态不同：Mean Accuracy 最高在 lossless（65.0%，+7.5），但 Pass^4 最高的是紧凑的 sup3（45.0%，+10.0），lossless 为 40.0%。指导量不是越大越好，support count 是可以按域调节的旋钮。

成本增加主要在输入侧。lossless 下每对话 LLM 总成本在 retail 从 $0.084 涨到 $0.139（+65%），在 airline 从 $0.081 涨到 $0.107（+32%）；sup3 分别增加 12% 和 19%。在同一 seed 下 baseline 和 guidelines 都解得出的任务集合里，lossless 在 retail 把 assistant 轮数从 10.59 降到 10.16，airline 从 9.15 降到 8.82；没有变体让对话变长，这意味着端到端延迟更低。由于 guideline 块在每次调用中相同，生产环境里大部分增量输入成本可用 prompt caching 收回。

为回应“学习规则只对弱模型有用”的质疑，作者用 gpt-5.5 同时作 agent 和规则提取器重跑 airline。基线为 72.5% Mean Accuracy / 55.0% Pass^4；加入规则后最高到 82.5% / 70.0%，Pass^4 提高 15 个百分点。该设定下规则 support 最高只有 2，因此高置信核心是 sup2 而不是 sup3。在 τ²-bench 要求上报的完整 base split（train∪test）上：retail 用 gpt-4.1 加 learned guidelines 以 67.5% Pass^4 排第一，超过那个微调系统；airline 用 gpt-5.5 达到 82.0%，超过所有 frontier entries（66%–72%）排第一；用 gpt-4.1 的紧凑 sup3 以 44% 排第八，超过 GPT-5.2（no reasoning），接近 Claude Sonnet 4.5。

文章把结论收敛为：agent 可以不更新权重、不靠人工标注，仅凭从自己轨迹中自动提炼的 prompt 级记忆同时提升能力与可靠性，且无测试集泄露。整个 trade-off 很明确——多付的是输入 token，换来的是更高准确率、更高 Pass^4 和更短完成时间，三个方向同时变好。