AI 开始接管 if 语句

杂货店后台有一堆规则:香蕉归生鲜,饼干归零食区,孜然归香料架。但香蕉烂了呢?饼干碎了呢?孜然结块了呢?规则之外总有例外。编码本质上是把这些规则和例外写进软件:AI 出现之前,程序是僵硬的;AI 能处理例外,比如通过图像搜索认出那个陌生水果是 Musa paradisiaca,香蕉的亲戚。

但处理“这是大蕉,所以归生鲜”这种逻辑,并不需要全世界最聪明的模型。新一波 AI 是高效的 if-then 判断器。Jev2SemIf 这类模型能在几百毫秒内回答这些问题,成本比传统 AI 降低 99%。它们的做法是简化现有模型:注意力计算只跑一次,再根据少量输出 token 算出每个允许答案的概率。

作者在自己代码里翻找交给 AI 的 if-then 语句,几分钟内就替换了其中一个 agent 里大约四分之一的调用。在 98 条人工验证的生产邮件线程上,这些专用判断器把分类准确率从 47% 拉到 80% 以上,几乎翻倍。软件由原语组成,if-then 是其中之一;优化这一个原语,成本降了近两个数量级,准确率还更高。

这引出两个问题:还有哪些编程原语能从同样的专门化中受益?AI 的经济学正在分化——前沿模型用于发现和训练,优化模型用于生产。我们用最大的前沿模型训练新模型、用最强模型搭建系统;但系统一旦工程化并跑上成千上万次,更窄的 AI 反而更划算。如果这是生产专用原语中的第一个,那么这些专用组件会捕获更多价值。

AI Comes for the If Statement

查看原文