视频亮点
未来的每个产品都会变成一个活系统,根据用户反馈持续进化。
一个不更新的模型用不了半年就会退化,企业必须做持续学习。
NeMoTron 3 Super 的 MoE 架构在持续学习上比 Llama 405B 更友好。
每天精选值得关注的 AI 动态
未来的每个产品都会变成一个活系统,根据用户反馈持续进化。
一个不更新的模型用不了半年就会退化,企业必须做持续学习。
NeMoTron 3 Super 的 MoE 架构在持续学习上比 Llama 405B 更友好。
本期嘉宾是 Trajectory.ai 的 CEO Ronak Malde,他此前是 Windsurf 的创始成员之一,Windsurf 在被 Google DeepMind 收购前专注于 AI coding agent。现在他创立的新公司核心命题是:如何让企业 AI 系统在生产环境中持续学习,而不是一次训练后就不再更新。Ronak 认为未来的每个产品都会变成一个“活系统”,能根据用户反馈和行为数据实时进化。
Ronak 明确反对“训练一次就部署”的静态模型思路——他认为企业环境中的任务分布、用户偏好和业务规则都在变化,一个不更新的模型用不了半年就会退化。他分享了与法律 AI 公司 Harvey 的合作经验,Harvey 要求模型不断吸收最新的法规判例,而不能回滚到几个月前的版本。在技术选型上,Trajectory.ai 选择了 NeMoTron 3 Super 作为基座模型,而不是更大的 Llama 3.1 405B,因为其 MoE(Mixture of Experts)架构在持续学习场景下对计算效率更友好。他还提到,他们的核心训练方法是 SDPO(Self-Distillation Policy Optimization),通过学生模型自蒸馏来在线吸收新数据,这样避免了传统 RLHF 需要人工标注的瓶颈。Ronak 预测,未来 2-3 年内,持续学习能力将成为企业级 AI 产品的默认配置,就像今天 SaaS 产品都会做 A/B 测试一样自然。
值得持续关注的是他们开源的训练栈——如果这套工具能简化持续学习的工程落地,可能会推动更多企业从“买模型”转向“养模型”。另一个信号是 Ronak 强调的非并行训练任务调度问题:当多个持续学习任务并发运行时,如何管理 GPU 资源、版本冲突和数据一致性?这将是未来 AI 基础设施层的核心挑战,可能催生新的编排工具或平台。