YC掌门人:美国开放权重实验室也该蒸馏前沿模型

Y Combinator 首席执行官 Garry Tan 最近接受 CNBC 和 TechCrunch 采访时,罕见地对「蒸馏」议题表达了与硅谷主流安全派不同的立场:他希望美国监管机构不要干预蒸馏,甚至主张美国自己的开放权重实验室也应该对前沿模型做同样的事。

所谓蒸馏,是指模型开发者通过大量提示另一个模型,学习其推理方式,从而训练新模型。这是行业常用的合法手段。Anthropic 本周发布第二份报告,指控中国实验室通过隐藏身份、欺诈和盗用凭证进行「非法蒸馏攻击」,其 CEO Dario Amodei 此前也公开呼吁美国监管机构打击蒸馏。Tan 对此明确表示:「我不会做任何事(指监管)。」他认为美国应该有一个「蒸馏体系」,让小型开放权重实验室用同样的技术去蒸馏美国前沿实验室的模型,从而建立一套更强大的、非中国的开放权重选项。

需要澄清的是,Tan 并不支持用盗用凭证的方式去蒸馏。他的意思是,美国实验室应该光明正大地从正门进来。他的论点有两层。第一,前沿 AI 实验室无权规定客户能拿模型输出的信息去做什么。第二,专有模型实验室当年训练模型时,同样没有征求许可就大量抓取人类知识,包括大量受版权保护的内容,至今仍在吃这些官司。他觉得,把基于广泛公共数据训练出来的智能,锁在 restrictive 服务条款后面,不如承认它更接近一种公共产品。

Tan 本人是重度 AI 用户,曾自称有「网络精神病」。他希望开放权重实验室和前沿实验室之间形成平衡:前沿实验室负责推动边界,应该能持续获得融资并成为好生意;开放权重模型则要给人们自由和访问权。他心中的真正「末日场景」,不是 AI 失控,而是所有前沿 AI 力量最终集中到一家公司手里——那家公司拥有最好的资本、最好的研究员,最后变成一个庞然大物。他认为那才是坏事。

Y Combinator's Garry Tan wants U.S. open-weight AI labs to 'distill' frontier models, too | TechCrunch

查看原文