Arcee称中国模型并非天生危险

随着中国开源权重模型的能力和受欢迎程度提升,关于是否应禁止它们的争论再次升温。美国开源AI实验室Arcee的CTO Lucas Atkins在TechCrunch采访中表示,中国模型并不比其他开源软件更危险,禁令并非正确应对方式。

Atkins解释,这些模型(如Moonshot AI的Kimi K3或Alibaba的Qwen)虽然是“开放权重”而非完全开源,但其可运行的源代码在Hugging Face等平台上是可见且可审查的。企业可以将其纳入安全测试和审查流程,进行后训练以定制用途,从而在投入使用前充分理解模型。他认为,模型训练方式决定了开发者无法在用户自有环境中访问或控制模型,因此所谓的“后门威胁”缺乏现实基础。

关于模型可能在生成代码时植入恶意后门的担忧,Atkins承认理论上存在可能性,但实现难度极高,需要极其复杂的触发条件,且当代大模型的创造性特性使得可靠输出恶意代码的概率极低,企业也几乎不会直接采用可疑代码。同时,企业正构建模型无关的AI应用,使用多个模型,因此即使当前中国模型性价比最优,也不会被长期锁定。

Atkins指出,他的公司Arcee本身也从中国开源模型中获益:通过研究其方法并加以改进,形成良性循环。他强调“尊重那些模型的开发者”,并认为竞争的正确方式是发布更好的模型,而非施加禁令。最终建议是“给人们一些可谈论的东西”——通过创新而非封锁来取胜。

Arcee, a US open source AI lab, says Chinese models are not inherently dangerous | TechCrunch

查看原文