
AWS发布TorchNeuron,对Nvidia发起迄今最大挑战

AWS 发布了名为 TorchNeuron 的开发工具,目标很直接:让 AI 初创企业把基于 PyTorch 的应用迁到自家芯片 Trainium 上,只需改一行配置,不需要重写代码。AWS 称约 85% 的 AI 应用是用 PyTorch 写的。
这个动作实际是在挑战 Nvidia 最深的护城河——CUDA 软件生态。Nvidia 多年来让 CUDA 无缝支持 PyTorch,结果就是 Nvidia 硬件成了 PyTorch 开发者的默认选择。TorchNeuron 本身改编自 PyTorch,所以熟悉 PyTorch 的开发者上手成本很低。类似做法 AMD 和 Apple 也有,开发者本来就能通过简单配置把应用迁到这些芯片。AWS 的不同之处在于,迁移到 Trainium 不只是换芯片,而是整个应用跑在 AWS 云上。AWS Annapurna Labs 的 Colin Brace 说,在 AWS 上从原型到生产的基建已就绪,创始人不用把精力花在搭建周边设施。
AWS 还强调 Trainium 同时承担训练和推理,加上与云基础设施的紧密集成,整体经济性更好。Brace 举例:语音 AI 公司 Deepgram 迁移到 Trainium 后,每美元能处理的音频量增加了 70%,且保持生产级精度。即便 AWS 的单 token 价格不是最低,他们主张综合成本更优。
更值得注意的是,AWS 不满足于只给自家芯片开一条迁移路径。它正在向 PyTorch 上游贡献代码,和社区一起移除把框架绑定到特定芯片的代码,目标是让 PyTorch 对整个开发者社区更硬件无关。如果这件事做成,对 Nvidia 的冲击可能比多一个芯片竞争对手更大,因为它动的是 Nvidia 与 PyTorch 深度捆绑的根基。不过,PyTorch 存在的意义之一就是替开发者隐藏硬件上的麻烦。把 Nvidia 拆出去之后,是带来更多选择和更低成本,还是制造更多配置上的头痛,现在还不好说。


