
专用存储如何最大化AI加速器ROI

Google Cloud的技术文章认为,企业AI基础设施的重心已经从购买加速器转向保持加速器满负荷运转。存储在AI总支出中占比很小,但存储选型错误会让昂贵的计算资本闲置。数据I/O成为主要瓶颈:加速器在等待读写数据时,就是在浪费钱。Gartner预测企业未来几年将部署超过150,000个Agent,I/O瓶颈和存储编排问题会进一步加剧。标准企业存储,即使针对分析优化过,也难以满足AI负载的突发I/O需求。
文章强调,AI不是单一工作负载。模型训练时,集群需要高吞吐读取数据集,但会周期性突发写入检查点。数千块GPU同时保存检查点时,传统云存储的性能会剧烈下降——为了记录文件,元数据事务把系统和网络拖垮,整个GPU集群冻结。服务器故障时,慢存储还会让例行恢复变成数小时的停机。推理则相反,实时且延迟敏感。集群要频繁加载和卸载PB级模型库,慢存储会让GPU冷启动等待。此外,超过100,000 token的上下文窗口会占满加速器内存,没有高速外部缓存,用户下一个问题到来时加速器必须重算此前输入,造成大量重复计算。
为解决这些问题,Google Cloud把计算、网络、存储深度集成。其存储基础是Colossus,也是Google搜索、YouTube、Gemini背后的分布式文件系统。文章称,世界十家领先AI前沿模型实验室有九家运行在Google Cloud基础设施上,过去两年Google Cloud与这些实验室及自有基础模型团队协同设计了存储架构。
两个专用存储产品是核心。Cloud Storage Rapid面向对象存储:单个bucket最高15 TB/s吞吐、2000万QPS、亚毫秒延迟,适合流式训练数据集和检查点恢复;Rapid Cache作为读加速器,无需改代码,提供2.5 TB/s聚合读吞吐,把冷启动时间从小时级压缩到分钟级。Managed Lustre面向并行文件系统需求,与DDN合作,每实例最高10 TB/s吞吐,能吸收同步检查点和强化学习的读写突发;新的Dynamic Tier把冷热数据合并到单一命名空间,消除缓存性能悬崖;Cloud Storage Mirror自动同步后台数据,减少训练前的等待。
客户案例提供了具体结果。Thinking Machines Lab用Rapid Cache稳定了1.8 TB/s以上的读吞吐峰值,缓存命中率89%,消除了跨区域架构中的限流突发错误。Shopify全球部署50多个Rapid Cache,峰值吞吐超2 TB/s,延迟比基线降低90%。Salesforce AI Research用Managed Lustre作为外部缓存,最多减少40%的GPU即可支撑代理推理工作负载。Atlassian在GKE上采用Managed Lustre,把抢占中断恢复时间缩短到五分钟,吞吐相比NVMe系统提升近5倍,GPU利用率提高70%。Harmonic用Managed Lustre训练数学推理模型,实验中断减少50%,启动时间减半,数据检索速度提高15倍。
文章给出的建议是:评估token经济学而不是传统存储指标;不要为每个新工作负载创建独立数据副本,把主数据放在统一基础中,按需分层;同时需要企业级可靠性、安全性和自动化成本纪律。核心结论是,让存储速度匹配计算速度,才能最大化加速器投资回报。

