GPU 融资转身:首笔推理芯片抵押贷款4亿美元

所有人都在抢 GPU 的时候,最聪明的那批资本已经转向了。General Compute 拿到了 4 亿美元贷款,抵押物不是英伟达芯片,而是 SambaNova 的推理专用芯片 SN50。这背后是一个很痛的现实:GPU 被超买到稀缺,但真正跑推理的企业根本用不起那么贵的东西。训练模型只是一次性成本,推理才是每天烧钱的地方。

用 GPU 做推理就像用超级计算机发邮件——慢、贵、而且浪费。市场上大部分公司不需要训练千亿参数模型,他们只需要低成本、低延迟地跑开源模型。GPU 的垄断导致推理价格居高不下,这恰恰是空白。

Why the first GPU financiers are turning to inference chips in a $400 million deal | TechCrunch

查看原文