iFeeling Daily
每天精选值得关注的 AI 动态
Gartner 首次 AI 基础设施报告:Google 凭什么成领导者

Gartner 把 Google 评为 AI 基础设施领导者,理由不是芯片最快,而是背后的系统设计思路。从自研 TPU 分拆训练和推理、到用 Hypercomputer 把百万芯片拧成一台机器,再到常态下省钱的弹性伸缩——这套方法论才是真正拉开差距的东西。适合所有正在纠结“该上哪家云”的团队,读完你会懂得自己到底该为什么买单。
Transformers模型在vLLM上实现原生级推理速度
Transformers模型现在能在vLLM里跑出原生速度了,不需要写任何定制代码。HuggingFace用torch.fx加AST重写技术,自动把模型操作融合成vLLM的高效内核,实测4B到235B的Qwen3都持平甚至超越手写实现。模型作者的代码写一次就能同时用于训练和推理,这是生态整合的一大步。
Stoke Space:用软件调度解决AI算力浪费问题

别只盯着GPU换代了,算力浪费才是AI最离谱的成本黑洞。Stoke Space用软件定义的方式把散落在角落的机器调度成高性能算力池,顺手把分布式训练的损耗压到7%,这才是未来五年真正的CPU/GPU赌注。
法国AI新星ZML发布免费推理软件,打破芯片锁定

法国AI创业公司ZML发布免费推理服务器ZML/LLMD,让同一个大模型在Nvidia、AMD、Google TPU等不同芯片上都能跑出极限速度。20人小团队想打破芯片锁定,给企业真正的硬件选择权。
AI芯片公司SambaNova完成10亿美元融资

SambaNova刚融10亿美元,估值110亿美元,被摩根大通选为私有推理伙伴。这家公司专做超大模型推理,一个机架跑万亿参数,避开公有云,瞄准企业主权云。金融和政府客户终于有了本地跑大模型的选择。
Vercel CEO论模型与代理的拆分之争

AI代理最大的障碍不是能力不够,而是企业不敢让它们自由访问数据。Vercel CEO拆解了为何空壳的C++代码可能被AI工具泄露,以及他们如何通过沙箱和网关让代理既聪明又可控。模型和代理最终应该分离还是耦合?这决定了谁才是下一个AWS。
SK Hynix 美国 IPO:AI 繁荣下的内存赌注

当人人都盯着 Nvidia 时,SK Hynix 用近 300 亿美元 IPO 告诉市场:AI 背后最真实的瓶颈可能是内存。苹果已经因为内存短缺被迫涨价,而这家韩国巨头能否成为下一个 700% 涨幅的 Micron?产能硬烧出来的护城河,往往是黄赌徒般的冒险。
从Hugging Face到SageMaker Studio:一键直达

从Hugging Face发现模型到SageMaker Studio实验,现在只需一键点击。模型自动预加载,权限和GPU配额全自动配置,再也不用手动折腾环境。AWS和Hugging Face的这次集成,真正把“从发现到部署”的摩擦降到了最低。
用 SkyPilot 在任何云上跑 AI,数据存 Hugging Face,零出口费
跨云跑 AI 任务最烦的就是数据出口费,这个方案直接把 Hugging Face 的存储挂载成 SkyPilot 的任务后端,用 hf:// 链接就能在任何云上零成本读数据,训练和推理的调度不再被存储位置绑架。