iFeeling Daily

每天精选值得关注的 AI 动态

每天精选值得关注的 AI 动态

前沿技术

Google Cloud用Managed Lustre并行文件系统做KV缓存卸载，在6节点A3 Mega集群上跑Llama-3.3-70B，TCO省超50%，GPU小时减近60%，缓存命中率95%。混合CPU RAM卸载进一步优化首令牌时间。思路清晰，数据扎实。

Hugging Face和Cerebras搞了一套全开源的语音交互流水线，用Cerebras的超快推理加Gemma 4，把AI响应的尾部延迟压到几乎无感。已经跑在九千多个机器人上了，不是PPT方案。

BigQuery的对话分析正式上线，不是外面挂个聊天机器人，而是长在数据仓库里的原生Agent。核心技术路径是深度接地和强制可解释，解决了企业让AI碰数据的信任和治理难题。对BigQuery用户来说，这才是数据民主化的真正起点。

Anthropic 发布 Claude Science，一个专门为科研场景设计的 AI 工作台。它把 PubMed、Jupyter、HPC 集群等零散工具整合到一个会话式环境中，Agent 自动完成文献检索、数据验证和图表生成，并且每张图都附带完整的可复现代码和运行记录。

金融行业被老旧数据库和高昂许可费绑架，AlloyDB Omni让你在自己的机房里跑上Google级别的数据库引擎——100%兼容PostgreSQL，事务快2倍，分析快100倍，还能集成向量搜索做本地AI。Cynergy Bank和Apex Fintech已用上。

OpenAI 团队追踪 Rockset 中一个看似不可能的崩溃：函数正常执行完却跳转到空地址。通过构建自动化的核心转储分析管道，他们发现这不是一个 bug，而是分别隐藏了18年的 libunwind 竞争条件和一次硬件错误的两个独立事件。值得所有做底层系统的工程师一读。

AI评测结果混乱是公认的痛点，但没人真正动手清理。EvalEval联盟联合Hugging Face搞了个标准化JSON schema，把评测参数、来源和分数全部结构化，从31种格式中汇聚了22.9万条结果。一个评测提交，模型页面和完整记录同步更新，成本相比重跑节省几十万美元。

工业巨头用 ChromeOS 省了 70 万美元，设备寿命翻倍，部署从小时级变成分钟级。核心思路是把攻击面从管理所有终端，缩小到只管理一个浏览器加云端策略，再配合 Cameyo 处理遗留 Windows 应用，彻底告别昂贵的 VDI。

用Transformer同时估计概率密度和得分，无需针对新分布重新训练。在100维上比KDE误差降低37倍，还通过一致性损失实现了零样本自适应。一个值得关注的底层基础设施创新，有望降低生成模型、贝叶斯采样和科学计算的重复训练成本。