
PrismML 把微型 LLM 带进高通智能眼镜

PrismML 是一家由加州理工学院研究人员创立、UC Berkeley 教授 Ion Stoica 担任顾问的 AI 实验室。它把自家的小型语言模型移植到了高通骁龙芯片上,目标是在智能眼镜这类设备上本地运行 AI。
在周三的高通骁龙峰会上,高通展示了 PrismML 的 1-bit Bonsai LLM。这个模型可以完全本地运行在基于骁龙 AR1 Gen 1 平台的 AI 智能眼镜上。PrismML 此前的核心能力是把大模型大幅压缩——这次是缩小 4 倍——同时保留标准基准测试中几乎全部的性能。
智能眼镜版本是一个 20 亿参数的视觉-语言模型,专门针对视觉和语言任务调优,佩戴者可以实时询问自己正在看的东西。
PrismML 的更大目标是做开放权重的端侧 AI,让设备更好地利用已有的算力。公司把这件事定位为对依赖专有 AI 实验室隐私承诺的替代方案,也回应了这些实验室对算力的无尽需求。为高通芯片发布模型是朝这个愿景走的一步。
不过目前还没有任何搭载 PrismML 的智能眼镜正式发布。


