Malachyte 是一家用 AI 做电商推荐的创业公司，创始人 Sidd 曾为 Spotify、Priceline 解决冷启动问题。核心思路是把 LLM 的注意力机制（attention mechanisms）应用到用户交互序列上——像预测下一个词那样预测用户下一个想买的东西。

传统协同过滤需要大量历史数据和第三方 Cookie，Malachyte 只关注当前会话内的点击顺序，这意味着更少的依赖和更好的隐私保护。每次用户行为（点击、搜索）发生后，系统在 100 毫秒 内更新用户向量，同时驱动下一次推荐。每个商品也被嵌入到同一向量空间，用户向量不断靠近匹配的商品、远离不相关的。跨零售商的数据被用来持续训练神经网络，形成一个“数据合作体”。

这套实时推荐系统跑在 Google Cloud 的 AI 栈上：行为事件经 Managed Service for Apache Kafka 流式接入，直接更新 Bigtable 中的用户向量（每步延迟约 10 毫秒），确保整个推荐循环无感完成；商品目录更新则通过 Cloud Pub/Sub 传递。推理和训练分别跑在 Google Kubernetes Engine 和 Compute Engine 上。结果：部分零售商销售额 翻倍甚至三倍。

文章的局限在于它本质是 Google Cloud 的客户案例，属于营销软文，但技术细节扎实，解释了如何用小团队和托管服务实现实时个性化推荐，对做推荐系统的工程师有参考价值。