Ollama:让开源模型像Docker一样运行

大多数开发者想用开源模型,但光是装环境、配CUDA、处理依赖就能劝退一票人。Ollama直接把这个摩擦抹平了——下载一个App,双击就能在笔记本上跑Llama、Qwen这些模型。所以它才能在几乎没有市场推广的情况下冲到8.9M用户,并且每周还在以近百万的速度增长。这反映出AI落地时最大的障碍从来不是模型能力,而是「跑起来太麻烦」这个基础体验问题。

Ollama的解法很简单:学Docker的思路,给每个模型一个标准化的运行时。本地模式数据不出机器,安全可控;需要更强算力时一键突发到Ollama云上,速度是其他云的两倍。同时它和Google、Meta、NVIDIA、DeepSeek等几乎所有主流模型厂都做了合作,内置数千种模型,外部有67,000个应用和集成跑在上面。从芬兰的发电厂到美国的航天机构,从粒子加速器到上市公司CFO的办公室,场景非常杂,但共通点是:用户不想折腾底层,只想让AI直接干活。

Ollama这批人的背景很值得注意——创始人Jeff和Michael是当年Docker的核心团队。Docker改变了软件打包和分发的方式,Ollama在做一模一样的事,只不过对象换成了AI模型。当本地运行变得像装个App一样简单,AI的普及就不再依赖云厂商的垄断,而是回到开发者自己的终端上。Ollama很可能成为AI时代的Docker,定义模型分发的标准。对于搞工程的人来说,这意味着未来很多AI workloads会跑在边缘和本地,而不是全部上云——这会影响从架构选型到成本模型的每一个决策。

8.9 Million AI Users

查看原文