Baseten 加入 Hugging Face 推理提供商生态

Hugging Face 宣布 Baseten 正式成为其 Inference Providers 生态系统的新成员。Baseten 是一个覆盖无服务器推理、训练等能力的 AI 基础设施平台,此前已托管大量前沿模型。此次集成意味着开发者可以直接在 Hugging Face Hub 的模型页面、客户端 SDK 以及主流 Agent 框架中调用 Baseten 托管的模型。

初始阶段,BasetenHugging Face 上支持对话和文本生成任务,提供对 Kimi K3、最新 DeepSeek V4 Flash、GLM-5.2 等开源权重 LLM 的访问。更多任务类型将在后续推出。用户可通过 Hugging Face 网页 UI 设置自己的 Baseten API Key(请求直接发往 Baseten),或让请求由 Hub 路由(使用 Hugging Face 令牌认证,费用计入 HF 账户)。

开发者还可以通过 Hugging Face SDK(Python 的 huggingface_hub>=1.26.1 和 JavaScript 的 @huggingface/inference)直接调用 Baseten 模型。代码示例展示了使用 OpenAI 兼容客户端,以 DeepSeek V4 Flash 为例,模型名称格式为 “deepseek-ai/DeepSeek-V4-Flash-0731:baseten”。此外,Pi、OpenCode、Hermes Agents、OpenClaw 等 Agent 框架也已集成 Inference Providers,可无缝接入 Baseten 托管的模型。

计费方面,使用 Baseten 自有 API Key 时由 Baseten 直接计费;若通过 Hugging Face 路由,用户仅支付标准的提供商 API 费用,Hugging Face 不加价。PRO 用户每月获赠 $2 推理积分,可在各提供商间通用。免费注册用户也可获得少量免费推理配额。

Baseten on Hugging Face Inference Providers 🔥

查看原文