C
ChaoBro

Baseten 估值飙到 130 亿美元背后:开放模型推理栈到底值不值自己折腾

Baseten 估值飙到 130 亿美元背后:开放模型推理栈到底值不值自己折腾

先说结论:如果你只是每天几百万 token,直接用闭源 API 省心;如果你已经到大规模在线推理,开放模型推理栈才值得认真算账。

TechCrunch 6 月 18 日援引华尔街日报称,Baseten 接近完成 15 亿美元融资,估值在 110 亿到 130 亿美元之间。WSJ 的报道把它放在更大的趋势里:企业想用更便宜、可修改的开放模型,但缺的是跨云部署、优化和运行的推理层。

这不是“开源一定便宜”的简单故事。开放模型不收模型授权费,但你要付工程费、GPU 利用率、冷启动、监控、灰度、模型路由和故障恢复。Baseten 这种公司的价值,正是把这堆脏活产品化。

我的选型建议:高合规、强定制、调用量大、能养平台团队,可以评估开放模型推理栈;中小团队、需求变化快、质量优先,先用 OpenAI、Anthropic、Google 这类闭源 API,别为了省一点单价把运维复杂度买回来。

Artificial Analysis 这类榜单也说明一件事:推理市场已经不仅比模型质量,还比 provider 的速度和价格。未来很多产品会走混合路由。

Baseten 的融资热度,本质上是市场在给“开放模型的运行层”定价。

主要来源: