RunInfra,给智能体用的开源模型API,RunInfra是YC孵化团队RightNow做的模型推理API,专门托管开源大模型,比如Kimi K3、DeepSeek V4.1 Flash、GLM-5.3这些。一个API Key同时兼容O
**解决实际问题:**
再看推荐指数,★★★★☆
RunInfra是YC孵化团队RightNow做的模型推理API,专门托管开源大模型,比如Kimi K3、DeepSeek V4.1 Flash、GLM-5.3这些。一个API Key同时兼容OpenAI和Anthropic两套SDK,原本写好的代码改个地址就能接。
它主打的是“缓存便宜”。智能体每一轮对话都会把大段上下文重新发一遍,RunInfra会把同一会话固定路由到同一个热副本上。官方说缓存命中率能到98%,缓存输入最低0.01美元/百万token,调整一直做到GPU内核层。