替代 OpenRouter 的方案:使用开放权重模型
搜索开源 OpenRouter 替代方案时,关键是你真正需要开放什么:权重、服务器还是路由。本页梳理了选项,并展示单一开放权重模型 API 的适用场景。
更新于

要点
- OpenRouter 将你的请求路由到来自多个供应商的模型;此 API 提供单一开放权重模型,因此相同的提示词始终对应同一个模型。
- 开放权重不等于开源。请检查你所依赖模型的许可证。
- 自托管提供最大的控制权,但需要承担 GPU 成本和运维费用;托管端点的费用为每 1M 输入 token $0.15,每 1M 输出 token $0.50。
- 切换 OpenAI 客户端只需两处更改:Base URL 和密钥。
人们所说的开源 OpenRouter 替代方案
这个短语涵盖了三种不同的需求,混淆它们会导致选择错误。一些人想要开放权重,即模型文件已发布,原则上可以在自己的硬件上运行。一些人想要开源服务器,即接受请求并转发请求的网关代码。另一些人想要开放路由:在一个名称背后没有隐藏的模型切换。
OpenRouter 是一项托管服务,为来自多个供应商的模型提供一个 API。这是它的用途,对许多项目来说也是合适的工具。代价是回答你的模型取决于你指定的模型、由哪个提供商提供服务,以及该提供商当前如何处理它。如果你的目标是稳定、可检查的设置,较小的表面更易于理解。
本站提供面向单一开放权重模型的托管式 OpenAI 兼容 API,由独立提供商运行,针对合法成人用途进行优化,不进行内容审查。这是一项托管服务。你通过 HTTPS 调用它,此页面不提供服务器下载。你获得的是固定模型、简短的功能列表和统一价格,而非自托管堆栈。
通俗解释开放权重与开源
具有开放权重的模型允许任何人下载训练参数。这并不自动意味着开源许可证。一些权重在宽松条款下发布,另一些增加使用条件,少数限制商业用途。许可证是特定模型的属性,因此在构建产品之前请阅读它。
模型前的服务也需同样谨慎。托管 API 可以提供开放权重,但其自身代码保持私有。这不是缺陷,但意味着“开放”描述的是模型,而非主机。比较选项时,写下你希望哪一层开放以及原因。典型原因包括:
- 可复现性。 你希望明天使用的模型与今天相同,以便测试和提示词保持有意义。
- 退出选项。 如果你有一天超出了托管服务的规模,你希望有一个可以在其他地方运行的模型。
- 可审计性。 你想知道是什么生成了你的文本,而不仅仅是接口的名称。
托管接口背后的开放权重模型可以较好地满足前两项和第三项需求,并为第二项提供可行的路径。如果要求是没有任何第三方看到提示词(输入数据),它并不能替代自托管。
单一模型与多供应商路由器
当你希望使用一个密钥尝试许多模型时,路由器很方便。但当你需要一种行为保持不变时,它就不太方便了。使用路由器时,模型名称可能随时间映射到不同的提供商,每个提供商在上下文长度、速度、过滤或日志方面可能不同。这些差异是真实存在的,并由路由器本身公开记录,因此请查看其页面以获取当前详情。
一个接口后只有一个模型,情况更简单。下表列出了此 API 提供/设置的内容。
| 问题 | 此 API |
|---|---|
| 哪个模型回答? | 一个开放权重模型,标识为uncensored |
| 它是跨供应商的路由器吗? | 否 |
| 它是供应商的官方 API 吗? | 不是,它由独立提供商运营 |
| 上下文窗口 | 100,000 token,包含提示词和补全 |
| 模态 | 仅文本 |
| 接口 | POST /v1/chat/completions 和 GET /v1/models |
明显的缺点是广度。你无法通过编辑一个字符串来切换到不同的模型系列,因为只有一个。如果你的产品需要视觉模型、嵌入模型或用于简单任务的更便宜的小模型,路由器或多个直接账户是更好的选择,你仍然可以使用此 API 处理需要 uncensored 文本模型的部分。
你可以自己运行什么,以及成本是多少
如果开源是硬性要求,自托管是诚实的答案。开放权重模型可以使用 vLLM、llama.cpp 或 Ollama 等社区工具进行服务,而 LiteLLM 等代理可以在它们前面提供一个 OpenAI 风格的接口。所有这些项目都是公开可用的,因此请查看它们的文档以获取当前功能和许可证信息。
托管 API 隐藏的成本在于:
- 足以容纳模型和长上下文的 GPU 显存。
- 服务配置、批处理和监控。
- 流量激增时的更新、重启和容量规划。
- 你自己处理滥用、日志记录和访问密钥。
对于流量稳定且较低的个人项目或内部工具,租赁 GPU 或本地机器可能已经足够。对于突发或小规模工作负载,按 token 付费通常更简单。作为一个计算示例,1M 输入 token 和 1M 输出 token 的任务在此 API 上的费用为 1 x $0.15 + 1 x $0.50 = $0.65。在做出决定之前,将其与你自己对 GPU 租赁和时间的估算进行比较。
迁移现有的 OpenRouter 客户端
由于 API 遵循 OpenAI 聊天格式,为 OpenAI 风格客户端编写的代码通常需要进行两处编辑:Base URL 和密钥。模型字符串变为uncensored。以下是使用官方openai包的 Python 版本。
from openai import OpenAI
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a blunt technical editor."},
{"role": "user", "content": "Tighten this paragraph: ..."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
Node 中的相同调用,以及从终端快速检查的原始 HTTP 形式:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.openrouteralternativeapi.com/v1",
apiKey: process.env.API_KEY,
});
const res = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'
流式输出、函数调用和 JSON 模式的工作方式与 OpenAI SDK 中相同。路由特有的额外功能(如提供商偏好字段或模型回退列表)在此处无效,应从请求正文中移除。文档页面列出了支持的参数。
切换前你应该了解的限额、价格和充值
在将生产流量迁移之前,请阅读限额。完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发请求和每分钟 60 个请求。流式请求会占用其并发槽位,直到流结束,如果你同时发出许多长生成请求,这一点很重要。超过限制会返回 HTTP 429,错误代码为rate_limited 或 concurrency,临时过载也会返回 429 并带有Retry-After: 5 头。请设置短延迟重试,并在你侧限制并发调用数量。
定价为每 1M 输入 token $0.15,每 1M 输出 token $0.50,从预付额度中扣除,无订阅。失败或被拒的请求不收费,且额度永不过期。响应头 X-Balance-USD 显示剩余金额,以便你从代码中跟踪支出。充值金额为 $20 至 $500 之间的任意整数,充值 $50 赠送 5%,$100 赠送 10%,$200 赠送 15%。支持加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。更多详情请见 定价页面。
新用户可以在注册后点击密钥页面一键领取 $0.50 的免费试用额度。有效期为 7 天,无需绑定卡片,每人限领一次。在充值之前,使用它通过接口运行你的真实提示词。内容规则很简单:目标是合法的成人使用,并且对涉及未成年人的任何性内容设有硬性限制。
如何做出决定
根据实际限制的需求进行选择。如果你必须在自己的机器上运行所有内容,请自托管开放权重模型并接受相应的工作。如果你需要许多供应商、许多模态或自动回退,路由器仍然是更好的选择,本站上的OpenRouter 替代品比较更详细地介绍了权衡利弊。如果你想要一个固定的开放权重文本模型、标准的 OpenAI 兼容接口和按 token 计费的固定价格,此 API 是你该部分流量的即插即用替代品。
一个实用的计划是两者都保留。将一般任务留在原处,并将倾向于在其他地方被拒绝的请求发送到这个接口。在API 密钥页面创建一个密钥,领取试用额度,并在你自己的二十个提示词上比较输出。每次请求的成本不到一分钱,这比任何功能表都能告诉你更多。
更多指南
问答
这个 API 是开源的吗?
这是面向开放权重模型的托管服务。模型权重由作者发布,但托管服务器并非从本站下载,且开放权重不等同于开源许可证。
和 OpenRouter 一样吗?
不同。OpenRouter 是跨多供应商的路由器。此 API 由独立提供商运行单一模型,不是路由器,也不是官方供应商 API。
我应该发送哪个模型名称?
将模型 ID 设为 uncensored。调用 GET /v1/models 从你的客户端确认。
我可以使用现有的 OpenAI SDK 代码吗?
是的。将 Base URL 更改为 https://api.openrouteralternativeapi.com/v1,将 API 密钥作为 Bearer token 使用,并将模型设置为 uncensored。移除仅适用于路由的请求字段。