繁中 ▾
取得 API 金鑰

OpenRouter 客戶端專用 OpenAI 相容端點

OpenRouter OpenAI 相容端點僅是一個遵循 OpenAI 聊天格式的基底 URL,因此替換它只需幾行程式碼。以下是確切的數值、請求結構以及您可能遇到的錯誤。

更新於

一條電纜連接終端機與發光的模型立方體,象徵 API 端點的替換

重點摘要

  • 基礎 URL 為 https://api.openrouteralternativeapi.com/v1,模型 ID 為 uncensored。
  • 驗證為標準的 Bearer 標頭;僅存在 POST /v1/chat/completions 與 GET /v1/models。
  • 串流輸出、工具與 JSON 模式運作正常,但不支援僅路由器使用的欄位。
  • 發生 HTTP 429 時,請讀取錯誤代碼以區分速率限制與併發限制。

你需要的值

任何允許您編輯 OpenAI 風格端點的程式都需要三個值。從表格複製它們,一般設定下就不需要其他變更。

設定說明
Base URLhttps://api.openrouteralternativeapi.com/v1
API 金鑰在 API 金鑰頁面建立
模型 IDuncensored
Auth 標頭Authorization: Bearer YOUR_API_KEY
聊天路由POST /v1/chat/completions
模型列表路由GET /v1/models

Base URL 已包含 /v1 結尾。大多數 SDK 會自行附加 /chat/completions,因此不要重複新增。某些工具要求完整的聊天路由;在這種情況下,請使用 Base URL 加上 /chat/completions。

端點是什麼以及不是什麼

該 URL 背後是一個開放權重模型,由獨立供應商運行,並針對合法成人用途進行調優,使其在回答時不會拒絕內容。它不是路由器,因此請求不會被轉發到其他供應商。它也不是任何模型製造商的官方 API。這在設定上很重要:沒有模型 slug 清單可供選擇,沒有供應商偏好欄位,也沒有後備鏈。你傳送 uncensored,就會得到該單一模型。

該服務僅限文字。不提供影像生成、音訊、影片、嵌入和微調,因此呼叫 /v1/embeddings 或圖片路由的用戶端會在此 Base URL 上失敗。將這些呼叫指向你已用於它們的任何服務,如果你的應用程式混合了多個功能,請按功能設定 Base URL 而非全域設定。

另一個相容性點涉及模型清單。用戶端在啟動時呼叫 GET /v1/models 以填充下拉選單或驗證設定,將收到該單一模型。這是預期的。如果你的程式碼檢查配置的模型名稱是否出現在清單中,請將名稱設為 uncensored,檢查即可通過。如果你的應用程式在設定檔深處硬編碼了供應商模型名稱,請在程式庫中搜尋它,因為殘留的字串是應用程式在 URL 更改後仍然失敗的最常見原因。

首次請求的三種方式

從終端機開始發送請求。這可在任何框架介入之前證明金鑰、URL 與模型 ID 的有效性。

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

使用 Python SDK 的相同呼叫。請注意,除了 base_url 與 api_key 之外,與標準 OpenAI 程式碼無異。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

使用 Node.js,從環境變數讀取金鑰:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

許多工具讀取環境變數而非建構子參數。官方 SDK 通常會遵循 OPENAI_BASE_URL 和 OPENAI_API_KEY,這讓你可以重新導向未修改的腳本。請檢查你的 SDK 版本的文件以確認名稱。

串流輸出、工具與 JSON 模式

用戶端依賴的功能都存在。設定 stream: true 以接收伺服器發送的事件;用量會在串流結束時報告。工具呼叫接受 tools 和 tool_choice,串流輸出 tool_calls 增量,並期望以帶有 role: "tool" 的訊息傳回結果。JSON 模式透過 response_format: {"type":"json_object"} 啟用。取樣欄位 temperature、top_p、stop、seed 以及頻率和存在性懲罰都會被傳遞。

Python 中的串流範例:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

以及 JSON 模式,建議在提示詞中加入指示,指定您預期的鍵名:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

無論如何,請始終在 try 區塊中解析結果。JSON 模式提高了有效輸出的機率,但您的程式碼仍應處理格式錯誤的回應,例如重試一次。

多輪對話與工具呼叫

該端點是無狀態的,類似 OpenAI 聊天路由。它不會記住之前的請求,因此每個請求都必須攜帶你希望模型看到的對話。保持一個訊息清單,在每個回合後附加助理回覆,然後再次傳送整個清單。注意總量:100,000-token 視窗涵蓋提示詞和完成內容,而長歷史記錄也是驅動輸入成本的要因。

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

對於工具呼叫,在 tools 中描述你的函式,執行模型要求的任何操作,然後將輸出作為帶有匹配 tool_call_id 的 role: "tool" 訊息傳回。最小定義如下所示:

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

在執行任何操作前驗證引數。模型提出呼叫;你的程式碼決定執行是否安全,特別是當函式涉及金錢、檔案或其他人的資料時。

需從 OpenRouter 風格請求中移除的欄位

為路由器撰寫的用戶端通常會在請求主體或標頭中加入額外內容。常見範例包括供應商排序、模型備援陣列、路由偏好與歸因標頭。此 API 不使用這些欄位。未知欄位可能會被忽略或導致錯誤,視欄位而定,因此請移除它們,而非依賴任一結果。

  • 將任何包含供應商前綴的模型 slug 替換為 uncensored。
  • 移除備援列表。如果單一模型不可用,請在您的重試邏輯中處理。
  • 不要傳送影像或音訊內容部分。該模型僅讀取文字。
  • 保持總請求主體在 8 MB 以下。

文件頁面顯示支援的參數,當欄位行為與您的客戶端預期不符時,請在此處檢查。

限制與 429 回應

完整金鑰允許 8 個並行請求與每分鐘 300 個請求;試用金鑰允許 2 個與每分鐘 60 個。每個回應都包含 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 與 X-RateLimit-Limit-Concurrency。記錄每次失敗的請求 ID,因為這是支援人員首先要求提供的資訊。

有三種 HTTP 429 錯誤。錯誤碼 rate_limited 表示您超過了每分鐘請求數:請減慢速度。代碼 concurrency 表示同時進行中的請求過多:請將它們排隊。帶有 Retry-After: 5 標頭的 429 表示暫時過載:等待五秒鐘後再試。請記住,串流請求會保留其併發槽位直到串流結束,因此從未讀取到結尾的停滯用戶端會消耗容量。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

如果你並行執行工作程式,請在呼叫周圍設定數量為 8 或更少的訊號量。這比從錯誤中學習限制更便宜。在等待時加入一點隨機抖動,以便一起失敗的多個工作程式不會在同一秒鐘內全部重試。如果你在低流量下看到重複的 429 回應,請尋找開啟但未關閉的串流,或尋找未等待就觸發的重試迴圈,因為任一情況都可能自行填滿可用槽位。

在將生產環境指向該服務前的成本檢查

定價為預付額度每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。考慮一個包含 2,000 個輸入 token 與 500 個輸出 token 的請求。輸入成本為 2,000 / 1,000,000 x $0.15 = $0.0003。輸出成本為 500 / 1,000,000 x $0.50 = $0.00025。該請求成本為 $0.00055,因此 1,000 次此類請求的成本為 $0.55。失敗或拒絕的請求不會收費。請參閱 定價頁面 以獲取儲值金額與獎金;$0.50 的試用額度可涵蓋約 900 次此類請求 (0.50 / 0.00055)。

問答

OpenAI 相容端點的基底 URL 是什麼?

使用 https://api.openrouteralternativeapi.com/v1 作為 Base URL,並將您的金鑰作為 Bearer token 傳送。模型 ID 為 uncensored。

有哪些可用的路由?

POST /v1/chat/completions 用於生成,GET /v1/models 用於模型清單。沒有 embeddings、影像、音訊或微調端點。

除了 URL 和金鑰,我需要變更程式碼嗎?

通常只有模型字串。從請求主體中移除路由器專屬欄位,例如供應商偏好或後備清單。

為什麼我會收到 HTTP 429?

檢查錯誤代碼。rate_limited 表示每分鐘請求過多,concurrency 表示同時請求過多,而 Retry-After: 5 標頭表示暫時過載。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。