JA ▾
API キーを取得

OpenRouterクライアント向けのOpenAI互換エンドポイント

OpenRouter向けのOpenAI互換エンドポイントは、OpenAIのチャット形式に対応するベースURLに過ぎないため、別のエンドポイントに置き換えるには数行の変更で済みます。以下に正確な値、リクエストの形式、発生しうるエラーを示します。

更新日:

ターミナルが発光するモデルキューブに接続されるケーブルのイラストで、APIエンドポイントの置き換えを表します

主要ポイント

  • ベースURLはhttps://api.openrouteralternativeapi.com/v1で、モデルIDはuncensoredです。
  • 認証は標準的なBearerヘッダーを使用します。利用可能なエンドポイントは POST /v1/chat/completions と GET /v1/models のみです。
  • ストリーミング、ツール、JSONモードは動作しますが、ルーター固有のフィールドはサポートされていません。
  • HTTP 429の場合、エラーコードを確認して、レート制限と同時実行数制限を見分けてください。

必要な値

OpenAI互換のエンドポイントを編集できるツールには3つの値が必要です。表からコピーするだけで、通常のセットアップでは他に何も変更されません。

設定内容
ベース URLhttps://api.openrouteralternativeapi.com/v1
API キーAPIキーページで作成
モデル IDuncensored
認証ヘッダーAuthorization: Bearer YOUR_API_KEY
チャットルートPOST /v1/chat/completions
モデル一覧ルートGET /v1/models

ベースURLにはすでに/v1が付いています。ほとんどのSDKは/chat/completionsを自動的に付加するため、2回付加しないようにしてください。一部のツールは完全なチャットルート全体を要求することがあります。その場合は、ベースURLに/chat/completionsを続けて使用してください。

エンドポイントが何であり、何ではないか

URLの背後には、独立したプロバイダーによって実行され、法的な成人向け利用においてコンテンツ拒否なしで回答するように調整された1つのオープンウェイトモデルがあります。これはルーターではないため、リクエストは他のベンダーに転送されません。また、モデルメーカーの公式APIでもありません。これは設定において重要です:選択するためのモデルスラッグのリストはなく、プロバイダー優先順位フィールドもフォールバックチェーンもありません。uncensoredを送信すると、その1つのモデルが返されます。

サービスはテキストのみです。画像生成、音声、動画、埋め込み、ファインチューニングは提供されないため、/v1/embeddingsや画像ルートを呼び出すクライアントは、このベースURLで失敗します。それらの呼び出しは既存のサービスに向け続け、アプリケーションが複数のサービスを混在させる場合は、ベースURLをグローバルではなく機能ごとに設定してください。

もう1つの互換性ポイントはモデルリストに関するものです。起動時にGET /v1/modelsを呼び出してドロップダウンを埋めたり設定を検証したりするクライアントは、1つのモデルのみを受け取ります。これは想定内です。コードが構成されたモデル名がリストに含まれているかチェックする場合、名前をuncensoredに設定するとチェックは成功します。アプリケーションが設定ファイルの深い部分にベンダーモデル名をハードコードしている場合、初回実行前にリポジトリ内で検索してください。URLを変更した後も移行済みアプリが失敗する最も一般的な理由は、残った文字列です。

最初のリクエスト、3つの方法

ターミナルからのリクエストで始めましょう。これは、フレームワークが関与する前に、キー、URL、モデルIDが機能することを証明します。

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

Python SDKを使用した同じ呼び出し。base_urlとapi_keyを除き、標準的なOpenAIのコードとは異なる点はありません。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

Nodeでの例、環境変数からキーを読み取る場合:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

多くのツールはコンストラクタ引数ではなく環境変数を読み取ります。公式SDKは一般的にOPENAI_BASE_URLとOPENAI_API_KEYを尊重するため、変更なしのスクリプトをリダイレクトできます。SDKバージョンのドキュメントを確認して名前を確認してください。

ストリーミング、ツール、JSONモード

クライアントが依存する最も重要な機能は揃っています。サーバー送信イベントを受け取るにはstream: trueを設定します。使用量はストリームの末尾で報告されます。ツール呼び出しはtoolsとtool_choiceを受け付け、tool_callsの差分をストリーミングし、role: "tool"を持つメッセージとして結果を返すことを期待します。JSONモードはresponse_format: {"type":"json_object"}で有効になります。サンプリングフィールドtemperature、top_p、stop、seedおよび頻度ペナルティと存在ペナルティは渡されます。

Pythonでのストリーミングの例:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

そしてJSONモード。これは、プロンプト内の指示で期待するキーを指定することで、組み合わせる価値があります:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

常に結果はtryブロック内で解析してください。JSONモードは有効な出力の見込みを高めますが、コードは依然として形式が正しくない応答を処理する必要があります。例えば、1回リトライするなどして処理します。

マルチターンチャットとツール呼び出し

エンドポイントはOpenAIチャットルートと同様にステートレスです。以前の呼び出しを記憶しないため、各リクエストにはモデルに表示させたい会話全体を含める必要があります。メッセージのリストを保持し、各ターン後にアシスタントの返信を追加し、リスト全体を再送信してください。合計に注意してください。100,000トークンのウィンドウはプロンプトと補完をカバーし、長い履歴は入力コストを押し上げる要因でもあります。

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

ツール呼び出しでは、toolsに関数を記述し、モデルが要求するものを何でも実行し、その出力を一致するtool_call_idを保持するrole: "tool"メッセージとして送信します。最小限の定義は次のようになります。

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

何かを実行する前に引数を検証してください。モデルは呼び出しを提案しますが、関数が金銭、ファイル、または他の人のデータに触れる場合、特に実行が安全かどうかをコードが判断する必要があります。

OpenRouter形式のリクエストから削除するフィールド

ルーター向けに書かれたクライアントは、リクエストボディやヘッダーに余分なものを追加することがよくあります。典型的な例としては、プロバイダーの順序付け、モデルのフォールバック配列、ルーティングの優先順位、帰属ヘッダーがあります。このAPIはそれらを使用しません。不明なフィールドは、フィールドに応じて無視されるかエラーを引き起こす可能性があるため、どちらの結果を信頼するのではなく、それらを削除してください。

  • ベンダープレフィックスを含むモデルスラッグをuncensoredに置き換えます。
  • フォールバックリストを削除します。単一のモデルが利用できない場合は、独自のリトライロジックで処理してください。
  • 画像や音声のコンテンツパートを送信しないでください。モデルはテキストを読み取ります。
  • 合計リクエストボディを8 MB未満に保ってください。

docsページにはサポートされているパラメータが表示されており、フィールドがクライアントの期待と異なる動作をする場合に確認すべき場所です。

制限と429レスポンス

フルキーは8つの同時リクエストと1分あたり300リクエストを許可し、トライアルキーは2と60を許可します。各レスポンスにはX-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrencyが含まれます。すべての失敗に対してリクエストIDをログに記録してください。サポートが最初に尋ねるのはこれです。

HTTP 429には3つの種類があります。エラーコードrate_limitedは1分あたりのリクエスト数を超えたことを意味します:速度を落としてください。コードconcurrencyは同時に進行中のリクエストが多すぎることを意味します:キューに入れてください。Retry-After: 5ヘッダーを持つ429は一時的な過負荷を意味します:5秒待ってから再試行してください。ストリーミングリクエストはストリームが終了するまで同時実行数枠を保持し続けるため、ストリームの末尾まで読み込まない停滞したクライアントは容量を消費することに注意してください。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

並列でワーカーを実行する場合は、呼び出しの周りに8以下のセマフォを設定してください。エラーから制限を学ぶよりも安価です。待機時間に少しランダムなジッターを追加して、同時に失敗した複数のワーカーがすべて同じ秒にリトライしないようにしてください。低トラフィックで繰り返し429レスポンスが見られる場合は、開かれたまま閉じられないストリームや、待機せずにトリガーされるリトライループがないか確認してください。これらいずれかが利用可能なスロットを単独で埋める可能性があります。

本番環境に適用する前のコスト確認

前払いクレジットから、入力トークン100万あたり$0.15、出力トークン100万あたり$0.50です。入力トークン2,000、出力トークン500のリクエストを考えます。入力のコストは2,000 / 1,000,000 x $0.15 = $0.0003です。出力のコストは500 / 1,000,000 x $0.50 = $0.00025です。リクエストのコストは$0.00055であり、そのようなリクエスト1,000件のコストは$0.55です。失敗または拒否されたリクエストには課金されません。チャージ額とボーナスについては価格ページを参照してください。$0.50のトライアルクレジットは、そのサイズのリクエスト約900件をカバーします(0.50 / 0.00055)。

質問と回答

OpenAI互換エンドポイントのベースURLは何ですか?

https://api.openrouteralternativeapi.com/v1をベースURLとして使用し、キーをBearerトークンとして送信してください。モデルIDはuncensoredです。

利用可能なルートはどれですか?

生成にはPOST /v1/chat/completions、モデル一覧にはGET /v1/modelsを使用します。埋め込み、画像、音声、ファインチューニングのルートはありません。

URLとキー以外にコードを変更する必要がありますか?

通常はモデル文字列のみです。リクエストボディからプロバイダーの優先順位やフォールバックリストなどのルーター固有のフィールドを削除してください。

HTTP 429 が返されるのはなぜですか?

エラーコードを確認してください。rate_limited は1分あたりのリクエスト数が多いことを、concurrency は同時に実行中のリクエストが多いことを示し、Retry-After: 5 ヘッダーは一時的な過負荷を意味します。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。