ID ▾
Dapatkan kunci API

Endpoint Kompatibel OpenAI untuk Klien OpenRouter

Endpoint openrouter yang kompatibel dengan openai hanyalah base URL yang menggunakan format chat OpenAI, sehingga menggantinya dengan yang lain hanya membutuhkan beberapa baris kode. Berikut adalah nilai pasti, bentuk permintaan, dan kesalahan yang mungkin Anda temui.

Diperbarui

Sebuah kabel tunggal yang menghubungkan terminal ke kubus model yang bersinar, mewakili endpoint API yang diganti

Poin utama

  • Base URL adalah https://api.openrouteralternativeapi.com/v1 dan ID model adalah uncensored.
  • Otentikasi adalah header Bearer standar; hanya POST /v1/chat/completions dan GET /v1/models yang ada.
  • Streaming, alat, dan mode JSON berfungsi, tetapi bidang khusus router saja tidak didukung.
  • Pada HTTP 429, baca kode kesalahan untuk membedakan batas laju dari batas konkurensi.

Nilai yang Anda butuhkan

Alat apa pun yang memungkinkan Anda mengedit endpoint bergaya OpenAI membutuhkan tiga nilai. Salin dari tabel dan tidak ada yang lain berubah dalam pengaturan khas.

PengaturanNilai
URL dasarhttps://api.openrouteralternativeapi.com/v1
Kunci APIDibuat di halaman kunci API
ID modeluncensored
Header AuthAuthorization: Bearer YOUR_API_KEY
Rute chatPOST /v1/chat/completions
Rute daftar modelGET /v1/models

URL dasar sudah diakhiri dengan /v1. Sebagian besar SDK menambahkan /chat/completions sendiri, jadi jangan menambahkannya dua kali. Beberapa alat meminta rute chat lengkap; dalam hal itu, gunakan URL dasar diikuti dengan /chat/completions.

Apa yang termasuk dan tidak termasuk dalam endpoint

Di balik URL terdapat satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan router, jadi permintaan tidak pernah diteruskan ke vendor lain. Ini juga bukan API resmi dari pembuat model mana pun. Ini penting untuk konfigurasi: tidak ada daftar slug model untuk dipilih, tidak ada bidang preferensi penyedia dan tidak ada rantai fallback. Anda mengirim uncensored dan Anda mendapatkan model itu saja.

Layanan ini hanya teks. Generasi gambar, audio, video, embeddings, dan fine-tuning tidak ditawarkan, sehingga klien yang memanggil /v1/embeddings atau rute gambar akan gagal pada URL dasar ini. Pertahankan panggilan tersebut diarahkan ke layanan apa pun yang sudah Anda gunakan untuk itu, dan atur URL dasar per fitur daripada secara global jika aplikasi Anda mencampur beberapa.

Poin kompatibilitas lainnya berkaitan dengan daftar model. Klien yang memanggil GET /v1/models saat startup untuk mengisi dropdown atau memvalidasi pengaturan akan menerima satu model. Itu adalah hal yang wajar. Jika kode Anda memeriksa apakah nama model yang dikonfigurasi muncul dalam daftar, atur nama menjadi uncensored dan pemeriksaan akan berhasil. Jika aplikasi Anda mengunci nama model vendor di suatu tempat dalam file konfigurasi, cari repositori untuk itu sebelum menjalankan pertama kali, karena string yang tersisa adalah alasan paling umum mengapa aplikasi yang bermigrasi masih gagal setelah URL diubah.

Permintaan pertama, tiga cara

Mulailah dengan permintaan dari terminal. Ini membuktikan kunci, URL, dan ID model sebelum framework apa pun terlibat.

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

Panggilan yang sama dengan SDK Python. Perhatikan bahwa tidak ada yang berbeda dari kode OpenAI standar selain base_url dan api_key.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

Dan dengan Node, membaca kunci dari variabel lingkungan:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

Banyak alat membaca variabel lingkungan daripada argumen konstruktor. SDK resmi umumnya menghormati OPENAI_BASE_URL dan OPENAI_API_KEY, yang memungkinkan Anda mengalihkan skrip yang tidak dimodifikasi. Periksa dokumentasi versi SDK Anda untuk mengonfirmasi nama-nama tersebut.

Streaming, alat, dan mode JSON

Fitur yang paling bergantung pada klien ada. Setel stream: true untuk menerima server-sent events; penggunaan dilaporkan di akhir stream. Pemanggilan fungsi menerima tools dan tool_choice, stream delta tool_calls, dan mengharapkan hasil kembali sebagai pesan dengan role: "tool". Mode JSON diaktifkan dengan response_format: {"type":"json_object"}. Bidang sampling temperature, top_p, stop, seed dan penalti frekuensi serta kehadiran diteruskan.

Contoh streaming di Python:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Dan mode JSON, yang layak dipasangkan dengan instruksi dalam prompt yang menyebutkan kunci yang Anda harapkan:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

Selalu uraikan hasilnya dalam blok try. Mode JSON meningkatkan peluang output yang valid, tetapi kode Anda tetap harus menangani balasan yang tidak valid, misalnya dengan mencoba lagi sekali.

Obrolan multi-gilir dan panggilan alat

Endpoint bersifat stateless, seperti rute chat OpenAI. Endpoint tidak mengingat panggilan sebelumnya, sehingga setiap permintaan harus membawa percakapan yang ingin dilihat oleh model. Simpan daftar pesan, tambahkan balasan asisten setelah setiap giliran, dan kirimkan seluruh daftar lagi. Perhatikan total: jendela 100.000 token mencakup prompt plus completion, dan riwayat panjang juga merupakan pendorong biaya input.

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

Untuk panggilan alat, deskripsikan fungsi Anda dalam tools, jalankan apa pun yang diminta model, dan kirimkan hasilnya kembali sebagai pesan role: "tool" yang membawa tool_call_id yang sesuai. Definisi minimal terlihat seperti ini:

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

Validasi argumen sebelum menjalankan apa pun. Model mengusulkan panggilan; kode Anda memutuskan apakah aman untuk mengeksekusi, terutama ketika fungsi menyentuh uang, file, atau data orang lain.

Bidang yang harus dihapus dari permintaan bergaya OpenRouter

Klien yang ditulis untuk router sering menambahkan tambahan ke badan permintaan atau header. Contoh umum adalah pengurutan penyedia, array fallback model, preferensi routing, dan header atribusi. API ini tidak menggunakannya. Bidang yang tidak diketahui dapat diabaikan atau menyebabkan kesalahan, tergantung pada bidangnya, jadi hapuslah daripada mengandalkan salah satu hasil.

  • Ganti slug model apa pun yang termasuk awalan vendor dengan uncensored.
  • Buang daftar fallback. Jika model tunggal tidak tersedia, tangani dalam logika coba ulang Anda sendiri.
  • Jangan kirim bagian konten gambar atau audio. Model membaca teks.
  • Jaga total badan permintaan di bawah 8 MB.

Halaman docs menunjukkan parameter yang didukung, dan itu adalah tempat untuk memeriksa ketika sebuah bidang berperilaku berbeda dari yang diharapkan klien Anda.

Batas dan respons 429

Kunci penuh memungkinkan 8 permintaan konkuren dan 300 permintaan per menit; kunci uji coba memungkinkan 2 dan 60. Setiap respons membawa X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests dan X-RateLimit-Limit-Concurrency. Log ID permintaan dengan setiap kegagalan, karena itu adalah hal pertama yang akan diminta dukungan.

Ada tiga jenis HTTP 429. Kode kesalahan rate_limited berarti Anda melebihi permintaan per menit: perlambat. Kode concurrency berarti terlalu banyak permintaan yang sedang berlangsung sekaligus: antrikan. 429 dengan header Retry-After: 5 berarti kelebihan beban sementara: tunggu lima detik dan coba lagi. Ingat bahwa permintaan yang dialirkan mempertahankan slot konkurensinya hingga aliran berakhir, sehingga klien yang macet yang tidak pernah membaca hingga akhir akan memakan kapasitas.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

Atur juga semaforku 8 atau kurang di sekitar panggilan jika Anda menjalankan pekerja secara paralel. Itu lebih murah daripada mempelajari batas dari kesalahan. Tambahkan sedikit jitter acak ke jeda agar beberapa pekerja yang gagal bersama tidak mencoba lagi pada detik yang sama. Jika Anda melihat respons 429 berulang lalu lintas rendah, cari stream yang dibuka tetapi tidak pernah ditutup, atau loop retry yang memancar tanpa menunggu, karena keduanya dapat mengisi slot yang tersedia sendiri.

Pemeriksaan biaya sebelum Anda mengarahkan produksi ke sana

Harga adalah $0,15 per 1 juta token input dan $0,50 per 1 juta token output dari saldo prabayar. Ambil permintaan dengan 2.000 token input dan 500 token output. Input biaya 2.000 / 1.000.000 x $0,15 = $0,0003. Output biaya 500 / 1.000.000 x $0,50 = $0,00025. Permintaan biaya $0,00055, jadi 1.000 permintaan seperti itu biaya $0,55. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Lihat halaman harga untuk jumlah isi saldo dan bonus; kredit uji coba sebesar $0,50 mencakup sekitar 900 permintaan sebesar itu (0,50 / 0,00055).

Tanya jawab

Apa URL dasar untuk endpoint yang kompatibel dengan OpenAI?

Gunakan https://api.openrouteralternativeapi.com/v1 sebagai URL dasar dan kirimkan kunci Anda sebagai token Bearer. ID model adalah uncensored.

Rute mana saja yang tersedia?

POST /v1/chat/completions untuk generasi dan GET /v1/models untuk daftar model. Tidak ada rute embeddings, gambar, audio, atau fine-tuning.

Apakah saya perlu mengubah kode saya selain URL dan kunci?

Biasanya hanya string model. Hapus bidang khusus router seperti preferensi penyedia atau daftar fallback dari badan permintaan.

Mengapa saya mendapatkan HTTP 429?

Periksa kode kesalahan. rate_limited berarti terlalu banyak permintaan per menit, concurrency berarti terlalu banyak sekaligus, dan header Retry-After: 5 berarti kelebihan beban sementara.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.