TH ▾
รับคีย์ API

เอนด์พอยต์ที่เข้ากันได้กับ OpenAI สำหรับไคลเอนต์ OpenRouter

เอนด์พอยต์ openrouter openai compatible คือ base URL ที่สื่อสารด้วยรูปแบบ chat ของ OpenAI ดังนั้นการสลับเป็นอีกอันหนึ่งจึงใช้เวลาเพียงไม่กี่บรรทัด นี่คือค่าที่แน่นอน รูปแบบ request และข้อผิดพลาดที่คุณอาจพบ

อัปเดต

สายเคเบิลเส้นเดียวที่เสียบเทอร์มินัลเข้ากับลูกบาศก์โมเดลที่เรืองแสง ซึ่งแสดงถึงการสลับ API endpoint

ประเด็นสำคัญ

  • Base URL คือ https://api.openrouteralternativeapi.com/v1 และ model ID คือ uncensored
  • การตรวจสอบสิทธิ์ใช้ header Bearer มาตรฐาน; มีเพียง POST /v1/chat/completions และ GET /v1/models เท่านั้น
  • การสตรีมมิง เครื่องมือ และโหมด JSON ทำงานได้ แต่ฟิลด์เฉพาะของเร้าเตอร์ไม่รองรับ
  • เมื่อได้รับ HTTP 429 ให้อ่านรหัสข้อผิดพลาดเพื่อแยกแยะระหว่างขีดจำกัดอัตราและขีดจำกัดความพร้อมใช้งานพร้อมกัน

ค่าที่คุณต้องการ

เครื่องมือใดๆ ที่อนุญาตให้แก้ไขเอนด์พอยต์สไตล์ OpenAI ต้องการค่าสามค่า คัดลอกค่าจากตารางและสิ่งอื่นจะไม่เปลี่ยนแปลงในการตั้งค่าทั่วไป

การตั้งค่าค่า
URL พื้นฐานhttps://api.openrouteralternativeapi.com/v1
คีย์ APIสร้างที่หน้า API key
ID โมเดลuncensored
Auth headerAuthorization: Bearer YOUR_API_KEY
เส้นทาง chatPOST /v1/chat/completions
เส้นทางรายการโมเดลGET /v1/models

URL ฐานลงท้ายด้วย /v1 แล้ว SDK ส่วนใหญ่จะเพิ่ม /chat/completions ให้เอง ดังนั้นอย่าเพิ่มซ้ำ บางเครื่องมือต้องการเส้นทางแชทแบบเต็ม ในกรณีนั้นให้ใช้ URL ฐานตามด้วย /chat/completions

สิ่งที่เอนด์พอยต์เป็นและไม่เป็น

URL นี้รองรับโมเดล open-weight model ขนาดเดียว ซึ่งให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่เร้าเตอร์ ดังนั้นคำขอจะไม่ถูกส่งต่อไปยังผู้ขายรายอื่น และไม่ใช่ API ทางการของผู้ผลิตโมเดลใดเลย สิ่งนี้สำคัญต่อการกำหนดค่า: ไม่มีรายการชื่อโมเดลให้เลือก ไม่มีฟิลด์กำหนดความชอบของผู้ให้บริการ และไม่มีลำดับการสำรอง คุณส่ง uncensored และคุณจะได้โมเดลนั้น

บริการเป็นข้อความเท่านั้น ไม่มีการสร้างภาพ เสียง วิดีโอ การฝังตัว และการปรับแต่งเฉพาะทาง ดังนั้นไคลเอนต์ที่เรียก /v1/embeddings หรือเส้นทางรูปภาพจะล้มเหลวเมื่อใช้ URL ฐานนี้ ให้ชี้การเรียกเหล่านั้นไปยังบริการที่คุณใช้อยู่แล้ว และกำหนด URL ฐานแยกตามฟีเจอร์แทนที่จะกำหนดแบบสากลหากแอปพลิเคชันของคุณใช้หลายบริการ

จุดความเข้ากันได้อีกประการหนึ่งเกี่ยวข้องกับรายการโมเดล ไคลเอนต์ที่เรียก GET /v1/models ในขั้นตอนเริ่มต้นเพื่อเติมข้อมูลลงในเมนูแบบเลื่อนลงหรือตรวจสอบการตั้งค่า จะได้รับโมเดลหนึ่งตัวกลับคืนมา ซึ่งเป็นเรื่องปกติ หากโค้ดของคุณตรวจสอบว่าชื่อโมเดลที่กำหนดปรากฏในรายการ ให้ตั้งชื่อเป็น uncensored และการตรวจสอบจะผ่าน หากแอปพลิเคชันของคุณกำหนดชื่อโมเดลของผู้ขายไว้ที่ใดที่หนึ่งในไฟล์กำหนดค่า ให้ค้นหาในที่เก็บโค้ดก่อนรันครั้งแรก เพราะสตริงที่เหลืออยู่เป็นสาเหตุทั่วไปที่สุดที่ทำให้แอปที่โยกย้ายแล้วยังล้มเหลวหลังจากเปลี่ยน URL แล้ว

คำขอแรกสามวิธี

เริ่มด้วยคำขอจากเทอร์มินัล เพื่อพิสูจน์คีย์ API URL และรหัสโมเดลก่อนที่เฟรมเวิร์กใดๆ จะเกี่ยวข้อง

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

การเรียกเดียวกันด้วย Python SDK สังเกตว่าไม่มีอะไรแตกต่างจากโค้ด OpenAI มาตรฐานนอกจาก base_url และ api_key

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

และด้วย Node โดยอ่านคีย์จากตัวแปรสภาพแวดล้อม:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

เครื่องมือจำนวนมากอ่านตัวแปรสภาพแวดล้อมแทนอาร์กิวเมนต์คอนสตรัคเตอร์ SDK ทางการมักยอมรับ OPENAI_BASE_URL และ OPENAI_API_KEY ซึ่งช่วยให้คุณเปลี่ยนเส้นทางสคริปต์ที่ไม่มีการแก้ไขได้ ตรวจสอบเอกสารประกอบของเวอร์ชัน SDK ของคุณเพื่อยืนยันชื่อ

สตรีมมิง เครื่องมือ และโหมด JSON

ฟีเจอร์ที่ไคลเอนต์ส่วนใหญ่พึ่งพามีอยู่ ตั้ง stream: true เพื่อรับเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์; การใช้งานจะรายงานที่ท้ายสตรีม การเรียกใช้เครื่องมือยอมรับ tools และ tool_choice สตรีม tool_calls เดลต้า และคาดหวังผลลัพธ์กลับเป็นข้อความที่มี role: "tool" โหมด JSON เปิดใช้งานด้วย response_format: {"type":"json_object"} ฟิลด์การสุ่มตัวอย่าง temperature, top_p, stop, seed และค่าปรับความถี่และการปรากฏจะถูกส่งผ่าน

ตัวอย่างการสตรีมมิงใน Python:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

และโหมด JSON ซึ่งเหมาะที่จะจับคู่กับพรอมต์ที่ระบุคีย์ที่คุณคาดไว้:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

ควรแยกวิเคราะห์ผลลัพธ์ในบล็อก try อยู่เสมอ โหมด JSON เพิ่มโอกาสของผลลัพธ์ที่ถูกต้อง แต่โค้ดของคุณควรจัดการกับการตอบกลับที่ผิดรูปแบบ เช่น ลองใหม่หนึ่งครั้ง

แชทหลายรอบและการเรียกใช้เครื่องมือ

เอนด์พอยต์นี้เป็นแบบไม่มีสถานะ เช่นเดียวกับเส้นทางแชทของ OpenAI ไม่จำคำขอก่อนหน้านี้ ดังนั้นแต่ละคำขอต้องประกอบด้วยบทสนทนาที่คุณต้องการให้โมเดลเห็น เก็บรายการข้อความ เพิ่มการตอบกลับของผู้ช่วยหลังจากแต่ละรอบ และส่งรายการทั้งหมดอีกครั้ง ระวังจำนวนรวม: หน้าต่างบริบท 100,000 โทเคนครอบคลุมทั้งพรอมต์และการสร้างข้อความ และประวัติที่ยาวนานยังเป็นสิ่งที่ขับเคลื่อนต้นทุนอินพุต

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

สำหรับการเรียกใช้ฟังก์ชัน ให้กำหนดฟังก์ชันของคุณใน tools รันสิ่งที่โมเดลขอ และส่งผลลัพธ์กลับเป็นข้อความ role: "tool" ที่มี tool_call_id ที่ตรงกัน นิยามพื้นฐานมีลักษณะดังนี้:

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

ตรวจสอบอาร์กิวเมนต์ก่อนรันอะไรก็ตาม โมเดลเสนอการเรียกใช้; โค้ดของคุณจะเป็นผู้ตัดสินใจว่าปลอดภัยที่จะดำเนินการหรือไม่ โดยเฉพาะเมื่อฟังก์ชันนั้นเข้าถึงเงิน ไฟล์ หรือข้อมูลของผู้อื่น

ฟิลด์ที่ควรลบออกจากรูปแบบคำขอของ OpenRouter

ไคลเอนต์ที่เขียนสำหรับเราเตอร์มักเพิ่มข้อมูลเสริมลงใน body หรือ header ของคำขอ ตัวอย่างทั่วไปได้แก่ การจัดลำดับผู้ให้บริการ อาร์เรย์ fallback ของโมเดล ความชอบในการ routing และ header สำหรับการอ้างอิง API นี้ไม่ใช้ค่าเหล่านี้ ฟิลด์ที่ไม่รู้จักอาจถูกเพิกเฉยหรือทำให้เกิดข้อผิดพลาด ขึ้นอยู่กับฟิลด์นั้นๆ ดังนั้นควรตัดออกแทนที่จะพึ่งพาผลลัพธ์ใดผลลัพธ์หนึ่ง

  • แทนที่ model slug ใดๆ ที่มี vendor prefix ด้วย uncensored
  • ลบรายการ fallback หากโมเดลเดียวไม่สามารถใช้งานได้ ให้จัดการด้วย logic การ retry ของคุณเอง
  • อย่าส่งส่วนเนื้อหาที่เป็นภาพหรือเสียง โมเดลอ่านเฉพาะข้อความ
  • รักษาขนาด body ของคำขอทั้งหมดไว้ต่ำกว่า 8 MB

หน้าเอกสาร แสดงพารามิเตอร์ที่รองรับ และเป็นแหล่งตรวจสอบเมื่อฟิลด์ใดฟิลด์หนึ่งทำงานแตกต่างไปจากที่ไคลเอนต์ของคุณคาดไว้

ขีดจำกัดและการตอบกลับแบบ 429

คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน (parallel requests) ได้ 8 คำขอ และ 300 คำขอต่อนาที; คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที การตอบกลับแต่ละครั้งมี X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency บันทึก ID ของคำขอทุกครั้งที่เกิดข้อผิดพลาด เพราะเป็นข้อมูลแรกที่ฝ่ายสนับสนุนจะถามหา

มี HTTP 429 สามแบบ รหัสข้อผิดพลาด rate_limited หมายถึงคุณส่งคำขอเกินต่อนาที: ลดลง concurrency หมายถึงมีคำขอที่กำลังดำเนินการอยู่พร้อมกันมากเกินไป: จัดคิวไว้ การตอบกลับ 429 พร้อมหัวข้อความ Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว: รอห้าวินาทีแล้วลองอีกครั้ง จำไว้ว่าคำขอแบบสตรีมมิงจะคงตำแหน่งความพร้อมใช้งานไว้จนกว่าสตรีมจะสิ้นสุด ดังนั้นไคลเอนต์ที่หยุดทำงานและไม่อ่านจนจบจะกินทรัพยากร

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

นอกจากนี้ให้ตั้งค่า semaphore ที่มีค่า 8 หรือน้อยกว่ารอบการเรียกใช้หากคุณรัน worker แบบขนาน วิธีนี้ประหยัดกว่าการเรียนรู้ขีดจำกัดจากข้อผิดพลาด เพิ่มค่า jitter เล็กน้อยในการรอเพื่อให้ worker หลายตัวที่ล้มเหลวพร้อมกันไม่ลองเรียกใหม่ในวินาทีเดียวกัน หากคุณเห็นการตอบกลับ 429 ซ้ำๆ ในช่วงการจราจรต่ำ ให้มองหาสตรีมที่เปิดแต่ไม่ปิด หรือลูปการเรียกใหม่ที่ทำงานโดยไม่รอ เพราะสิ่งเหล่านี้สามารถเติมช่องว่างที่มีอยู่ได้เอง

ตรวจสอบต้นทุนก่อนชี้ production ไปยังระบบนี้

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุตจากเครดิตแบบเติมเงินล่วงหน้า นำคำขอที่มี 2,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุตมาคำนวณ ต้นทุนอินพุตคือ 2,000 / 1,000,000 x $0.15 = $0.0003 ต้นทุนเอาต์พุตคือ 500 / 1,000,000 x $0.50 = $0.00025 คำขอนี้มีต้นทุน $0.00055 ดังนั้นคำขอ 1,000 แบบนี้มีต้นทุน $0.55 คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่มีการเรียกเก็บเงิน ดู หน้าราคา สำหรับจำนวนเงินเติมและโบนัส; เครดิตทดลองใช้ $0.50 ครอบคลุมคำขอขนาดนั้นประมาณ 900 คำขอ (0.50 / 0.00055)

ถาม-ตอบ

URL ฐานสำหรับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI คืออะไร

ใช้ https://api.openrouteralternativeapi.com/v1 เป็น URL ฐาน และส่งคีย์ของคุณเป็น Bearer token รหัสโมเดลคือ uncensored

มีเส้นทางใดบ้างที่พร้อมใช้งาน

POST /v1/chat/completions สำหรับการสร้าง และ GET /v1/models สำหรับรายการโมเดล ไม่มีเส้นทาง embeddings, รูปภาพ, เสียง หรือการฝังตัว

ฉันต้องเปลี่ยนโค้ดนอกเหนือจาก URL และคีย์หรือไม่?

โดยปกติมีเพียงสตริงของโมเดลเท่านั้น ลบฟิลด์เฉพาะของเราเตอร์ เช่น การตั้งค่าผู้ให้บริการหรือรายการสำรองออกจาก body ของคำขอ

ทำไมฉันถึงได้ HTTP 429?

ตรวจสอบรหัสข้อผิดพลาด rate_limited หมายถึงคำขอเกินต่อนาที concurrency หมายถึงคำขอเกินพร้อมกัน และส่วนหัว Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว

คีย์ของคุณอยู่ห่างเพียงขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด