เอนด์พอยต์ที่เข้ากันได้กับ OpenAI สำหรับไคลเอนต์ OpenRouter
เอนด์พอยต์ openrouter openai compatible คือ base URL ที่สื่อสารด้วยรูปแบบ chat ของ OpenAI ดังนั้นการสลับเป็นอีกอันหนึ่งจึงใช้เวลาเพียงไม่กี่บรรทัด นี่คือค่าที่แน่นอน รูปแบบ request และข้อผิดพลาดที่คุณอาจพบ
อัปเดต

ประเด็นสำคัญ
- Base URL คือ https://api.openrouteralternativeapi.com/v1 และ model ID คือ uncensored
- การตรวจสอบสิทธิ์ใช้ header Bearer มาตรฐาน; มีเพียง POST /v1/chat/completions และ GET /v1/models เท่านั้น
- การสตรีมมิง เครื่องมือ และโหมด JSON ทำงานได้ แต่ฟิลด์เฉพาะของเร้าเตอร์ไม่รองรับ
- เมื่อได้รับ HTTP 429 ให้อ่านรหัสข้อผิดพลาดเพื่อแยกแยะระหว่างขีดจำกัดอัตราและขีดจำกัดความพร้อมใช้งานพร้อมกัน
ค่าที่คุณต้องการ
เครื่องมือใดๆ ที่อนุญาตให้แก้ไขเอนด์พอยต์สไตล์ OpenAI ต้องการค่าสามค่า คัดลอกค่าจากตารางและสิ่งอื่นจะไม่เปลี่ยนแปลงในการตั้งค่าทั่วไป
| การตั้งค่า | ค่า |
|---|---|
| URL พื้นฐาน | https://api.openrouteralternativeapi.com/v1 |
| คีย์ API | สร้างที่หน้า API key |
| ID โมเดล | uncensored |
| Auth header | Authorization: Bearer YOUR_API_KEY |
| เส้นทาง chat | POST /v1/chat/completions |
| เส้นทางรายการโมเดล | GET /v1/models |
URL ฐานลงท้ายด้วย /v1 แล้ว SDK ส่วนใหญ่จะเพิ่ม /chat/completions ให้เอง ดังนั้นอย่าเพิ่มซ้ำ บางเครื่องมือต้องการเส้นทางแชทแบบเต็ม ในกรณีนั้นให้ใช้ URL ฐานตามด้วย /chat/completions
สิ่งที่เอนด์พอยต์เป็นและไม่เป็น
URL นี้รองรับโมเดล open-weight model ขนาดเดียว ซึ่งให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่เร้าเตอร์ ดังนั้นคำขอจะไม่ถูกส่งต่อไปยังผู้ขายรายอื่น และไม่ใช่ API ทางการของผู้ผลิตโมเดลใดเลย สิ่งนี้สำคัญต่อการกำหนดค่า: ไม่มีรายการชื่อโมเดลให้เลือก ไม่มีฟิลด์กำหนดความชอบของผู้ให้บริการ และไม่มีลำดับการสำรอง คุณส่ง uncensored และคุณจะได้โมเดลนั้น
บริการเป็นข้อความเท่านั้น ไม่มีการสร้างภาพ เสียง วิดีโอ การฝังตัว และการปรับแต่งเฉพาะทาง ดังนั้นไคลเอนต์ที่เรียก /v1/embeddings หรือเส้นทางรูปภาพจะล้มเหลวเมื่อใช้ URL ฐานนี้ ให้ชี้การเรียกเหล่านั้นไปยังบริการที่คุณใช้อยู่แล้ว และกำหนด URL ฐานแยกตามฟีเจอร์แทนที่จะกำหนดแบบสากลหากแอปพลิเคชันของคุณใช้หลายบริการ
จุดความเข้ากันได้อีกประการหนึ่งเกี่ยวข้องกับรายการโมเดล ไคลเอนต์ที่เรียก GET /v1/models ในขั้นตอนเริ่มต้นเพื่อเติมข้อมูลลงในเมนูแบบเลื่อนลงหรือตรวจสอบการตั้งค่า จะได้รับโมเดลหนึ่งตัวกลับคืนมา ซึ่งเป็นเรื่องปกติ หากโค้ดของคุณตรวจสอบว่าชื่อโมเดลที่กำหนดปรากฏในรายการ ให้ตั้งชื่อเป็น uncensored และการตรวจสอบจะผ่าน หากแอปพลิเคชันของคุณกำหนดชื่อโมเดลของผู้ขายไว้ที่ใดที่หนึ่งในไฟล์กำหนดค่า ให้ค้นหาในที่เก็บโค้ดก่อนรันครั้งแรก เพราะสตริงที่เหลืออยู่เป็นสาเหตุทั่วไปที่สุดที่ทำให้แอปที่โยกย้ายแล้วยังล้มเหลวหลังจากเปลี่ยน URL แล้ว
คำขอแรกสามวิธี
เริ่มด้วยคำขอจากเทอร์มินัล เพื่อพิสูจน์คีย์ API URL และรหัสโมเดลก่อนที่เฟรมเวิร์กใดๆ จะเกี่ยวข้อง
curl https://api.openrouteralternativeapi.com/v1/models -H "Authorization: Bearer $API_KEY"
curl https://api.openrouteralternativeapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Reply with the word ready."}],
"max_tokens": 10
}'
การเรียกเดียวกันด้วย Python SDK สังเกตว่าไม่มีอะไรแตกต่างจากโค้ด OpenAI มาตรฐานนอกจาก base_url และ api_key
from openai import OpenAI
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
)
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Reply with the word ready."}],
max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)
และด้วย Node โดยอ่านคีย์จากตัวแปรสภาพแวดล้อม:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.openrouteralternativeapi.com/v1",
apiKey: process.env.API_KEY,
});
const r = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Reply with the word ready." }],
max_tokens: 10,
});
console.log(r.choices[0].message.content);
เครื่องมือจำนวนมากอ่านตัวแปรสภาพแวดล้อมแทนอาร์กิวเมนต์คอนสตรัคเตอร์ SDK ทางการมักยอมรับ OPENAI_BASE_URL และ OPENAI_API_KEY ซึ่งช่วยให้คุณเปลี่ยนเส้นทางสคริปต์ที่ไม่มีการแก้ไขได้ ตรวจสอบเอกสารประกอบของเวอร์ชัน SDK ของคุณเพื่อยืนยันชื่อ
สตรีมมิง เครื่องมือ และโหมด JSON
ฟีเจอร์ที่ไคลเอนต์ส่วนใหญ่พึ่งพามีอยู่ ตั้ง stream: true เพื่อรับเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์; การใช้งานจะรายงานที่ท้ายสตรีม การเรียกใช้เครื่องมือยอมรับ tools และ tool_choice สตรีม tool_calls เดลต้า และคาดหวังผลลัพธ์กลับเป็นข้อความที่มี role: "tool" โหมด JSON เปิดใช้งานด้วย response_format: {"type":"json_object"} ฟิลด์การสุ่มตัวอย่าง temperature, top_p, stop, seed และค่าปรับความถี่และการปรากฏจะถูกส่งผ่าน
ตัวอย่างการสตรีมมิงใน Python:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
และโหมด JSON ซึ่งเหมาะที่จะจับคู่กับพรอมต์ที่ระบุคีย์ที่คุณคาดไว้:
r = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
{"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
],
response_format={"type": "json_object"},
)
print(r.choices[0].message.content)
ควรแยกวิเคราะห์ผลลัพธ์ในบล็อก try อยู่เสมอ โหมด JSON เพิ่มโอกาสของผลลัพธ์ที่ถูกต้อง แต่โค้ดของคุณควรจัดการกับการตอบกลับที่ผิดรูปแบบ เช่น ลองใหม่หนึ่งครั้ง
แชทหลายรอบและการเรียกใช้เครื่องมือ
เอนด์พอยต์นี้เป็นแบบไม่มีสถานะ เช่นเดียวกับเส้นทางแชทของ OpenAI ไม่จำคำขอก่อนหน้านี้ ดังนั้นแต่ละคำขอต้องประกอบด้วยบทสนทนาที่คุณต้องการให้โมเดลเห็น เก็บรายการข้อความ เพิ่มการตอบกลับของผู้ช่วยหลังจากแต่ละรอบ และส่งรายการทั้งหมดอีกครั้ง ระวังจำนวนรวม: หน้าต่างบริบท 100,000 โทเคนครอบคลุมทั้งพรอมต์และการสร้างข้อความ และประวัติที่ยาวนานยังเป็นสิ่งที่ขับเคลื่อนต้นทุนอินพุต
history = [{"role": "system", "content": "You answer in two sentences."}]
def chat(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
สำหรับการเรียกใช้ฟังก์ชัน ให้กำหนดฟังก์ชันของคุณใน tools รันสิ่งที่โมเดลขอ และส่งผลลัพธ์กลับเป็นข้อความ role: "tool" ที่มี tool_call_id ที่ตรงกัน นิยามพื้นฐานมีลักษณะดังนี้:
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by its number",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Where is order 1042?"}],
tools=tools,
tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)
ตรวจสอบอาร์กิวเมนต์ก่อนรันอะไรก็ตาม โมเดลเสนอการเรียกใช้; โค้ดของคุณจะเป็นผู้ตัดสินใจว่าปลอดภัยที่จะดำเนินการหรือไม่ โดยเฉพาะเมื่อฟังก์ชันนั้นเข้าถึงเงิน ไฟล์ หรือข้อมูลของผู้อื่น
ฟิลด์ที่ควรลบออกจากรูปแบบคำขอของ OpenRouter
ไคลเอนต์ที่เขียนสำหรับเราเตอร์มักเพิ่มข้อมูลเสริมลงใน body หรือ header ของคำขอ ตัวอย่างทั่วไปได้แก่ การจัดลำดับผู้ให้บริการ อาร์เรย์ fallback ของโมเดล ความชอบในการ routing และ header สำหรับการอ้างอิง API นี้ไม่ใช้ค่าเหล่านี้ ฟิลด์ที่ไม่รู้จักอาจถูกเพิกเฉยหรือทำให้เกิดข้อผิดพลาด ขึ้นอยู่กับฟิลด์นั้นๆ ดังนั้นควรตัดออกแทนที่จะพึ่งพาผลลัพธ์ใดผลลัพธ์หนึ่ง
- แทนที่ model slug ใดๆ ที่มี vendor prefix ด้วย
uncensored - ลบรายการ fallback หากโมเดลเดียวไม่สามารถใช้งานได้ ให้จัดการด้วย logic การ retry ของคุณเอง
- อย่าส่งส่วนเนื้อหาที่เป็นภาพหรือเสียง โมเดลอ่านเฉพาะข้อความ
- รักษาขนาด body ของคำขอทั้งหมดไว้ต่ำกว่า 8 MB
หน้าเอกสาร แสดงพารามิเตอร์ที่รองรับ และเป็นแหล่งตรวจสอบเมื่อฟิลด์ใดฟิลด์หนึ่งทำงานแตกต่างไปจากที่ไคลเอนต์ของคุณคาดไว้
ขีดจำกัดและการตอบกลับแบบ 429
คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน (parallel requests) ได้ 8 คำขอ และ 300 คำขอต่อนาที; คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที การตอบกลับแต่ละครั้งมี X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency บันทึก ID ของคำขอทุกครั้งที่เกิดข้อผิดพลาด เพราะเป็นข้อมูลแรกที่ฝ่ายสนับสนุนจะถามหา
มี HTTP 429 สามแบบ รหัสข้อผิดพลาด rate_limited หมายถึงคุณส่งคำขอเกินต่อนาที: ลดลง concurrency หมายถึงมีคำขอที่กำลังดำเนินการอยู่พร้อมกันมากเกินไป: จัดคิวไว้ การตอบกลับ 429 พร้อมหัวข้อความ Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว: รอห้าวินาทีแล้วลองอีกครั้ง จำไว้ว่าคำขอแบบสตรีมมิงจะคงตำแหน่งความพร้อมใช้งานไว้จนกว่าสตรีมจะสิ้นสุด ดังนั้นไคลเอนต์ที่หยุดทำงานและไม่อ่านจนจบจะกินทรัพยากร
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError as e:
wait = 5 if i == 0 else 5 * (i + 1)
time.sleep(wait)
raise RuntimeError("still rate limited")
นอกจากนี้ให้ตั้งค่า semaphore ที่มีค่า 8 หรือน้อยกว่ารอบการเรียกใช้หากคุณรัน worker แบบขนาน วิธีนี้ประหยัดกว่าการเรียนรู้ขีดจำกัดจากข้อผิดพลาด เพิ่มค่า jitter เล็กน้อยในการรอเพื่อให้ worker หลายตัวที่ล้มเหลวพร้อมกันไม่ลองเรียกใหม่ในวินาทีเดียวกัน หากคุณเห็นการตอบกลับ 429 ซ้ำๆ ในช่วงการจราจรต่ำ ให้มองหาสตรีมที่เปิดแต่ไม่ปิด หรือลูปการเรียกใหม่ที่ทำงานโดยไม่รอ เพราะสิ่งเหล่านี้สามารถเติมช่องว่างที่มีอยู่ได้เอง
ตรวจสอบต้นทุนก่อนชี้ production ไปยังระบบนี้
ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุตจากเครดิตแบบเติมเงินล่วงหน้า นำคำขอที่มี 2,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุตมาคำนวณ ต้นทุนอินพุตคือ 2,000 / 1,000,000 x $0.15 = $0.0003 ต้นทุนเอาต์พุตคือ 500 / 1,000,000 x $0.50 = $0.00025 คำขอนี้มีต้นทุน $0.00055 ดังนั้นคำขอ 1,000 แบบนี้มีต้นทุน $0.55 คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่มีการเรียกเก็บเงิน ดู หน้าราคา สำหรับจำนวนเงินเติมและโบนัส; เครดิตทดลองใช้ $0.50 ครอบคลุมคำขอขนาดนั้นประมาณ 900 คำขอ (0.50 / 0.00055)
คู่มือเพิ่มเติม
ถาม-ตอบ
URL ฐานสำหรับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI คืออะไร
ใช้ https://api.openrouteralternativeapi.com/v1 เป็น URL ฐาน และส่งคีย์ของคุณเป็น Bearer token รหัสโมเดลคือ uncensored
มีเส้นทางใดบ้างที่พร้อมใช้งาน
POST /v1/chat/completions สำหรับการสร้าง และ GET /v1/models สำหรับรายการโมเดล ไม่มีเส้นทาง embeddings, รูปภาพ, เสียง หรือการฝังตัว
ฉันต้องเปลี่ยนโค้ดนอกเหนือจาก URL และคีย์หรือไม่?
โดยปกติมีเพียงสตริงของโมเดลเท่านั้น ลบฟิลด์เฉพาะของเราเตอร์ เช่น การตั้งค่าผู้ให้บริการหรือรายการสำรองออกจาก body ของคำขอ
ทำไมฉันถึงได้ HTTP 429?
ตรวจสอบรหัสข้อผิดพลาด rate_limited หมายถึงคำขอเกินต่อนาที concurrency หมายถึงคำขอเกินพร้อมกัน และส่วนหัว Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว