TH ▾
รับคีย์ API

ทางเลือก OpenRouter พร้อมโมเดลแบบเปิดน้ำหนัก

หากคุณค้นหาทางเลือก openrouter แบบโอเพนซอร์ส คำถามที่มีประโยชน์คือสิ่งที่คุณต้องการเปิดจริงๆ คือน้ำหนัก เซิร์ฟเวอร์ หรือการเราต์ติ้ง หน้าหน้านี้ช่วยจัดระเบียบตัวเลือกและแสดงว่า API โมเดลแบบเปิดน้ำหนักเดียวเหมาะกับจุดใด

อัปเดต

สายเคเบิลหลายเส้นแผ่ออกจากฮับเปรียบเทียบกับลิงก์ตรงเส้นเดียวไปยังลูกบาศก์โมเดลที่เรืองแสง

ประเด็นสำคัญ

  • OpenRouter จะส่งคำขอของคุณไปยังโมเดลจากหลายผู้ขาย; API นี้ให้บริการโมเดลแบบเปิดน้ำหนักเดียว ดังนั้นพรอมต์เดียวกันจึงจะพบกับโมเดลเดียวกันเสมอ
  • น้ำหนักแบบเปิดไม่เหมือนกับโอเพนซอร์ส ตรวจสอบใบอนุญาตของโมเดลใดๆ ที่คุณพึ่งพา
  • การโฮสต์เองให้การควบคุมมากที่สุดแต่ต้องใช้ GPU และการบำรุงรักษา; เอนด์พอยต์แบบโฮสต์มีราคา $0.15 ต่อ 1M โทเคนอินพุตและ $0.50 ต่อ 1M โทเคนเอาต์พุต
  • การสลับใช้เวลาเปลี่ยนแปลงสองอย่างในไคลเอนต์ OpenAI: URL ฐานและคีย์

สิ่งที่ผู้คนหมายถึงเมื่อพูดถึงทางเลือกแบบโอเพนซอร์สของ OpenRouter

วลีนี้ครอบคลุมความต้องการที่แตกต่างกันสามประการ และการสับสนนำไปสู่การเลือกที่ผิด บางคนต้องการน้ำหนักแบบเปิด เพื่อให้ไฟล์โมเดลเผยแพร่และสามารถรันบนฮาร์ดแวร์ของตนเองได้ บางคนต้องการเซิร์ฟเวอร์โอเพนซอร์ส ซึ่งหมายถึงโค้ดเกตเวย์ที่รับคำขอและส่งต่อ บางคนต้องการการเราต์ติ้งแบบเปิด: ไม่มีการสลับโมเดลที่ซ่อนอยู่ภายใต้ชื่อเดียว

OpenRouter เป็นบริการแบบโฮสต์ที่ให้ API หนึ่งตัวหน้าโมเดลจากหลายผู้ขาย นั่นคือวัตถุประสงค์ของมัน และสำหรับหลายโปรเจกต์มันคือเครื่องมือที่เหมาะสม ข้อแลกเปลี่ยนคือโมเดลที่ตอบคุณขึ้นอยู่กับชื่อที่คุณระบุ ผู้ให้บริการที่ให้บริการโมเดลนั้น และสิ่งที่ผู้ให้บริการนั้นทำกับมันในปัจจุบัน หากเป้าหมายของคุณคือการตั้งค่าที่เสถียรและตรวจสอบได้ พื้นผิวที่เล็กลงทำให้เข้าใจได้ง่ายกว่า

เว็บไซต์นี้ให้บริการ API ที่เข้ากันได้กับ OpenAI แบบโฮสต์บนโมเดลแบบเปิดน้ำหนักเพียงโมเดลเดียว โดยผู้ให้บริการอิสระและปรับแต่งมาเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา สำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย เป็นบริการโฮสต์ คุณเรียกใช้งานผ่าน HTTPS และหน้านี้ไม่มีการดาวน์โหลดเซิร์ฟเวอร์ สิ่งที่คุณได้รับคือโมเดลที่ตายตัว รายการฟีเจอร์สั้นๆ และราคาแบบคงที่ ไม่ใช่ชุดซอฟต์แวร์ที่โฮสต์เอง

น้ำหนักเปิดเทียบกับโอเพนซอร์ส ในความหมายที่เข้าใจง่าย

โมเดลแบบเปิดน้ำหนักอนุญาตให้ใครก็ตามดาวน์โหลดพารามิเตอร์ที่ผ่านการฝึกแล้ว ซึ่งไม่ได้หมายความว่าได้รับใบอนุญาตแบบ open source โดยอัตโนมัติ น้ำหนักบางส่วนเผยแพร่ภายใต้เงื่อนไขที่อนุญาต others เพิ่มเงื่อนไขการใช้งาน และบางตัวจำกัดการใช้งานเชิงพาณิชย์ ใบอนุญาตเป็นคุณสมบัติของโมเดลเฉพาะ ดังนั้นควรอ่านก่อนสร้างผลิตภัณฑ์

ความระมัดระวังเดียวกันนี้ใช้กับบริการหน้าโมเดล API แบบโฮสต์สามารถให้บริการ open weights ได้ในขณะที่โค้ดของตัวเองเป็นแบบปิด นั่นไม่ใช่ข้อบกพร่อง แต่หมายความว่า "open" อธิบายโมเดล ไม่ใช่โฮสต์ เมื่อคุณเปรียบเทียบตัวเลือก ให้เขียนลงว่าชั้นที่คุณต้องการให้เป็น open คือชั้นใดและทำไม เหตุผลทั่วไปคือ:

  • ความสามารถในการทำซ้ำ. คุณต้องการโมเดลเดียวกันในวันพรุ่งนี้เหมือนวันนี้ เพื่อให้การทดสอบและพรอมต์ยังคงมีความหมาย
  • ตัวเลือกการออก หากคุณเติบโตจนเกินกว่าบริการแบบโฮสต์ คุณต้องการโมเดลที่สามารถรันที่อื่นได้
  • ความสามารถในการตรวจสอบ. คุณต้องการรู้ว่าอะไรสร้างข้อความของคุณ ไม่ใช่แค่ชื่อเอนด์พอยต์

โมเดลน้ำหนักเปิดที่อยู่หลังเอนด์พอยต์แบบโฮสต์ครอบคลุมข้อแรกและข้อสามได้ดีพอสมควรและให้เส้นทางที่เป็นไปได้สำหรับข้อที่สอง มันไม่ได้แทนที่การโฮสต์เองหากข้อกำหนดคือไม่มีบุคคลที่สามเห็นพรอมต์เลย

โมเดลเดียวเทียบกับตัวจัดเส้นทางหลายผู้ขาย

ตัวจัดเส้นทางสะดวกเมื่อคุณต้องการลองใช้โมเดลหลายตัวด้วยคีย์เดียว มันไม่สะดวกเมื่อคุณต้องการพฤติกรรมหนึ่งให้คงที่ ด้วยตัวจัดเส้นทาง ชื่อโมเดลสามารถแมปไปยังผู้ให้บริการที่แตกต่างกันได้ตลอดเวลา และแต่ละผู้ให้บริการอาจแตกต่างกันในแง่ของความยาวของหน้าต่างบริบท ความเร็ว การกรอง หรือการบันทึกข้อมูล ความแตกต่างเหล่านี้มีอยู่จริงและได้รับการบันทึกโดยตัวจัดเส้นทางเอง ดังนั้นตรวจสอบหน้าเว็บของพวกเขาสำหรับรายละเอียดปัจจุบัน

ด้วยโมเดลหนึ่งตัวที่อยู่หลังเอนด์พอยต์หนึ่งตัว ภาพรวมจะเรียบง่ายกว่า ตารางด้านล่างแสดงสิ่งที่ API นี้ตรึงไว้

คำถามAPI นี้
โมเดลใดที่ตอบ?โมเดลน้ำหนักเปิดหนึ่งตัว ที่เข้าถึงผ่าน uncensored
เป็นตัวจัดเส้นทางข้ามผู้ขายหรือไม่?ไม่
เป็น API ของผู้ขายอย่างเป็นทางการหรือไม่?ไม่ใช่ ดำเนินการโดยผู้ให้บริการอิสระ
หน้าต่างบริบท100,000 โทเคน, พรอมต์รวมกับผลลัพธ์
มอดาลิตีข้อความเท่านั้น
เอนด์พอยต์POST /v1/chat/completions และ GET /v1/models

จุดด้อยที่ตรงไปตรงมาคือความกว้างขวาง คุณไม่สามารถเปลี่ยนไปใช้โมเดลตระกูลอื่นได้โดยการแก้ไขสตริงเดียว เพราะมีเพียงตัวเดียว หากผลิตภัณฑ์ของคุณต้องการโมเดลวิชัน การสร้างเวกเตอร์ หรือโมเดลขนาดเล็กที่ราคาถูกกว่าสำหรับงานง่ายๆ การใช้เราเตอร์หรือบัญชีตรงหลายบัญชีเป็นคำตอบที่ดีกว่า และคุณยังสามารถใช้ API นี้สำหรับส่วนที่ต้องการโมเดลข้อความแบบไม่เซ็นเซอร์

สิ่งที่คุณสามารถรันเองได้ และต้นทุน

หาก open source เป็นข้อกำหนดที่เข้มงวด การโฮสต์เองคือคำตอบที่ตรงไปตรงมา โมเดล open-weight สามารถให้บริการด้วยเครื่องมือชุมชนเช่น vLLM, llama.cpp หรือ Ollama และพร็อกซีเช่น LiteLLM สามารถนำเสนอเอนด์พอยต์สไตล์ OpenAI หน้าโมเดลเหล่านั้นได้ โปรเจกต์ทั้งหมดเหล่านี้มีให้ใช้งานทั่วไป ดังนั้นตรวจสอบเอกสารของพวกเขาสำหรับฟีเจอร์และใบอนุญาตปัจจุบัน

ต้นทุนอยู่ที่ส่วนที่ API แบบโฮสต์ซ่อนไว้:

  • หน่วยความจำ GPU ที่ใหญ่พอสำหรับโมเดลและบริบทที่ยาว
  • การกำหนดค่าการให้บริการ การทำแบทชิง และการตรวจสอบ
  • การอัปเดต การรีสตาร์ท และการวางแผนความจุเมื่อปริมาณการจราจรพุ่งสูง
  • การจัดการการละเมิด การบันทึกข้อมูล และคีย์การเข้าถึงของคุณเอง

สำหรับโปรเจกต์อดิเรกหรือเครื่องมือภายในที่มีปริมาณคงที่และต่ำ การใช้ GPU เช่าหรือเครื่องท้องถิ่นอาจเพียงพอ สำหรับงานที่ปริมาณไม่คงที่หรือขนาดเล็ก การจ่ายต่อโทเคนมักง่ายกว่า ตัวอย่างการคำนวณ: งานที่มี 1M input tokens และ 1M output tokens มีค่าใช้จ่าย 1 x $0.15 + 1 x $0.50 = $0.65 บน API นี้ เปรียบเทียบกับประมาณการค่าเช่า GPU และเวลาของคุณก่อนตัดสินใจ

การย้ายไคลเอนต์ OpenRouter ที่มีอยู่

เนื่องจาก API ปฏิบัติตามรูปแบบแชทของ OpenAI โค้ดที่เขียนสำหรับไคลเอนต์สไตล์ OpenAI มักต้องแก้ไขสองจุด: base URL และคีย์ สตริงของโมเดลคือ uncensored นี่คือเวอร์ชัน Python ด้วยแพ็กเกจ openai ทางการ

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt technical editor."},
        {"role": "user", "content": "Tighten this paragraph: ..."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)

การเรียกใช้เดียวกันใน Node และรูปแบบ HTTP ดิบสำหรับการตรวจสอบอย่างรวดเร็วจากเทอร์มินัล:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

สตรีมมิง การเรียกใช้ฟังก์ชัน และโหมด JSON ทำงานเหมือนกับใน SDK ของ OpenAI ฟีเจอร์เสริมเฉพาะเราต์เตอร์ เช่น ฟิลด์ความชอบผู้ให้บริการหรือรายการการสำรองโมเดล ไม่มีความหมายที่นี่และควรลบออกจากบอดี้คำขอ หน้าเอกสาร ระบุพารามิเตอร์ที่รองรับ

ขีดจำกัด ราคา และการเติมเงินที่คุณควรรู้ก่อนเปลี่ยน

อ่านขีดจำกัดก่อนย้ายการจราจรการผลิต คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที คำขอแบบสตรีมจะยึดช่องความจุพร้อมกันไว้จนกว่าสตรีมจะสิ้นสุด ซึ่งสำคัญหากคุณส่งคำขอสร้างข้อความยาวหลายคำขอพร้อมกัน การเกินขีดจำกัดจะส่ง HTTP 429 พร้อมรหัสข้อผิดพลาด rate_limited หรือ concurrency และการโอเวอร์โหลดชั่วคราวก็ส่ง 429 พร้อมหัว Retry-After: 5 ด้วย ให้ลองใหม่โดยมีระยะหน่วงสั้นๆ และจำกัดจำนวนคำขอที่กำลังดำเนินการอยู่ฝั่งของคุณ

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M output tokens จ่ายจากเครดิตแบบเติมเงินล่วงหน้าโดยไม่ต้องสมัครสมาชิก คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ ส่วนหัวการตอบกลับ X-Balance-USD แสดงยอดคงเหลือ เพื่อให้คุณสามารถติดตามการใช้จ่ายจากโค้ดได้ การเติมเงินเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส 5% จาก $50, 10% จาก $100 และ 15% จาก $200 คุณสามารถจ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base) รายละเอียดเพิ่มเติมอยู่ที่ หน้าราคา

ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกหนึ่งครั้งบนหน้าคีย์หลังการ sign-up เครดิตนี้มีอายุ 7 วัน ไม่ต้องใช้บัตร และจำกัดเพียงหนึ่งต่อคน ใช้มันเพื่อรันพรอมต์จริงของคุณผ่านเอนด์พอยต์ก่อนเติมเงิน กฎเนื้อหาสั้นๆ: การใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมายคือเป้าหมายหลัก และมีขีดจำกัดแข็งต่อการมีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์

วิธีการตัดสินใจ

เลือกตามข้อกำหนดที่แท้จริง หากคุณต้องรันทุกอย่างบนเครื่องของคุณเอง ให้โฮสต์โมเดลแบบเปิดน้ำหนักเองและยอมรับงาน หากคุณต้องการหลายผู้ขาย หลายรูปแบบ หรือการสำรองอัตโนมัติ เราต์เตอร์ยังคงเหมาะสมกว่า และการเปรียบเทียบทางเลือก OpenRouter บนเว็บไซต์นี้กล่าวถึงข้อแลกเปลี่ยนโดยละเอียดมากขึ้น หากคุณต้องการโมเดลข้อความแบบเปิดน้ำหนักเดียว อินเทอร์เฟซที่เข้ากันได้กับ OpenAI ธรรมดา และราคาต่อโทเคนแบบแบน API นี้เป็นทางเลือกโดยตรงสำหรับส่วนหนึ่งของการจราจรของคุณ

แผนปฏิบัติคือการเก็บทั้งสองอย่างไว้ ทิ้งงานทั่วไปไว้ที่เดิม และส่งคำขอที่มักถูกปฏิเสธที่อื่นไปยังเอนด์พอยต์นี้ สร้างคีย์บน หน้าคีย์ API รับเครดิตทดลองใช้ และเปรียบเทียบผลลัพธ์กับพรอมต์ของคุณเองยี่สิบอัน การทดสอบนี้ใช้ค่าใช้จ่ายเพียงเศษเสี้ยวของเซ็นต์ต่อคำขอและบอกคุณมากกว่าตารางฟีเจอร์ใดๆ

ถาม-ตอบ

API นี้เป็นโอเพนซอร์สหรือไม่?

นี่คือบริการโฮสต์ที่อยู่เบื้องหน้าโมเดลแบบเปิดน้ำหนัก น้ำหนักโมเดลถูกเผยแพร่โดยผู้เขียน แต่เซิร์ฟเวอร์โฮสต์ไม่ใช่สิ่งที่คุณสามารถดาวน์โหลดจากเว็บไซต์นี้ และน้ำหนักแบบเปิดไม่ได้หมายความว่าได้รับใบอนุญาตโอเพนซอร์สโดยอัตโนมัติ

มันเหมือนกับ OpenRouter หรือไม่?

ไม่ OpenRouter เป็นเราเตอร์ข้ามผู้ให้บริการหลายราย API นี้ให้บริการโมเดลหนึ่งตัวโดยผู้ให้บริการอิสระ และไม่ใช่เราเตอร์และไม่ใช่ API ของผู้ขายอย่างเป็นทางการ

ฉันต้องส่งชื่อโมเดลใด?

ส่ง uncensored เป็น ID ของโมเดล เรียก GET /v1/models เพื่อยืนยันจากไคลเอนต์ของคุณเอง

ฉันสามารถใช้โค้ด OpenAI SDK ที่มีอยู่ได้หรือไม่?

ใช่ เปลี่ยน base URL เป็น https://api.openrouteralternativeapi.com/v1, ใช้คีย์ของคุณเป็นโทเคน Bearer และตั้งค่าโมเดลเป็น uncensored ลบฟิลด์คำขอเฉพาะของ OpenRouter ออก

คีย์ของคุณอยู่ห่างเพียงขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด