Giải pháp thay thế cho OpenRouter với mô hình trọng số mở
Nếu bạn tìm kiếm một giải pháp thay thế OpenRouter mã nguồn mở, câu hỏi hữu ích là bạn thực sự cần mở phần nào: trọng số, máy chủ hay bộ định tuyến. Trang này sắp xếp các tùy chọn và chỉ ra nơi API mô hình trọng số mở đơn lẻ phù hợp.
Cập nhật

Điểm chính
- OpenRouter định tuyến yêu cầu của bạn đến các mô hình từ nhiều nhà cung cấp; API này phục vụ một mô hình trọng số mở, nên cùng một prompt luôn gặp cùng một mô hình.
- Trọng số mở không giống với mã nguồn mở. Hãy kiểm tra giấy phép của bất kỳ mô hình nào bạn phụ thuộc vào.
- Tự lưu trữ mang lại nhiều quyền kiểm soát nhất nhưng tốn kém chi phí GPU và bảo trì; một endpoint được lưu trữ có giá $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra.
- Việc chuyển đổi yêu cầu hai thay đổi trong client OpenAI: base URL và key.
Ý nghĩa của mọi người về một giải pháp thay thế OpenRouter mã nguồn mở
Cụm từ này bao gồm ba mong muốn khác nhau, và việc nhầm lẫn chúng sẽ dẫn đến lựa chọn sai. Một số người muốn trọng số mở, nghĩa là tệp mô hình được công bố và về nguyên tắc có thể chạy trên phần cứng của riêng họ. Một số khác muốn một máy chủ mã nguồn mở, tức là mã gateway chấp nhận yêu cầu và chuyển tiếp chúng. Những người khác lại muốn định tuyến mở: không có việc chuyển đổi ẩn giữa các mô hình đằng sau một tên gọi duy nhất.
OpenRouter là một dịch vụ lưu trữ cung cấp một API phía trước các mô hình từ nhiều nhà cung cấp. Đó là mục đích của nó và đối với nhiều dự án, đây là công cụ phù hợp. Cái giá phải trả là mô hình trả lời bạn phụ thuộc vào tên bạn đặt, nhà cung cấp nào phục vụ nó và những gì nhà cung cấp đó hiện đang làm với nó. Nếu mục tiêu của bạn là một thiết lập ổn định, có thể kiểm tra được, thì bề mặt nhỏ hơn dễ suy luận hơn.
Trang web này cung cấp một API tương thích OpenAI được lưu trữ phía trước một mô hình trọng số mở duy nhất, do một nhà cung cấp độc lập vận hành và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Đây là một dịch vụ lưu trữ. Bạn gọi nó qua HTTPS, và trang này không cung cấp tải xuống máy chủ. Những gì bạn nhận được là một mô hình cố định, một danh sách tính năng ngắn và giá cố định, thay vì một hệ thống tự lưu trữ.
Trọng số mở so với mã nguồn mở, theo cách hiểu đơn giản
Một mô hình có trọng số mở cho phép bất kỳ ai tải xuống các tham số đã huấn luyện. Điều đó không tự động có nghĩa là có giấy phép mã nguồn mở. Một số trọng số được cung cấp với các điều khoản tự do, một số khác thêm các điều kiện sử dụng và một số ít hạn chế sử dụng thương mại. Giấy phép là thuộc tính của mô hình cụ thể, vì vậy hãy đọc nó trước khi xây dựng sản phẩm dựa trên đó.
Sự cẩn trọng tương tự cũng áp dụng cho dịch vụ phía trước một mô hình. Một API lưu trữ có thể phục vụ trọng số mở trong khi mã của chính nó vẫn giữ bí mật. Đó không phải là một lỗi, nhưng điều đó có nghĩa là "mở" mô tả mô hình, không phải máy chủ. Khi bạn so sánh các tùy chọn, hãy ghi lại lớp nào bạn muốn mở và tại sao. Các lý do điển hình là:
- Khả năng tái lập. Bạn muốn mô hình ngày mai giống như hôm nay, để các bài kiểm tra và prompt vẫn có ý nghĩa.
- Phương án thoát. Nếu bạn cần nhiều hơn so với những gì dịch vụ lưu trữ hiện tại đáp ứng, bạn muốn có một mô hình mà bạn có thể chạy ở nơi khác.
- Khả năng kiểm toán. Bạn muốn biết điều gì tạo ra văn bản của mình, không chỉ tên của endpoint là gì.
Một mô hình trọng số mở phía sau một endpoint lưu trữ đáp ứng khá tốt yêu cầu đầu tiên và thứ ba, đồng thời cung cấp cho bạn một lộ trình khả thi cho yêu cầu thứ hai. Nó không thay thế được việc tự lưu trữ nếu yêu cầu là không bên thứ ba nào nhìn thấy prompt.
Mô hình đơn lẻ so với bộ định tuyến đa nhà cung cấp
Một bộ định tuyến rất tiện lợi khi bạn muốn thử nhiều mô hình với một khóa duy nhất. Nó kém tiện lợi hơn khi bạn cần một hành vi ổn định. Với một bộ định tuyến, tên mô hình có thể ánh xạ sang các nhà cung cấp khác nhau theo thời gian, và mỗi nhà cung cấp có thể khác biệt về độ dài ngữ cảnh, tốc độ, bộ lọc hoặc ghi log. Những khác biệt này là có thật và được bộ định tuyến công bố công khai, vì vậy bạn hãy kiểm tra các trang của nó để biết chi tiết hiện tại.
Với một mô hình phía sau một endpoint, bức tranh đơn giản hơn. Bảng dưới đây liệt kê những gì API này cố định.
| Câu hỏi | API này |
|---|---|
| Mô hình nào trả lời? | Một mô hình trọng số mở, được gọi là uncensored |
| Nó có phải là bộ định tuyến qua các nhà cung cấp không? | Không |
| Nó có phải là API chính thức của nhà cung cấp không? | Không, nó được vận hành bởi một nhà cung cấp độc lập |
| Cửa sổ ngữ cảnh | 100.000 token, prompt cộng với hoàn tất |
| Chế độ | Chỉ văn bản |
| Endpoint | POST /v1/chat/completions và GET /v1/models |
Nhược điểm trung thực là độ rộng. Bạn không thể chuyển sang một họ mô hình khác bằng cách chỉnh sửa một chuỗi duy nhất, vì chỉ có một mô hình duy nhất. Nếu sản phẩm của bạn cần một mô hình thị giác máy tính, embeddings hoặc một mô hình nhỏ rẻ hơn cho các tác vụ dễ dàng, một bộ định tuyến hoặc nhiều tài khoản trực tiếp là câu trả lời tốt hơn, và bạn vẫn có thể sử dụng API này cho phần cần mô hình văn bản không kiểm duyệt.
Những gì bạn có thể tự chạy và chi phí của nó
Nếu mã nguồn mở là yêu cầu bắt buộc, tự lưu trữ là câu trả lời trung thực. Các mô hình trọng số mở có thể được phục vụ bằng các công cụ cộng đồng như vLLM, llama.cpp hoặc Ollama và một proxy như LiteLLM có thể trình bày một endpoint kiểu OpenAI phía trước chúng. Tất cả những dự án này đều có sẵn công khai, vì vậy hãy kiểm tra tài liệu của chúng để biết các tính năng và giấy phép hiện tại.
Chi phí nằm ở các phần mà API lưu trữ ẩn đi:
- Bộ nhớ GPU đủ lớn cho mô hình và cho một ngữ cảnh dài.
- Phục vụ cấu hình, gom lô và giám sát.
- Cập nhật, khởi động lại và lập kế hoạch dung lượng khi lưu lượng tăng đột biến.
- Cách xử lý lạm dụng, ghi nhật ký và khóa truy cập của riêng bạn.
Đối với một dự án cá nhân hoặc công cụ nội bộ với lưu lượng ổn định, thấp, một GPU thuê hoặc máy cục bộ có thể đủ tốt. Đối với các tác vụ nhỏ hoặc có đỉnh cao điểm, việc trả tiền theo token thường đơn giản hơn. Ví dụ minh họa: một tác vụ với 1 triệu token đầu vào và 1 triệu token đầu ra tốn 1 x $0.15 + 1 x $0.50 = $0.65 trên API này. So sánh điều đó với ước tính của bạn về chi phí thuê GPU và thời gian của bạn trước khi quyết định.
Di chuyển client OpenRouter hiện có sang
Vì API tuân theo định dạng chat của OpenAI, mã viết cho ứng dụng khách kiểu OpenAI thường cần hai chỉnh sửa: URL cơ sở và khóa. Chuỗi mô hình sẽ là uncensored. Dưới đây là phiên bản Python với gói openai chính thức.
from openai import OpenAI
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a blunt technical editor."},
{"role": "user", "content": "Tighten this paragraph: ..."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
Gọi tương tự trong Node và dạng HTTP thô để kiểm tra nhanh từ terminal:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.openrouteralternativeapi.com/v1",
apiKey: process.env.API_KEY,
});
const res = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'
Truyền phát, gọi công cụ và chế độ JSON hoạt động giống như trong các SDK của OpenAI. Các tính năng bổ sung dành riêng cho bộ định tuyến, chẳng hạn như các trường ưu tiên nhà cung cấp hoặc danh sách dự phòng mô hình, không có ý nghĩa ở đây và nên được xóa khỏi thân yêu cầu. Trang tài liệu liệt kê các tham số được hỗ trợ.
Giới hạn, giá cả và nạp tiền bạn cần biết trước khi chuyển đổi
Hãy đọc các giới hạn trước khi chuyển lưu lượng sản xuất. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút. Một yêu cầu truyền phát giữ vị trí đồng thời của nó cho đến khi luồng kết thúc, điều này quan trọng nếu bạn phân phối nhiều bản tạo dài cùng một lúc. Vượt quá giới hạn sẽ trả về HTTP 429 với mã lỗi rate_limited hoặc concurrency, và quá tải tạm thời cũng trả về 429 với tiêu đề Retry-After: 5. Hãy thử lại với độ trễ ngắn và giới hạn số lượng cuộc gọi đang xử lý ở phía bạn.
Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, thanh toán từ tín dụng trả trước không cần đăng ký. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, và tín dụng không bao giờ hết hạn. Tiêu đề phản hồi X-Balance-USD cho biết số dư còn lại, để bạn có thể theo dõi chi tiêu từ mã. Các khoản nạp tiền là bất kỳ số nguyên nào từ $20 đến $500, với phần thưởng 5% từ $50, 10% từ $100 và 15% từ $200. Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Chi tiết hơn có trên trang giá cả.
Người dùng mới có thể nhận $0.50 tín dụng dùng thử chỉ với một cú nhấp chuột trên trang khóa sau khi đăng ký. Tín dụng này có hiệu lực trong 7 ngày, không cần thẻ và giới hạn một người dùng mỗi người. Hãy sử dụng nó để chạy các prompt thực tế của bạn qua endpoint trước khi bạn thêm tiền. Quy tắc nội dung rất ngắn gọn: mục tiêu là sử dụng hợp pháp cho người trưởng thành, và có một giới hạn cứng chống lại bất kỳ nội dung tình dục nào liên quan đến người chưa thành niên.
Cách đưa ra quyết định
Hãy chọn theo yêu cầu thực sự ảnh hưởng đến bạn. Nếu bạn phải chạy mọi thứ trên máy của riêng mình, hãy tự lưu trữ một mô hình trọng số mở và chấp nhận công việc đó. Nếu bạn cần nhiều nhà cung cấp, nhiều phương thức hoặc dự phòng tự động, một bộ định tuyến vẫn là lựa chọn phù hợp hơn, và trang so sánh các giải pháp thay thế cho OpenRouter trên trang web này đi sâu vào các sự đánh đổi chi tiết hơn. Nếu bạn muốn một mô hình văn bản trọng số mở cố định, giao diện tương thích OpenAI đơn giản và giá cố định theo token, API này là một giải pháp thay thế trực tiếp cho phần lưu lượng đó của bạn.
Một kế hoạch thực tế là giữ cả hai. Để các tác vụ chung ở nơi chúng đang ở, và gửi các yêu cầu có xu hướng bị từ chối ở nơi khác đến endpoint này. Tạo một khóa trên trang khóa API, nhận tín dụng dùng thử và so sánh kết quả trên hai mươi prompt của riêng bạn. Bài kiểm tra đó tốn một phần nhỏ của một xu cho mỗi yêu cầu và cho bạn biết nhiều hơn bất kỳ bảng tính năng nào.
Hướng dẫn khác
Hỏi đáp
API này có phải là mã nguồn mở không?
Đây là dịch vụ lưu trữ phía trước một mô hình trọng số mở. Trọng số mô hình được công bố bởi tác giả, nhưng máy chủ lưu trữ không phải thứ bạn tải từ trang web này, và trọng số mở không tự động có giấy phép mã nguồn mở.
Có giống với OpenRouter không?
Không. OpenRouter là một bộ định tuyến kết nối nhiều nhà cung cấp. API này phục vụ một mô hình duy nhất, do một nhà cung cấp độc lập vận hành, và không phải là bộ định tuyến cũng không phải API chính thức của nhà cung cấp.
Tôi gửi tên mô hình nào?
Gửi "uncensored" làm ID mô hình. Gọi GET /v1/models để xác nhận nó từ chính ứng dụng của bạn.
Tôi có thể sử dụng mã OpenAI SDK hiện có của mình không?
Đúng. Thay đổi base URL thành https://api.openrouteralternativeapi.com/v1, để sử dụng khóa của bạn làm token Bearer, và đặt mô hình thành uncensored. Loại bỏ các trường yêu cầu chỉ dành cho router.