Các điểm chính
- OpenRouter tính phí gia tăng trên chi phí mô hình nền tảng, trong khi API trực tiếp của chúng tôi cung cấp giá token thô minh bạch.
- Các bộ sưu tập định tuyến yêu cầu qua nhiều máy chủ, gây ra độ trễ biến đổi so với cơ sở hạ tầng chuyên dụng của chúng tôi.
- Mô hình không kiểm duyệt của chúng tôi chạy trên phần cứng của chính chúng tôi, đảm bảo thông lượng ổn định mà không có sự phụ thuộc vào bên thứ ba.
- Thanh toán bằng tiền điện tử kèm thêm tín dụng giúp mô hình trả trước của chúng tôi tiết kiệm chi phí cho các nhà phát triển khối lượng lớn.
Tại sao nên dùng API không kiểm duyệt?
Các nhà tổng hợp như Open Router thường lọc nội dung hoặc áp dụng các lớp an toàn nghiêm ngặt cản trở việc tạo nội dung sáng tạo hoặc hướng đến người lớn. API không kiểm duyệt của chúng tôi phục vụ một mô hình trọng lượng mở duy nhất được tinh chỉnh cụ thể để trả lời mà không bị từ chối. Bạn có khả năng văn bản vào, văn bản ra trực tiếp mà không có các cổng kiểm duyệt ẩn.
Nhà phát triển thích điều này cho nhập vai, tiểu thuyết hoặc nghiên cứu nơi các mô hình tiêu chuẩn chặn các chủ đề người trưởng thành hợp pháp. Chúng tôi chạy mô hình trên máy chủ của riêng mình, đảm bảo hành vi nhất quán. Không giống như các dịch vụ proxy định tuyến lưu lượng truy cập thông qua nhiều nhà cung cấp khác nhau, chúng tôi kiểm soát toàn bộ ngăn xếp. Điều này có nghĩa là đầu ra dự đoán được và không có thay đổi chính sách đột ngột từ nhà cung cấp bên thứ ba.
Open Router: Mô hình tổng hợp
Open Router hoạt động như một cổng, định tuyến các yêu cầu của bạn đến các nhà cung cấp LLM khác nhau. Bạn trả giá cơ sở cộng với phí gia tăng cho dịch vụ của họ. Điều này thêm chi phí trên mỗi token và gây ra độ trễ vì các yêu cầu đi qua nhiều bước.
Các quyết định định tuyến có thể thay đổi, dẫn đến hiệu suất không nhất quán. Một lúc mô hình nhanh, lúc khác lại chậm do tải từ nhà cung cấp gốc. Bạn cũng mất quyền kiểm soát trực tiếp đối với cơ sở hạ tầng nền tảng. Nếu nhà cung cấp gốc thay đổi giới hạn hoặc giá, Open Router sẽ điều chỉnh tương ứng, chuyển chi phí cho bạn. Điều này khiến việc lập ngân sách trở nên khó khăn hơn cho các dự án dài hạn.
Mô hình trực tiếp: Tính nhất quán và chi phí
Chúng tôi vận hành một mô hình không kiểm duyệt chuyên dụng trên máy chủ riêng. Điều này loại bỏ chi phí định tuyến và phí gia tăng thường thấy ở các mô hình tổng hợp. Bạn trả trực tiếp chi phí token thô. URL cơ sở của chúng tôi là HTTPS://api.openaitokenpricing.com/v1, tương thích với các SDK OpenAI tiêu chuẩn.
Cơ sở hạ tầng chuyên dụng có nghĩa là độ trễ ổn định. Các yêu cầu đi trực tiếp từ máy khách của bạn đến cụm GPU của chúng tôi. Không có bước nhảy của bên thứ ba. Sự nhất quán này rất quan trọng đối với các ứng dụng thời gian thực hoặc xử lý hàng loạt. Bạn biết chính xác dữ liệu của mình đi đâu và được xử lý như thế nào. Không có độ trễ định tuyến không mong đợi. Không có phí ẩn. Chỉ có quyền truy cập trực tiếp vào mô hình.
Bảng giá token
OpenRouter tính phí gia tăng trên giá mô hình nền tảng. API trực tiếp của chúng tôi tính $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Đây là các tỷ lệ thô không có phí đăng ký. Bạn chỉ trả tiền cho những gì bạn sử dụng.
Lỗi và từ chối đều miễn phí. Điều này bảo vệ ngân sách của bạn trong quá trình thử nghiệm. Số dư trả trước không bao giờ hết hạn, vì vậy bạn có thể nạp tiền khi cần. Giá của Open Router thay đổi tùy theo khả dụng của mô hình. Mức giá cố định của chúng tôi giúp đơn giản hóa việc dự đoán chi phí. Bạn có thể kiểm tra các mức giá hiện tại trên trang giá của chúng tôi. Không có khoản phí bất ngờ. Không có các tầng giá ẩn. Chỉ có hóa đơn dựa trên lượng token thực tế.
Sự khác biệt về tốc độ và độ trễ
Các nhà tổng hợp giới thiệu các bước nhảy mạng. Mỗi bước nhảy thêm độ trễ. Mô hình trực tiếp của chúng tôi phục vụ các yêu cầu từ máy chủ của riêng chúng tôi. Điều này làm giảm đáng kể thời gian vòng lặp. Bạn nhận được phản hồi nhanh hơn cho các hoàn thành trò chuyện.
Thông lượng nhất quán rất quan trọng cho streaming. Streaming SSE của chúng tôi bao gồm sử dụng token trong chunk cuối cùng. Các bộ tổng hợp có thể đệm hoặc làm chậm các chunk do xử lý upstream. Truy cập trực tiếp đảm bảo tạo token theo thời gian thực. Điều này rất quan trọng cho các giao diện chat. Bạn kiểm soát tốc độ. Không chờ đợi các quyết định định tuyến. Chỉ có việc tạo văn bản không kiểm duyệt nhanh chóng.
Cửa sổ ngữ cảnh và các giới hạn
Mô hình của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000-token. Điều này bao gồm cả prompt và kết quả hoàn thành. Đầu ra tối đa là 16,000 token mỗi yêu cầu. Nếu bạn không đặt max_tokens, nó mặc định là 2,048. Các giới hạn của Open Router phụ thuộc vào mô hình nền tảng.
Các nhà tổng hợp có thể áp đặt giới hạn tốc độ của riêng họ trên cùng với giới hạn của nhà cung cấp. Chúng tôi áp đặt 300 yêu cầu mỗi phút trên mỗi khóa. Điều này minh bạch và nhất quán. Không có việc hạn chế đột ngột từ các nhà cung cấp phía trên. Bạn quản lý hạn ngạch của riêng mình. Kiểm soát trực tiếp độ dài ngữ cảnh. Không có ràng buộc ẩn. Chỉ có các giới hạn rõ ràng cho ứng dụng của bạn.
Hỗ trợ và kiểm soát
OpenRouter cung cấp hỗ trợ chung cho các vấn đề định tuyến. Hỗ trợ của chúng tôi là trực tiếp. Bạn liên hệ với chúng tôi cho các vấn đề về tài khoản hoặc sử dụng. Không có trung gian. Điều này tăng tốc độ giải quyết cho các vấn đề quan trọng. Bạn có quyền truy cập trực tiếp vào nhà cung cấp dịch vụ.
Tính riêng tư là yếu tố then chốt. Các prompt không được sử dụng để huấn luyện mô hình. Chúng tôi chỉ cần địa chỉ email để đăng ký. Không cần số điện thoại. Điều này giảm bớt rào cản đối với các nhà phát triển đang kiểm tra API. Kiểm soát trực tiếp khóa API của bạn. Một khóa hoạt động duy nhất cho mỗi tài khoản. Đơn giản và bảo mật. Không cần logic định tuyến phức tạp để gỡ lỗi.
Khi nào nên chọn cái nào
Chọn Open Router nếu bạn cần nhiều mô hình. Các nhà tổng hợp cung cấp sự đa dạng. Chọn API trực tiếp của chúng tôi để có sự ổn định và chi phí hợp lý. Chúng tôi cung cấp một mô hình không kiểm duyệt duy nhất. Điều này lý tưởng cho các ứng dụng tập trung. Bạn nhận được tỷ lệ token thấp hơn và độ trễ ổn định.
Nếu bạn cần embedding hoặc tạo ảnh, Open Router có thể cung cấp nhiều tùy chọn hơn. Chúng tôi tập trung vào hoàn tất hội thoại. Mô hình của chúng tôi được tối ưu hóa cho văn bản. Hãy sử dụng chúng tôi cho việc tạo văn bản không kiểm duyệt khối lượng lớn. Hãy sử dụng các bộ tổng hợp cho các thử nghiệm đa mô hình. API trực tiếp cho độ ổn định sản xuất. Thanh toán bằng tiền điện tử với credit bonus thêm giá trị. Không có phí hàng tháng. Chỉ trả tiền cho token.