Hướng dẫn nhanh: Tích hợp hoàn thành không kiểm duyệt

Yêu cầu đầu tiên

Gửi yêu cầu hoàn tất đầu tiên ngay sau khi tạo khóa của bạn. Sử dụng model ID uncensored để truy cập mô hình trọng lượng mở. Nó xử lý văn bản đầu vào và đầu ra một cách hiệu quả.

Ví dụ sau đây minh họa một yêu cầu hoàn thành văn bản cơ bản. Thay thế YOUR_API_KEY với khóa thực tế của bạn. Điều này xác nhận xác thực của bạn hoạt động đúng.

Bạn có thể điều chỉnh các tham số như nhiệt độ hoặc top_p để kiểm soát độ sáng tạo. Mô hình phản hồi với các tải trọng JSON tiêu chuẩn. Lỗi trả về mã rõ ràng. Lỗi 402 có nghĩa là bạn cần nạp thêm tín dụng. Các khoản nạp sử dụng USDT trên TRC20 hoặc USDC trên Base.

Sự đơn giản này giảm thời gian tích hợp. Bạn không cần middleware phức tạp. API hoạt động giống như các điểm cuối OpenAI tiêu chuẩn. Sự quen thuộc này tăng tốc đáng kể chu kỳ phát triển của bạn.

Tích hợp SDK Python

Sử dụng thư viện Python chính thức của OpenAI để tích hợp nhanh chóng. Đặt base URL và API key trong quá trình khởi tạo client. Cách tiếp cận này giữ cho code của bạn sạch sẽ và dễ bảo trì.

Định nghĩa tên mô hình là uncensored. Thư viện tự động xử lý việc tuần tự hóa JSON. Bạn nhận được các phản hồi có cấu trúc, dễ dàng phân tích cú pháp trong logic ứng dụng của mình.

Phương pháp này hoạt động cho cả quy trình đồng bộ và bất đồng bộ. Bạn có thể phát trực tiếp phản hồi hoặc nhận toàn bộ văn bản cùng lúc. Sự lựa chọn phụ thuộc vào nhu cầu trải nghiệm người dùng của bạn. Phát trực tiếp giảm độ trễ cảm nhận đối với các câu trả lời dài.

Giữ khóa API của bạn an toàn. Không mã hóa cứng nó trong kiểm soát phiên bản. Sử dụng biến môi trường cho các triển khai sản xuất. Thực hành này ngăn ngừa việc lộ thông tin xác thực vô tình.

Tích hợp SDK Node

Tích hợp bằng cách sử dụng SDK Node.js cho các ứng dụng phía máy chủ. Khởi tạo máy khách với base URL và khóa của bạn. Cấu trúc giống với triển khai Python.

Gọi chat.completions.create với uncensored model. SDK quản lý các yêu cầu HTTP một cách hiệu quả. Bạn nhận được phản hồi ở định dạng JSON tiêu chuẩn.

Cấu hình này hoạt động tốt với các máy chủ Express hoặc Fastify. Bạn có thể bao bọc lệnh gọi API trong một trình xử lý route. Xử lý lỗi một cách duyên dáng để thông báo cho người dùng của bạn. Lỗi 429 cho biết bạn đã đạt giới hạn tốc độ.

Bộ nhớ được giữ ở mức thấp vì chúng tôi xử lý các tác vụ nặng. Máy chủ của bạn chỉ cần xử lý đầu vào JSON. Kiến trúc này dễ dàng mở rộng theo cơ sở người dùng của bạn. Không cần quản lý hạ tầng phức tạp.

Streaming và Việc Sử Dụng Token

Bật phát trực tiếp bằng cách đặt stream: true trong yêu cầu của bạn. API trả về các chunk văn bản ngay khi chúng được tạo. Điều này cải thiện trải nghiệm người dùng đối với các phản hồi dài.

Mỗi chunk bao gồm dữ liệu sử dụng token. Chunk cuối cùng chứa tổng số token cho yêu cầu. Bạn có thể theo dõi chi phí theo thời gian thực. Sự minh bạch này giúp bạn quản lý tín dụng trả trước của mình một cách hiệu quả.

Lỗi trong quá trình phát trực tuyến được xử lý thông qua các mã HTTP tiêu chuẩn. Lỗi 402 sẽ dừng luồng nếu tín dụng hết. Bạn có thể tiếp tục hoặc thử lại sau khi nạp thêm tiền. Quy trình này rất đơn giản.

Streaming giảm thời gian đến byte đầu tiên. Người dùng thấy tiến độ ngay lập tức. Tính năng này rất quan trọng cho các giao diện trò chuyện. Nó làm cho LLM không kiểm duyệt cảm thấy phản hồi và năng động.

Giới hạn tốc độ và Cửa sổ ngữ cảnh

Giới hạn của chúng tôi rất hào phóng cho hầu hết các trường hợp sử dụng. Bạn có 300 yêu cầu mỗi phút mỗi khóa. Bạn có thể có 8 yêu cầu đồng thời cùng lúc. Điều này hỗ trợ các ứng dụng có thông lượng cao mà không bị nghẽn cổ chai.

Cửa sổ ngữ cảnh là 100.000 token tổng cộng. Điều này bao gồm cả prompt và completion. Đầu ra tối đa mỗi yêu cầu là 16.000 token. Đặt max_tokens một cách rõ ràng để tránh các giá trị mặc định. Giá trị max mặc định là 2.048 token.

Mã lỗi giúp bạn khắc phục sự cố nhanh chóng. 401 nghĩa là khóa không hợp lệ. 402 nghĩa là không có tín dụng. 429 nghĩa là vượt quá giới hạn tốc độ. Kiểm tra thân phản hồi để biết chi tiết. Hoàn tiền không khả dụng cho tín dụng, nhưng sai sót sẽ được sửa chữa qua bộ phận hỗ trợ.

Thân yêu cầu phải dưới 8 MB. Hạn chế này đảm bảo hiệu suất ổn định. Hãy cân nhắc kích thước payload của bạn. Tài liệu lớn có thể cần được chia nhỏ. Phương pháp này giúp độ trễ thấp và ổn định.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)