Швидкий старт: Інтегруйте необмежені завершення

Перший запит

Надішліть свій перший запит на генерацію тексту одразу після створення API-ключа. Використовуйте ідентифікатор моделі uncensored для доступу до моделі з відкритими вагами. Вона ефективно обробляє вхідний та вихідний текст.

Нижче наведено приклад базового запиту на завершення тексту. Замініть YOUR_API_KEY з вашим реальним ключем. Це підтверджує, що ваша аутентифікація працює правильно.

Ви можете налаштувати такі параметри, як temperature або top_p, щоб керувати креативністю. Модель реагує на стандартні JSON-запити. Помилки повертають зрозумілі коди. Помилка 402 означає, що вам потрібно поповнити кредит. Поповнення здійснюється через USDT у мережі TRC20 або USDC у мережі Base.

Ця простота скорочує час інтеграції. Вам не потрібна складна проміжна програма. API поводиться так само, як стандартні ендпоінти OpenAI. Ця знайомість значно прискорює ваш цикл розробки.

Інтеграція SDK Python

Використовуйте офіційну Python-бібліотеку OpenAI для швидкої інтеграції. Встановіть базовий URL та API-ключ під час ініціалізації клієнта. Цей підхід зберігає ваш код чистим та підтримуваним.

Передайте назву моделі як uncensored. Бібліотека автоматично серіалізує JSON. Ви отримуєте структуровані відповіді, які легко парсити в логіці вашої програми.

Цей метод працює як із синхронними, так і асинхронними робочими процесами. Ви можете транслювати відповіді або отримувати повний текст одразу. Вибір залежить від ваших потреб у користувацькому досвіді. Трансляція зменшує сприйняту затримку для довгих відповідей.

Зберігайте ваш API-ключ у безпеці. Не жорстко кодуйте його у системі контролю версій. Використовуйте змінні середовища для продакшн-розгортань. Ця практика запобігає випадковому розголошенню ваших облікових даних.

Інтеграція Node SDK

Інтегруйте, використовуючи Node.js SDK для серверних застосунків. Ініціалізуйте клієнта, вказавши base URL та ключ. Структура тісно імітує реалізацію Python.

Виклик chat.completions.create з uncensored модель. SDK ефективно керує HTTP-запитами. Ви отримуєте відповіді у стандартному форматі JSON.

Ця конфігурація добре працює з серверами Express або Fastify. Ви можете обгорнути виклик API в обробнику маршрутів. Обробляйте помилки коректно, щоб проінформувати користувачів. Помилка 429 вказує на те, що ви вичерпали ліміт частоти запитів.

Витрата пам’яті залишається низькою, оскільки ми беремо на себе основну роботу. Ваш сервер лише обробляє вхідні дані у форматі JSON. Ця архітектура легко масштабується разом із зростанням вашої аудиторії. Не потрібне складне управління інфраструктурою.

Потокова передача та використання токенів

Увімкніть потокову передачу, встановивши stream: true у вашому запиті. API повертає фрагменти тексту по мірі їх генерації. Це покращує користувацький досвід для довгих відповідей.

Кожен чанк містить дані про використання. Останній чанк містить загальну кількість токенів для запиту. Ви можете відстежувати витрати в реальному часі. Ця прозорість допомагає ефективно керувати вашим передоплаченим кредитом.

Помилки під час потокової передачі обробляються через стандартні коди HTTP. Помилка 402 зупиняє потік, якщо закінчується кредит. Ви можете відновити або повторити спробу після поповнення. Процес є простим.

Потокова передача зменшує час до першого байта. Користувачі одразу бачать прогрес. Ця функція є критично важливою для інтерфейсів чату. Вона робить uncensored LLM відгукливою та динамічною.

Ліміти частоти та контекстне вікно

Наші ліміти є щедрами для більшості випадків використання. Ви отримуєте 300 запитів на хвилину на ключ. Ви можете мати 8 одночасних запитів одночасно. Це підтримує додатки з високою пропускною здатністю без створення вузьких місць.

Вікно контексту становить 100 000 токенів загалом. Це включає як промпт, так і відповідь. Максимальний обсяг відповіді за запит — 16 000 токенів. Встановіть max_tokens явно, щоб уникнути значень за замовчуванням. Максимальне значення за замовчуванням становить 2 048 токенів.

Коди помилок допомагають швидко знайти причину. 401 означає недійсний ключ. 402 означає недостатньо коштів. 429 означає перевищення ліміту швидкості. Перевірте тіло відповіді для деталей. Повернення коштів за кредит неможливе, але помилки виправляються через підтримку.

Тіла запитів мають бути меншими за 8 МБ. Це забезпечує стабільну продуктивність. Плануйте розмір корисного навантаження відповідним чином. Великі документи можуть потребувати розбиття на частини. Цей підхід підтримує низьку та стабільну затримку.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)