Szybki start: Zintegruj uzupełnienia bez cenzury

Pierwsze żądanie

Wyślij swoją pierwszą odpowiedź natychmiast po wygenerowaniu klucza. Użyj identyfikatora modelu uncensored do dostępu do modelu open-weight. Skutecznie obsługuje wejście i wyjście tekstu.

Poniższy przykład demonstruje podstawowe żądanie uzupełniania tekstu. Zmień YOUR_API_KEY z Twoim rzeczywistym kluczem. Potwierdza to, że uwierzytelnianie działa poprawnie.

Możesz dostosować parametry takie jak temperatura lub top_p, aby kontrolować kreatywność. Model obsługuje standardowe payloady JSON. Błędy zwracają jasne kody. Błąd 402 oznacza, że musisz doładować swoje środki. Doładowania odbywają się za pomocą USDT w sieci TRC20 lub USDC w sieci Base.

Ta prostota skraca czas integracji. Nie potrzebujesz złożonego middleware. API zachowuje się jak standardowe punkty końcowe OpenAI. Ta znajomość znacznie przyspiesza cykl deweloperski.

Integracja SDK Python

Użyj oficjalnej biblioteki Pythona OpenAI do szybkiej integracji. Ustaw base URL i klucz API w inicjalizacji klienta. To podejcie utrzymuje Twój kod czystym i łatwym w utrzymaniu.

Przekaż nazwę modelu jako uncensored. Biblioteka automatycznie serializuje dane JSON. Otrzymujesz odpowiedzi ze strukturą, które są łatwe do parsowania w logice Twojej aplikacji.

Ta metoda działa zarówno w przepływach pracy synchronicznych, jak i asynchronicznych. Możesz strumieniować odpowiedzi lub pobierać pełny tekst naraz. Wybór zależy od potrzeb doświadczenia użytkownika. Strumieniowanie zmniejsza postrzeganą latencję dla długich odpowiedzi.

Przechowuj swój klucz API bezpiecznie. Nie koduj go na stałe w kontrolerze wersji. Użyj zmiennych środowiskowych dla wdrożeń produkcyjnych. Ta praktyka zapobiega przypadkowemu ujawnieniu Twoich poświadczeń.

Integracja SDK Node

Zintegruj, używając SDK Node.js dla aplikacji serwerowych. Zainicjuj klienta swoim base URL i kluczem. Struktura ściśle odzwierciedla implementację Pythona.

Wywołanie chat.completions.create z uncensored model. SDK efektywnie zarządza żądaniami HTTP. Otrzymujesz odpowiedzi w standardowym formacie JSON.

To rozwiązanie dobrze współpracuje z serwerami Express lub Fastify. Możesz opakować wywołanie API w procedurę obsługi tras. Obsłuż błędy w sposób elegancki, aby poinformować użytkowników. Błąd 429 oznacza przekroczenie limitu szybkości.

Zużycie pamięci pozostaje niskie, ponieważ przejmujemy ciężką pracę. Twój serwer przetwarza jedynie dane wejściowe w formacie JSON. Ta architektura skaluje się łatwo wraz z liczbą użytkowników. Nie wymaga skomplikowanego zarządzania infrastrukturą.

Strumieniowanie i zużycie tokenów

Włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. API zwraca fragmenty tekstu w miarę ich generowania. Poprawia to doświadczenie użytkownika dla długich odpowiedzi.

Każdy chunk zawiera dane o zużyciu tokenów. Ostatni chunk zawiera całkowitą liczbę tokenów dla żądania. Możesz śledzić koszty w czasie rzeczywistym. Ta przejrzystość pomaga efektywnie zarządzać kredytem z góry.

Błędy podczas strumieniowania są obsługiwane za pomocą standardowych kodów HTTP. Błąd 402 zatrzymuje strumień, jeśli zabraknie kredytu. Możesz wznowić lub ponowić po doładowaniu. Proces jest prosty.

Strumieniowanie skraca czas do pierwszego bajtu. Użytkownicy widzą postęp natychmiast. Ta funkcja jest kluczowa dla interfejsów czatu. Sprawia, że uncensored LLM wygląda na responsywny i dynamiczny.

Limity szybkości i okno kontekstowe

Nasze limity są hojne dla większości przypadków użycia. Otrzymujesz 300 żądań na minutę na klucz. Możesz mieć 8 żądań równoległych jednocześnie. Wspiera to aplikacje o wysokim przepływie bez tworzenia wąskich gardeł.

Okno kontekstowe wynosi łącznie 100 000 tokenów. Obejmuje ono zarówno prompt, jak i uzupełnienie. Maksymalna długość odpowiedzi na żądanie to 16 000 tokenów. Ustaw max_tokens wyraźnie, aby uniknąć wartości domyślnych. Domyślny max to 2 048 tokenów.

Kody błędów pomagają szybko debugować. 401 oznacza nieprawidłowy klucz. 402 oznacza brak kredytu. 429 oznacza przekroczenie limitu szybkości. Sprawdź ciało odpowiedzi pod kątem szczegółów. Zwroty środków za kredyt nie są dostępne, ale błędy są naprawiane przez support.

Ciała żądań muszą mieć rozmiar mniejszy niż 8 MB. To ograniczenie zapewnia stabilną wydajność. Zaplanuj rozmiar ładunku odpowiednio. Duże dokumenty mogą wymagać podziału na fragmenty. To podejście utrzymuje niskie i spójne opóźnienia.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)