Rychlý start: Integrujte dokončování Uncensored

První požadavek

Po vygenerování klíče ihned odešlete svůj první dokončený požadavek. Použijte ID modelu uncensored k přístupu k modelu s otevřenými váhami. Efektivně zpracovává vstup a výstup textu.

Následující příklad demonstruje základní požadavek na dokončení textu. Nahraďte YOUR_API_KEY vaším skutečným klíčem. Tím potvrdíte, že vaše autentizace funguje správně.

Můžete upravit parametry jako teplotu nebo top_p pro ovládání kreativity. Model reaguje na standardní JSON payloady. Chyby vrací jasné kódy. Chyba 402 znamená, že potřebujete doplnit kredit. Vklady používají USDT na TRC20 nebo USDC na Base.

Tato jednoduchost zkracuje dobu integrace. Nemusíte používat složitou middleware. API se chová jako standardní endpointy OpenAI. Tato povědomost výrazně urychluje váš vývojový cyklus.

Integrace Python SDK

Použijte oficiální knihovnu OpenAI pro Python pro rychlou integraci. Nastavte základní URL a API klíč při inicializaci klienta. Tento přístup udržuje váš kód čistý a udržovatelný.

Předložte název modelu jako uncensored. Knihovna automaticky serializuje JSON. Získáte strukturované odpovědi, které je snadné zpracovat v logice vaší aplikace.

Tato metoda funguje jak pro synchronní, tak asynchronní pracovní postupy. Můžete streamovat odpovědi nebo získat celý text najednou. Volba závisí na vašich potřebách uživatelského zážitku. Streamování snižuje vnímanou latenci pro dlouhé odpovědi.

Uchovávejte svůj API klíč v bezpečí. Neukládejte ho natvrdo do verzionovacího systému. Pro nasazení ve výrobě používejte proměnné prostředí. Tento postup zabraňuje náhodnému odhalení vašich přihlašovacích údajů.

Integrace SDK pro Node

Integrujte pomocí Node.js SDK pro serverové aplikace. Inicializujte klienta pomocí své base URL a klíče. Struktura úzce odpovídá implementaci v Pythonu.

Volání chat.completions.create s uncensored model. SDK efektivně spravuje HTTP požadavky. Odpovědi získáte ve standardním formátu JSON.

Toto nastavení dobře funguje se servery Express nebo Fastify. Můžete zabalit volání API do obslužné rutiny cesty. Chyby řešte elegantně, abyste uživatele informovali. Chyba 429 znamená, že jste dosáhli limitu rychlosti.

Využití paměti zůstává nízké, protože na náročnou práci se staráme my. Váš server pouze zpracovává vstup ve formátu JSON. Tato architektura se snadno škáluje s vaší uživatelskou základnou. Žádná složitá správa infrastruktury není potřeba.

Streamování a využití tokenů

Povolte streamování nastavením stream: true ve vaší žádosti. API vrací bloky textu, jak jsou generovány. To zlepšuje uživatelský zážitek u dlouhých odpovědí.

Každý chunk obsahuje data o využití. Poslední chunk obsahuje celkový počet tokenů pro požadavek. Můžete sledovat náklady v reálném čase. Tato transparentnost vám pomáhá efektivně spravovat předplacený kredit.

Chyby při streamování jsou zpracovávány pomocí standardních kódů HTTP. Chyba 402 zastaví stream, pokud dojdou kredity. Po doplnění můžete pokračovat nebo zkusit znovu. Proces je jednoduchý.

Streamování snižuje čas do prvního bajtu. Uživatelé vidí okamžitý postup. Tato funkce je nezbytná pro chatová rozhraní. Způsobí, že LLM bez cenzury působí responzivně a dynamicky.

Limity rychlosti a kontextové okno

Naše limity jsou pro většinu případů použití štědré. Získáte 300 požadavků za minutu na klíč. Můžete mít 8 souběžných požadavků najednou. To podporuje aplikace s vysokou propustností bez vytváření hrdla lahve.

Okno kontextu má celkem 100 000 tokenů. To zahrnuje jak prompt, tak completion. Maximální výstup na požadavek je 16 000 tokenů. Nastavte max_tokens explicitně, abyste se vyhnuli výchozím hodnotám. Výchozí max je 2 048 tokenů.

Kódy chyb vám pomohou rychle ladit. 401 znamená neplatný klíč. 402 znamená nedostatek kreditu. 429 znamená překročení limitu rychlosti. Podívejte se do těla odpovědi pro podrobnosti. Refundace kreditu není možná, ale chyby se opravují prostřednictvím podpory.

Těla požadavků musí být menší než 8 MB. Toto omezení zajišťuje stabilní výkon. Velikost payloadu plánujte s ohledem na toto omezení. Velké dokumenty může být třeba rozdělit na části. Tento přístup udržuje latenci nízkou a konzistentní.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)