Hurtig start: Integrer uncensored completions

Første anmodning

Send din første completion straks efter at have genereret din nøgle. Brug model-ID uncensored til at få adgang til open-weight modellen. Den håndterer tekstind og tekstud effektivt.

Følgende eksempel demonstrerer en grundlæggende tekstkompletteringsanmodning. Erstat YOUR_API_KEY med din faktiske nøgle. Dette bekræfter, at din autentificering fungerer korrekt.

Du kan justere parametre som temperatur eller top_p for at kontrollere kreativiteten. Modellen responderer på standard JSON-payloads. Feil returnerer klare koder. En 402-fejl betyder, at du skal indbetale mere kredit. Indbetalinger bruger USDT på TRC20 eller USDC på Base.

Denne enkelhed reducerer integreringstiden. Du behøver ikke kompleks middleware. API'et opfører sig som de standard OpenAI-endepunkter. Denne bekendtskab fremskynder din udviklingscyklus betydeligt.

Python SDK-integration

Brug det officielle OpenAI Python-bibliotek til hurtig integration. Indstil base URL og API-nøgle i klientinitialiseringen. Denne tilgang holder din kode ren og vedligeholdelig.

Indsend modelnavnet som uncensored. Biblioteket håndterer JSON-serialisering automatisk. Du modtager strukturerede svar, der er lette at analysere i din applikationslogik.

Denne metode fungerer til både synkrone og asynkrone arbejdsgange. Du kan streame svar eller få hele teksten på én gang. Valget afhænger af dine brugerbehov. Streaming reducerer den opfattede latens for lange svar.

Hold din API-nøgle sikker. Hardcode ikke den i version control. Brug miljøvariabler til produktionsudrulinger. Denne praksis forhindrer utilsigtet eksponering af dine legitimationsoplysninger.

Node SDK-integration

Integrer ved hjælp af Node.js SDK til server-side applikationer. Initialiser klienten med din base URL og nøgle. Strukturen efterligner Python-implementeringen tæt.

Kald chat.completions.create med uncensored model. SDK'et håndterer HTTP-anmodninger effektivt. Du får svar i standard JSON-format.

Denne opsætning fungerer godt med Express- eller Fastify-servere. Du kan indpakke API-kaldet i en route handler. Håndter fejl pænt for at informere dine brugere. En 429-fejl indikerer, at du har ramt rate limit.

Mehlemisbrugen forbliver lav, fordi vi håndterer tungarbejdet. Din server skal blot behandle JSON-input. Denne arkitektur skalerer nemt med din brugerbund. Ingen kompleks infrastrukturhåndtering kræves.

Streaming og Token-forbrug

Aktivér streaming ved at indstille stream: true i din anmodning. API'et returnerer tekststykker, mens de genereres. Dette forbedrer brugeroplevelsen for lange svar.

Hver chunk indeholder tokenforbrugsdata. Den sidste chunk indeholder det samlede tokenantal for forespørgslen. Du kan spore omkostninger i realtid. Denne gennemsigtighed hjælper dig med at administrere din forudbetalte kredit effektivt.

Fejl under streaming håndteres via standard HTTP-koder. En 402-fejl stopper streamen, hvis kreditten løber ud. Du kan genoptage eller gentage efter top-up. Processen er enkel.

Streaming reducerer tiden til første byte. Brugere ser fremgang øjeblikkeligt. Denne funktion er essentiel for chatgrænseflader. Det får den upolerede LLM til at føles responsiv og dynamisk.

Rate Limits og Context Window

Vores grænser er generøse for de fleste brugssager. Du får 300 anmodninger i minuttet per nøgle. Du kan have 8 samtidige anmodninger på samme tid. Dette understøtter høj-gennemstrømningsapplikationer uden at flaske halsen.

Kontekstvinduet er på i alt 100.000 tokens. Dette omfatter både prompt og completion. Maks output pr. anmodning er 16.000 tokens. Indstil max_tokens eksplicit for at undgå standardværdier. Den standard maks er 2.048 tokens.

Fejlkoder hjælper dig med at fejlsøge hurtigt. 401 betyder ugyldig nøgle. 402 betyder ingen kredit. 429 betyder hastighedsgrænse overskredet. Tjek response body for detaljer. Refunderinger er ikke tilgængelige for kredit, men fejl rettes via support.

Anmodningskroppe skal være under 8 MB. Denne begrænsning sikrer stabil ydeevne. Planlæg din payload-størrelse derefter. Store dokumenter kan have brug for opdeling. Denne tilgang holder latensen lav og konsistent.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)