Pika-aloitus: Integroi uncensored-completions

Ensimmäinen pyyntö

Lähetä ensimmäinen täydennys heti avaimen luomisen jälkeen. Käytä mallin tunnistetta uncensored päästäksesi käsiksi avoimen painotuksen malliin. Se käsittelee tehokkaasti teksti sisään ja teksti ulos.

Seuraava esimerkki demonstroi peruspyyntöä tekstin täydentämiseen. Korvaa YOUR_API_KEY oikealla avaimellasi. Tämä vahvistaa, että todennuksesi toimii oikein.

Voit säätää parametreja kuten temperature tai top_p ohjataksesi luovuutta. Malli vastaa standardeihin JSON-payloadeihin. Virheet palauttavat selkeät koodit. 402-virhe tarkoittaa, että sinun täytyy täydentää krediittisi. Täydennykset käyttävät USDT:tä TRC20-verkossa tai USDC:ä Base-verkossa.

Tämä yksinkertaisuus lyhentää integraatioaikaa. Sinun ei tarvitse monimutkaista väliohjelmistoa. API käyttäytyy kuten vakio OpenAI-päätepisteet. Tämä tuttuus nopeuttaa kehityssykliäsi merkittävästi.

Python SDK -integraatio

Käytä virallista OpenAI:n Python-kirjastoa nopeaan integrointiin. Aseta base URL ja API-avain asiakasohjelman alustuksessa. Tämä lähestymistapa pitää koodisi siistinä ja ylläpidettävänä.

Välitä mallinimi arvona uncensored. Kirjasto käsittelee JSON-sarjallistamisen automaattisesti. Saat rakenteellisia vastauksia, jotka on helppo jäsentää sovelluslogiikassasi.

Tämä menetelmä toimii sekä synkronisissa että asynkronisissa työvuoroissa. Voit streamata vastauksia tai saada koko tekstin kerralla. Valinta riippuu käyttökokemustarpeistasi. Streamaus vähentää havaittua viivettä pitkissä vastauksissa.

Säilytä API-avaimesi turvallisesti. Älä koodaa sitä versionhallintaan. Käytä ympäristömuuttujia tuotantokäyttöön. Tämä käytäntö estää todisteiden vahingollisen paljastamisen.

Node SDK -integraatio

Integroi käyttämällä Node.js-SDK:ta palvelinpohjaisiin sovelluksiin. Alusta asiakas base URL:n ja avaimen avulla. Rakenma muistuttaa Python-implimentaatiota tiiviisti.

Kutsu chat.completions.create avulla uncensored malli. SDK hallinnoi HTTP-pyyntöjä tehokkaasti. Saat vastauksia standardissa JSON-muodossa.

Tämä konfiguraatio toimii hyvin Express- tai Fastify-palvelimien kanssa. Voit kääriä API-kutsun reittikäsittelijään. Käsittele virheet joustavasti informoidaksesi käyttäjiäsi. Virhekoodi 429 tarkoittaa, että olet ylittänyt nopeusrajoituksen.

Muistin käyttö pysyy alhaisena, koska hoidamme raskaamman työn. Palvelimesi vain käsittelee JSON-syötteen. Tämä arkkitehtuuri skaalautuu helposti käyttäjäkantasi mukana. Monimutkainen infrastruktuurinhallinta ei ole tarpeen.

Streamaus ja token-käyttö

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa tekstiosia niiden luomisen aikana. Tämä parantaa käyttäjäkokemusta pitkissä vastauksissa.

Jokainen palikka sisältää token-käyttötiedot. Viimeinen palikka sisältää pyynnön kokonaistokenmäärän. Voit seurata kustannuksia reaaliajassa. Tämä läpinäkyvyys auttaa sinua hallinnoimaan esimaksusaldoasi tehokkaasti.

Streamausvirheet käsitellään standardien HTTP-koodien kautta. 402-virhe keskeyttää streamauksen, jos krediitti loppuu. Voit jatkaa tai toistaa streamauksen latauksen jälkeen. Prosessi on suoraviivaista.

Streamaus vähentää ensimmäisen tavun saapumisaikaa. Käyttäjät näkevät edistymisen välittömästi. Tämä ominaisuus on olennaista chatrajapinnoille. Se saa uncensored LLM:n tuntumaan reaktiiviselta ja dynaamiselta.

Nopeusrajoitukset ja konteksti-ikkuna

Rajoituksemme ovat antoisat useimmille käyttötapauksille. Saat 300 pyyntöä minuutissa avainta kohden. Voit pitää 8 samanaikaista pyyntöä päällä samaan aikaan. Tämä tukee suurten läpäisykykyisten sovellusten toimintaa ilman pullonkauloja.

Kontekstiikkoni on yhteensä 100 000 tokenia. Tämä sisältää sekä promptin että vastauksen. Maksimi vastaus pyyntöä kohden on 16 000 tokenia. Aseta max_tokens selkeästi välttääksesi oletusarvot. Oletusarvoinen maksimi on 2 048 tokenia.

Virhekoodit auttavat sinua vianmäärityksessä nopeasti. 401 tarkoittaa virallista avainta. 402 tarkoittaa, että rahaa ei ole. 429 tarkoittaa nopeusrajoituksen ylittymistä. Tarkista vastauskehikko lisätietoja varten. Palautuksia ei ole saatavilla saldolla, mutta virheet korjataan tuen kautta.

Pyyntöjen rungon koko ei saa ylittää 8 Mt. Tämä rajoitus varmistaa vakaan suorituskyvyn. Suunnittele pyynnön kokoa sen mukaisesti. Suuret asiakirjat voi joutua jakamaan osiin. Tämä menetelmä pitää viiveen matalana ja ennustettavana.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)