क्विकस्टार्ट: अनसेंसर्ड कंप्लीशंस इंटीग्रेट करें

पहला अनुरोध

अपनी कुली बनाने के तुरंत बाद अपना पहला पूर्ण संदेश भेजें। मॉडल आईडी का उपयोग करें uncensored ओपन-वेट मॉडल तक पहुंचने के लिए। यह टेक्स्ट इन और टेक्स्ट आउट को कुशलता से संभालता है।

निम्नलिखित उदाहरण एक मूलभूत टेक्स्ट कंप्लीशन अनुरोध को प्रदर्शित करता है। Replace YOUR_API_KEY अपने वास्तविक कुंजी के साथ। यह पुष्टि करता है कि आपका प्रमाणीकरण सही ढंग से काम करता है।

आप रचनात्मता नियंत्रित करने के लिए तापमान या top_p जैसे पैरामीटर समायोजित कर सकते हैं। मॉडल मानक JSON पेलोड का उत्तर देता है। त्रुटियां स्पष्ट कोड लौटाती हैं। 402 त्रुटि का अर्थ है कि आपको अपने क्रेडिट को टॉप अप करने की आवश्यकता है। टॉप-अप TRC20 पर USDT या Base पर USDC का उपयोग करते हैं।

यह सरलता इंटीग्रेशन समय को कम करती है। आपको जटिल मीडलवेयर की आवश्यकता नहीं है। API मानक OpenAI एंडपॉइंट्स की तरह व्यवहार करता है। यह परिचितता आपके विकास चक्र को काफी तेज़ कर देती है।

Python SDK इंटीग्रेशन

त्वरित इंटीग्रेशन के लिए आधिकारिक OpenAI पायथन लाइब्रेरी का उपयोग करें। क्लाइंट इनिशियलाइजेशन में बेस यूआरएल और API कुंजी सेट करें। यह दृष्टिकोप आपके कोड को स्वच्छ और बनाए रखने योग्य रखता है।

मॉडल नाम को uncensored. लाइब्रेरी स्वचालित रूप से JSON सीरियलाइज़ेशन संभालती है। आपको संरचित प्रतिक्रियाएं प्राप्त होती हैं जो आपके एप्लिकेशन लॉजिक में आसानी से पार्स की जा सकती हैं।

यह विधि सिंकरोनस और असिंकरोनस दोनों वर्कफ्लो के लिए काम करती है। आप स्ट्रीमिंग के माध्यम से उत्तर प्राप्त कर सकते हैं या पूरा टेक्स्ट एक साथ। चयन आपकी उपयोगकर्ता अनुभव आवश्यकताओं पर निर्भर करता है। स्ट्रीमिंग लंबे उत्तरों के लिए अनुपस्थित विलंबता को कम करती है।

अपनी API कुंजी को सुरक्षित रखें। इसे वर्जन कंट्रोल में हार्डकोड न करें। प्रोडक्शन डिप्लॉयमेंट के लिए एन्वायरनमेंट वेरिएबल्स का उपयोग करें। इस प्रथा से आपके क्रेडेंशियल्स का अनजाने में खुलासा होने से बचा जा सकता है।

Node SDK एकीकरण

सर्वर-साइड एप्लिकेशन के लिए Node.js SDK का उपयोग करके इंटीग्रेट करें। बेस URL और API की को क्लाइंट कॉन्फ़िगरेशन में सेट करें। संरचना Python इम्प्लीमेंटेशन के करीब दर्शाती है।

कॉल chat.completions.create के साथ uncensored मॉडल। SDK HTTP अनुरोधों को कुशलता से प्रबंधित करता है। आपको मानक JSON प्रारूप में प्रतिक्रियाएं मिलती हैं।

यह सेटअप Express या Fastify सर्वर के साथ अच्छी तरह काम करता है। आप API कॉल को एक रूट हैंडलर में लपेट सकते हैं। यूजर को सूचित करने के लिए एरर्स को ग्रैसफुली हैंडल करें। 429 एरर इंगित करता है कि आपने रेट लिमिट हिट कर दिया है।

मेमोरी उपयोग कम रहता है क्योंकि हम भारी काम संभालते हैं। आपका सर्वर केवल JSON इनपुट प्रक्रिया करता है। यह आर्किटेक्चर आपके उपयोगकर्ता आधार के साथ आसानी से स्केल होता है। जटिल इंफ्रास्ट्रक्चर प्रबंधन की आवश्यकता नहीं है।

स्ट्रीमिंग और टोकन उपयोग

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true आपके अनुरोध में। API जनरेट होते ही टेक्स्ट के चंक लौटाता है। यह लंबे उत्तरों के लिए यूजर अनुभव को बेहतर बनाता है।

प्रत्येक चंक टोकन उपयोग डेटा शामिल करता है। अंतिम चंक अनुरोध के लिए कुल टोकन गिनती शामिल करता है। आप रियल-टाइम में लागत की निगरानी कर सकते हैं। यह पारदर्शिता आपको अपने प्रीपेड क्रेडिट को प्रभावी ढंग से प्रबंधित करने में मदद करती है।

स्ट्रीमिंग के दौरान त्रुटियां मानक HTTP कोड्स के माध्यम से संभाली जाती हैं। यदि क्रेडिट खत्म हो जाता है, तो 402 त्रुटि स्ट्रीम को रोक देती है। टॉप अप करने के बाद आप इसे पुनः शुरू या पुनः प्रयास कर सकते हैं। प्रक्रिया सरल है।

स्ट्रीमिंग फर्स्ट बाइट का समय कम करती है। उपयोगकर्ता तुरंत प्रगति देखते हैं। यह सुविधा चैट इंटरफेस के लिए आवश्यक है। यह uncensored LLM को प्रतिक्रियाशील और गतिशील बनाता है।

रेट लिमिट्स और संदर्भ विंडो

हमारी लिमिट्स अधिकांस यूसेस के लिए उदार हैं। आपको प्रति की 300 रिक्वेस्ट प्रति मिनट मिलती हैं। आप एक ही समय पर 8 कन्करेंट रिक्वेस्ट रख सकते हैं। यह बिना बॉटलनेक के हाई-थ्रूपुट एप्लिकेशंस को सपोर्ट करता है।

संदर्भ विंडो कुल मिलाकर 100,000 टोकन की है। इसमें प्रॉम्प्ट और कंप्लीशन दोनों शामिल हैं। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। सेट करें max_tokens डिफ़ॉल्ट से बचने के लिए स्पष्ट रूप से। डिफ़ॉल्ट मैक्स 2,048 टोकन है।

त्रुटि कोड आपको तेज़ी से डिबग करने में मदद करते हैं। 401 का अर्थ अमान्य कुंजी है। 402 का अर्थ कोई क्रेडिट नहीं है। 429 का अर्थ रेट लिमिट पार हो गया है। विवरण के लिए रिस्पॉन्स बॉडी जांचें। क्रेडिट के लिए रिफंड उपलब्ध नहीं हैं, लेकिन गलतियों को सपोर्ट के माध्यम से ठीक किया जाता है।

अनुरोध बॉडी 8 MB से कम होनी चाहिए। यह स्थिर प्रदर्शन को सुनिश्चित करता है। अपने पेलोड आकार की योजना उचित रूप से बनाएं। बड़े दस्तावेजों के लिए चंकिंग की आवश्यकता हो सकती है। इस दृष्टिकोण से लेटेंसी कम और स्थिर रहती है।

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)