התחלה מהירה: שילבו השלמות (Completions) ללא צנזורה

בקשה ראשונה

שלחו את ההשלמה הראשונה שלכם מיד לאחר יצירת המפתח. השתמשו ב-mdl ID uncensored לגישה למודל בעל משקל פתוח. הוא מטפל בטקסט נכנס וטקסט יוצא ביעילות.

דוגמה הבאה מדגימה בקשת השלמת טקסט בסיסית. החלף YOUR_API_KEY עם המפתח האמיתי שלך. זה מאשר שהאימות שלך עובד כראוי.

ניתן להתאים פרמטרים כמו temperature או top_p כדי לשלוט ביצירתיות. המודל מגיב לפלט JSON סטנדרטי. שגיאות מחזירות קודים ברורים. שגיאה 402 משמעה שיש להוסיף קרדיט. העלאות משתמשות ב-USDT ברשת TRC20 או ב-USDC ברשת Base.

פשטות זו מפחיתה זמן אינטגרציה. אינך צריך middleware מורכב. ה-API מתנהג כמו נקודות הקצה הסטנדרטיות של OpenAI. היכרות זו מאיצה משמעותית את מחזור הפיתוח שלך.

אינטגרציית SDK Python

השתמשו בספריית הפיתון הרשמית של OpenAI לשילוב מהיר. הגדירו את כתובת הבסיס ואת מפתח ה-API בהתחלת הלקוח. גישה זו שומרת על הקוד שלכם נקי וניתן לתחזוקה.

העבר את שם המודל כ uncensored. הספרייה מטפלת בסיכום JSON באופן אוטומטי. אתה מקבל תגובות מבניות שקל לנתח בתוך לוגיקת היישום שלך.

שיטה זו עובדת הן עבור זרימות עבודה סינכרוניות והן עבור אסינכרוניות. ניתן לספריי תגובות או לקבל את הטקסט המלא בבת אחת. הבחירה תלויה בצרכי חווית המשתמש שלך. סטרימינג מפחית את תחומת השהייה עבור תשובות ארוכות.

שמרו על מפתח ה-API שלכם מאובטח. אל קודדו אותו בשליטת גרסאות. השתמשו במשתני סביבה להטמעות ייצור. פרקטיקה זו מונעת חשיפה מקרית של האישורים שלכם.

שילוב Node SDK

שלב באמצעות ה-Node.js SDK לאפליקציות צד שרת. אתחל את הלקוח עם base URL ומפתח שלך. המבנה משקף את היישום ב-Python בקרבה.

שיחה chat.completions.create עם ה uncensored מודל. ה-SDK מנהל את בקשות ה-HTTP ביעילות. אתה מקבל תגובות בפורמט JSON סטנדרטי.

התצורה הזו עובדת היטב עם שרתים מבוססי Express או Fastify. אתה יכול לעטוף את קריאת ה-API במטפל מסלול. טפל בשגיאות בצורה עדינה כדי להודיע למשתמשים שלך. שגיאת 429 מציינת שהגעת למגבלת הקצב.

שימוש בזיכרון נשאר נמוך כי אנחנו מטפלים בעבודה הכבדה. השרת שלך רק מעבד את קלט ה-JSON. ארכיטקטורה זו נמתחת בקלות יחד עם בסיס המשתמשים שלך. אין צורך בניהול תשתית מורכבת.

שימוש בטוקנים וסטרימינג

אפשרו זרימה על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר קטעי טקסט כפי שהם נוצרים. זה משפר את חוויית המשתמש עבור תגובות ארוכות.

כל מקטע כולל נתוני שימוש בסימונים. המקטע הסופי מכיל את ספירת הסימונים הכוללת לבקשה. ניתן לעקוב אחר עלויות בזמן אמת. שקיפות זו עוזרת לכם לנהל את האשראי המקדמי שלכם ביעילות.

שגיאות במהלך סטרימינג מטופלות באמצעות קודי HTTP סטנדרטיים. שגיאה 402 עוצרת את הסטרימינג אם האשראי נגמר. ניתן להמשיך או לנסות שוב לאחר העמסת יתר. התהליך פשוט.

סטרימינג מקצר את הזמן לקבלת ה-BYTE הראשון. המשתמשים רואים התקדמות מיד. תכונה זו חיונית לממשקי צ'אט. היא גורמת ל-LLM ה-uncensored להיראות רספונסיבי ודינמי.

מגבלות קצב וחלון ההקשר

המגבלות שלנו נדיבות לרוב מקרי השימוש. אתה מקבל 300 בקשות לדקה למפתח. אתה יכול להחזיק 8 בקשות מקבילות בו זמנית. זה תומך ביישומים בעלי תפוקה גבוהה בלי לחסום אותם.

חלון ההקשר כולל 100,000 טוקנים בסך הכל. זה כולל גם את הפלט (prompt) וגם את ההשלמה (completion). ההפלט המרבי לכל בקשה הוא 16,000 טוקנים. הגדירו max_tokens באופן מפורש כדי להימנע מברירות מחדל. ברירת המחדל המקסימלית היא 2,048 טוקנים.

קודי שגיאה עוזרים לך לנטרל באגים במהירות. 401 אומר מפתח לא חוקי. 402 אומר אין אשראי. 429 אומר חריגה ממגבלת הקצב. בדוק את גוף התגובה לפרטים. החזרים אינם זמינים עבור אשראי, אך טעויות מתוקנות דרך תמיכה.

גופי הבקשה חייבים להיות מתחת ל-8 MB. מגבלה זו מבטיחה ביצועים יציבים. תכננו את גודל הפליי-לוד בהתאם. מסמכים גדולים עשויים לדרוש פיצול. גישה זו שומרת על זמן תגובה נמוך ועקבי.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)