빠른 시작: 무검열 완성 통합하기

첫 번째 요청

키를 생성한 직후 첫 번째 completion을 보내세요. 모델 ID를 사용하세요 uncensored 오픈 웨이트 모델에 접근하세요. 텍스트 입력 및 출력을 효율적으로 처리합니다.

다음 예시는 기본 텍스트 완성 요청을 보여줍니다. Replace YOUR_API_KEY 실제 키를 사용합니다. 이는 인증이 올바르게 작동함을 확인합니다.

temperature 또는 top_p과 같은 매개변수를 조정하여 창의성을 제어할 수 있습니다. 모델은 표준 JSON 페이로드에 응답합니다. 오류는 명확한 코드를 반환합니다. 402 오류는 크레딧을 충전해야 함을 의미합니다. 충전은 TRC20의 USDT 또는 Base의 USDC로 이루어집니다.

이러한 단순성은 통합 시간을 줄여줍니다. 복잡한 미들웨어가 필요하지 않습니다. API는 표준 OpenAI 엔드포인트처럼 동작합니다. 이러한 친숙함은 개발 주기를 크게 가속화합니다.

Python SDK 통합

빠르게 통합하려면 공식 OpenAI Python 라이브러리를 사용하세요. 클라이언트 초기화 시 기본 URL과 API 키를 설정하세요. 이 방법은 코드를 깔끔하고 유지보수 가능하게 유지합니다.

모델 이름을 uncensored. 라이브러리는 JSON 직렬화를 자동으로 처리합니다. 응용 프로그램 로직에서 쉽게 구문 분석할 수 있는 구조화된 응답을 받습니다.

이 방법은 동기식 및 비동기식 워크플로우 모두에서 작동합니다. 응답을 스트리밍하거나 전체 텍스트를 한 번에 받을 수 있습니다. 선택은 사용자 경험 요구 사항에 따라 달라집니다. 스트리밍은 긴 답변의 지각된 지연 시간을 줄여줍니다.

API 키를 안전하게 보관하세요. 버전 관리에 하드코딩하지 마세요. 프로덕션 배포에는 환경 변수를 사용하세요. 이렇게 하면 자격 증명의 실수된 노출을 방지할 수 있습니다.

Node SDK 통합

서버 측 애플리케이션을 위해 Node.js SDK를 사용하여 통합하세요. base URL 및 키로 클라이언트를 초기화하세요. 구조는 Python 구현과 밀접하게 유사합니다.

호출 chat.completions.create 다음과 함께 uncensored 모델입니다. SDK는 HTTP 요청을 효율적으로 관리합니다. 표준 JSON 형식으로 응답을 받습니다.

이러한 구성은 Express 또는 Fastify 서버와 잘 작동합니다. API 호출을 라우트 핸들러로 감쌀 수 있습니다. 사용자에게 알리기 위해 오류를 우아하게 처리하세요. 429 오류는 속도 제한에 도달했음을 나타냅니다.

무거운 작업을 우리가 처리하므로 메모리 사용량이 낮게 유지됩니다. 서버는 JSON 입력만 처리하면 됩니다. 이 아키텍처는 사용자 기반에 따라 쉽게 확장됩니다. 복잡한 인프라 관리가 필요하지 않습니다.

스트리밍 및 토큰 사용량

stream을 true로 설정하여 스트리밍 활성화 stream: true 요청에 포함됩니다. API는 생성되는 대로 텍스트 청크를 반환합니다. 이는 긴 응답에 대한 사용자 경험을 개선합니다.

각 청크에는 토큰 사용 데이터가 포함됩니다. 마지막 청크에는 요청의 총 토큰 수가 포함됩니다. 실시간으로 비용을 추적할 수 있습니다. 이러한 투명성은 선불 크레딧을 효과적으로 관리하는 데 도움이 됩니다.

스트리밍 중 오류는 표준 HTTP 코드를 통해 처리됩니다. 402 오류는 크레딧이 고갈되면 스트림을 중지합니다. 충전 후 재개하거나 재시도할 수 있습니다. 프로세스는 간단합니다.

스트리밍은 첫 바이트까지의 시간을 줄여줍니다. 사용자는 즉시 진행 상황을 봅니다. 이 기능은 채팅 인터페이스에 필수적입니다. uncensored LLM을 반응적이고 역동적으로 만듭니다.

속도 제한 및 컨텍스트 윈도우

제한사항은 대부분의 사용 사례에 관대합니다. 키당 분당 300회 요청을 받을 수 있습니다. 동시에 8개의 동시 요청을 가질 수 있습니다. 이는 병목 현상 없이 높은 처리량의 애플리케이션을 지원합니다.

컨텍스트 윈도우는 프롬프트와 완료를 합해 총 100,000 토큰입니다. 요청당 최대 출력은 16,000 토큰입니다. 설정 max_tokens 기본값을 피하기 위해 명시적입니다. 기본 max는 2,048개의 토큰입니다.

오류 코드는 신속한 디버깅에 도움이 됩니다. 401은 유효하지 않은 키를 의미합니다. 402는 크레딧이 없음을 의미합니다. 429는 속도 제한 초과를 의미합니다. 세부 정보는 응답 본문에서 확인하세요. 크레딧에 대한 환불은 제공되지 않지만, 오류는 지원을 통해 수정됩니다.

요청 본문은 8MB 미만이어야 합니다. 이 제약은 안정적인 성능을 보장합니다. 페이로드 크기를 적절히 계획하세요. 큰 문서의 경우 청킹이 필요할 수 있습니다. 이 방식은 지연 시간을 낮고 일정하게 유지합니다.

cURL

Copycurl https://api.openaitokenpricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate cost for 100k tokens"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaitokenpricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaitokenpricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)