OpenAI-कम्पैटिबल API दस्तावेज़ीकरण

बेस URL और प्रमाणीकरण

एकल API कुंजी का उपयोग करके प्रमाणीकरण करें जो पास किया गया है Authorization हेडर। डैशबोर्ड पर Google या ईमेल के माध्यम से साइनअप करें ताकि आपको तुरंत अपनी कुंजी मिल सके। साइनअप के लिए फ़ोन नंबर की आवश्यकता नहीं है। बेस यूआरएल का उपयोग करें https://api.abliteratedllmmodels.com/v1 किसी भी OpenAI-संगत क्लाइंट के साथ।

• हेडर: Authorization: Bearer YOUR_API_KEY
• संदर्भ विंडो: 100,000 टोकन कुल

Copycurl https://api.abliteratedllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show the status of the deployment pipeline"}]
  }'

POST /v1/chat/completions

मानक चैट-कंप्लीशन एंडपॉइंट्स का उपयोग करके uncensored AI API को टेक्स्ट संदेश भेजें। मॉडल आईडी हमेशा uncensored. आप क्रीएटिविटी को नियंत्रित कर सकते हैं temperature और top_p. इनपुट टोकन की लागत $0.15 प्रति 1M है, और आउटपुट टोकन की लागत $0.50 प्रति 1M है। त्रुटियां और अस्वीकृतियां क्रेडिट का उपभोग नहीं करतीं। सेट max_tokens आउटपुट लंबाई को नियंत्रित करने के लिए, यदि छोड़ दिया जाए तो डिफ़ॉल्ट 2,048।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

स्ट्रीमिंग रिस्पॉन्स और टोकन उपयोग

कम-लैटेंसी एप्लिकेशन के लिए सर्वर-सेंट इवेंट्स (SSE) के माध्यम से टोकन-दर-टोकन अपडेट प्राप्त करें। हर स्ट्रीम में अंतिम चंक में अनुरोध के लिए पूर्ण टोकन उपयोग सांख्यिकी होती है। इससे मध्यवर्ती टोकन को स्टोर किए बिना लागत की सटीक ट्रैकिंग संभव होती है। स्ट्रीमिंग उन चैट इंटरफेस के लिए आदर्श है जहां उपयोगकर्ग तुरंत पाठ जनरेशन की उम्मीद करते हैं। अनसेंसर्ड मॉडल अधिकांश SDKs के साथ संगत मानक SSE फॉर्मेटिंग का समर्थन करता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

फंक्शन कॉलिंग और JSON मोड

संरचित आउटपुट को response_format को {"type": "json_object"}. यह सुनिश्चित करता है कि मॉडल आपके कोड में विश्वसनीय पार्सिंग के लिए मान्य JSON लौटाए। आप फ़ंक्शन कॉलिंग के लिए टूल भी परिभाषित कर सकते हैं tools और tool_choice. API मानक पैरामीटर सेट का समर्थन करता है जिसमें stop, seed, और दंड। यह लचीलाता अलबिलेटेड मॉडल को जटिल एजेंट वर्कफ़्लो के लिए उपयुक्त बनाती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

रेट लिमिट्स और त्रुटि हैंडलिंग

API सभी उपयोगकर्ताओं के लिए स्थिरता सुनिश्चित करने के लिए कठोर सीमाएं लागू करता है। आपको प्रति कुंजी प्रति मिनट 300 अनुरोध भेजने की अनुमति है। समवर्ती अनुरोध प्रति कुंजी 8 तक सीमित हैं। प्रत्येक अनुरोध बॉई 8 MB से कम रहनी चाहिए। यदि आप इन सीमाओं को पार करते हैं, तो API 429 स्टेटस कोड लौटाता है। अमान्य कुंजियां 401 त्रुटि ट्रिगर करती हैं, जबकि अपर्याप्त क्रेडिट 402 त्रुटि का कारण बनता है। खपत हुए क्रेडिट के लिए रिफंड नहीं दिए जाते हैं, लेकिन डबल चार्ज जैसी गलतियों को सहायता के माध्यम से हल किया जा सकता है।

संदर्भ विंडो और सीमाएं

प्रत्येक अनुरोध प्रॉम्प्ट और पूर्णता दोनों के लिए 100,000 टोकन के कुल संदर्भ विंडो का समर्थन करता है। प्रत्येक अनुरोध के लिए अधिकतम आउटपुट लंबाई 16,000 टोकन है। यदि आप निर्दिष्ट नहीं करते max_tokens, डिफ़ॉल्ट आउटपुट सीमा 2,048 टोकन है। यह बड़ा संदर्भ व्यापक दस्तावेज़ विश्लेषण या लंबी बातचीत के इतिहास की अनुमति देता है। मॉडल को इन लंबाइयों को बिना बुद्धिमत्ता में कमी लाए संभालने के लिए डिज़ाइन किया गया है। क्रिप्टो के साथ टॉप-अप करने से पहले इन सीमाओं का परीक्षण करने के लिए ट्रायल क्रेडिट का उपयोग करें।