Dokumentace API kompatibilního s OpenAI

Základní URL a ověření

Ověřte se pomocí jediného API klíče předaného v Authorization hlavička. Registrovejte se přes Google nebo e-mail v ovládacím panelu a okamžitě obdržíte klíč. Pro registraci není vyžadováno telefonní číslo. Použijte základní URL https://api.abliteratedllmmodels.com/v1 s jakýmkoli OpenAI-compatible klientem.

• Hlavička: Authorization: Bearer YOUR_API_KEY
• Kontextové okno: celkem 100 000 tokenů

Copycurl https://api.abliteratedllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show the status of the deployment pipeline"}]
  }'

POST /v1/chat/completions

Odesílejte textové zprávy do API uncensored AI pomocí standardních endpointů chat-completion. ID modelu je vždy uncensored. Můžete ovládat kreativitu pomocí temperature a top_p.Vstupní tokeny stojí $0.15 za 1M a výstupní tokeny stojí $0.50 za 1M. Chyby a odmítnutí nespotřebovávají kredit. Nastavte max_tokens ovlivnit délku výstupu, výchozí hodnota je 2,048, pokud není uvedeno.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamování odpovědí a využití tokenů

Získejte aktualizace token po tokenu prostřednictvím Server-Sent Events (SSE) pro aplikace s nízkou latencí. Poslední část v každém streamu obsahuje kompletní statistiky spotřeby tokenů pro požadavek. To umožňuje přesné sledování nákladů bez ukládání mezitímních tokenů. Streamování je ideální pro chatová rozhraní, kde uživatelé očekávají okamžitou generaci textu. Model bez omezení podporuje standardní formát SSE kompatibilní s většinou SDK.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Volání funkcí a režim JSON

Povolte strukturované výstupy nastavením response_format na {"type": "json_object"}. To zajišťuje, že model vrací platný JSON pro spolehlivé parsování ve vašem kódu. Pro volání funkcí můžete také definovat nástroje pomocí tools a tool_choice. API podporuje standardní sady parametrů včetně stop, seed, a penalizace. Tato flexibilita činí ablibrovaný model vhodným pro složité agentní pracovní postupy.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limitu rychlosti a zpracování chyb

API vynucuje přísné limity pro zajištění stability pro všechny uživatele. Máte povoleno 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na 8 na klíč. Tělo každého požadavku musí zůstat pod 8 MB. Pokud tyto limity překročíte, API vrátí stavový kód 429. Neplatné klíče spustí chybu 401, zatímco nedostatečný kredit způsobí chybu 402. Refundace za spotřebovaný kredit nejsou vydávány, ale chyby jako dvojí účtování lze vyřešit prostřednictvím podpory.

Kontextové okno a limity

Každá žádost podporuje celkové kontextové okno o velikosti 100 000 tokenů pro prompt i completion. Maximální délka výstupu je 16 000 tokenů na žádost. Pokud nespecifikujete max_tokens, výchozí limit výstupu je 2 048 tokenů. Tento velký kontext umožňuje rozsáhlou analýzu dokumentů nebo dlouhé historie konverzací. Model je navržen tak, aby zvládal tyto délky bez zhoršování inteligence. Využijte zkušební kredit k otestování těchto limitů před dobitím kryptoměnami.