Dokumentasi API Serasi OpenAI

URL Asas dan pengesahan

Sahkan menggunakan satu kunci API yang dihantar dalam Authorization header. Sign up via Google or email on the dashboard to receive your key instantly. No phone number is required for signup. Use the base URL https://api.abliteratedllmmodels.com/v1 dengan mana-mana klien serasi OpenAI.

• Header: Authorization: Bearer YOUR_API_KEY
• Tetingkap konteks: Jumlah 100,000 token

Copycurl https://api.abliteratedllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show the status of the deployment pipeline"}]
  }'

POST /v1/chat/completions

Hantar mesej teks ke API AI uncensored menggunakan endpoint penyelesaian chat-standard. ID model sentiasa uncensored. Anda boleh mengawal kreativiti dengan temperature dan top_p. Token input kos $0.15 per 1M, dan token output kos $0.50 per 1M. Ralat dan penolakan tidak menggunakan kredit. Tetapkan max_tokens untuk mengawal panjang output, lalai kepada 2,048 jika ditinggalkan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Penggunaan token respons aliran

Terima kemas kini token demi token melalui Acara Dihantar Pelayan (SSE) untuk aplikasi berlatensi rendah. Pecahan akhir dalam setiap penstrim mengandungi statistik penggunaan token penuh untuk permintaan tersebut. Ini membolehkan penjejakan kos yang tepat tanpa menyimpan token antara. Penstriman sangat sesuai untuk antara muka sembang di mana pengguna mengharapkan penjanaan teks serta-merta. Model tanpa sensor menyokong format SSE standard yang serasi dengan kebanyakan SDK.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pemanggilan fungsi dan mod JSON

Dayakan output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memastikan model mengembalikan JSON yang sah untuk penguraian yang boleh dipercayai dalam kod anda. Anda juga boleh menentukan alat untuk pemanggilan fungsi dengan tools dan tool_choice. API ini menyokong set parameter piawai termasuk stop, seed, dan penalti. Fleksibiliti ini menjadikan model yang telah dialihkan halangan sesuai untuk aliran kerja agen yang kompleks.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Had laju dan pengendalian ralat

API ini mengenakan had ketat untuk memastikan kestabilan untuk semua pengguna. Anda dibenarkan 300 permintaan setiap minit setiap kunci. Permintaan serentak dihadkan kepada 8 setiap kunci. Setiap badan permintaan mesti berada di bawah 8 MB. Jika anda melebihi had ini, API akan memulangkan kod status 429. Kunci yang tidak sah mencetuskan ralat 401, manakala kredit yang tidak mencukupi mengakibatkan ralat 402. Bayaran balik tidak dikeluarkan untuk kredit yang telah digunakan, tetapi kesilapan seperti caj berganda boleh diselesaikan melalui Sokongan.

Tetingkap konteks dan had

Setiap permintaan menyokong jumlah tetingkap konteks 100,000 token untuk prompt dan penyelesaian. Panjang output maksimum ialah 16,000 token setiap permintaan. Jika anda tidak menentukan max_tokens, had output lalai ialah 2,048 token. Konteks besar ini membolehkan analisis dokumen yang meluas atau sejarah perbualan panjang. Model ini direka bentuk untuk mengendalikan panjang ini tanpa merosakkan kecerdasan. Gunakan kredit percubaan untuk menguji had ini sebelum menambah nilai dengan kripto.