Pengenalan: Gunakan kunci API groq

Persediaan pengesahan URL Asas

API kunci groq menggantikan titik akhir OpenAI piawai dengan laluan langsung ke model uncensored kami. Tetapkan anda base_url to HTTPS://api.groqkeyapi.com/v1 and inject your key into the Authorization header. This configuration works with any OpenAI-compatible client, including the official Python and Node SDKs. You do not need to modify the model name in your code; we handle the routing internally.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Pengesahihan adalah ketat. Ralat 401 bermaksud kunci anda tidak sah atau tiada. Pastikan anda menyalin kunci tersebut serta-merta selepas pendaftaran, kerana ia hanya ditunjukkan sekali.

Permintaan penyelesaian chat pertama

Hantar permintaan POST ke /v1/chat/completions dengan ID model ditetapkan kepada "uncensored". Model ini menjawab tanpa penolakan untuk topik dewasa, fiksyen, atau kontroversi yang sah. Ia memproses input teks dan mengembalikan output teks. Anda boleh menyesuaikan parameter seperti temperature dan top_p untuk mengawal kreativiti. Tetingkap konteks menyokong 100,000 token untuk gabungan prompt dan penyelesaian.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kesilapan semasa pemprosesan tidak menggunakan kredit. Jika model mengembalikan penolakan untuk kandungan kanak-kanak, anda tidak membayar apa-apa. Model pra-dibayar ini memastikan anda hanya berbelanja pada token output sebenar.

Aktifkan penstriman untuk output masa nyata

Penstriman melalui Acara Dihantar Pelayan (SSE) menghantar token semasa ia dijana. Tetapkan stream=true dalam permintaan anda. Pecahan terakhir mengandungi statistik penggunaan token penuh untuk pengebilan. Pendekatan ini mengurangkan latensi yang dirasakan untuk respons panjang. Ia sesuai untuk antara muka sembang di mana pengguna melihat teks muncul secara masa nyata. SDK mengendalikan penguraian secara automatik.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Penstriman tidak mengubah struktur harga. Anda masih membayar per 1M token output. Had keras 16,000 token per permintaan masih terpakai tidak kira status penstriman.

Gunakan mod JSON untuk data terstruktur

Tetapkan response_format ke {"type": "json_object"} untuk memaksakan output JSON yang ketat. Ini berguna untuk integrasi programatik di mana anda memerlukan struktur data yang boleh diramal. Model akan cuba memformat respons sebagai JSON yang sah. Ia mungkin gagal jika prompt terlalu kompleks atau output melebihi had. Sentiasa sahkan JSON di sisi klien.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pemanggilan fungsi juga disokong. Anda boleh menentukan alat dan membiarkan model memilih untuk memanggilnya. Ini mengembangkan keupayaan API melebihi penjanaan teks mudah.

Had permintaan dan pengendalian ralat

API mengenakan had 300 permintaan setiap minit per kunci. Anda boleh menjalankan 8 permintaan serentak serentak. Saiz badan permintaan maksimum ialah 8 MB. Ralat 429 menunjukkan anda telah melebihi had ini. Tunggu beberapa saat dan cuba semula. Ralat 402 bermaksud kredit prabayar anda telah habis. Tambah melalui kripto untuk meneruskan perkhidmatan. Ralat seperti 400 atau 500 tidak mengenakan caj kredit.

ID model sentiasa "uncensored". Jangan cuba menukar model. Kami menempatkan satu model bahasa besar tunggal yang dioptimumkan untuk kandungan tanpa sensor. Ini mengekalkan susun atur yang mudah dan pantas.

Tetingkap konteks dan had token

Tetingkap konteks keseluruhan anda ialah 100,000 token. Ini termasuk sama ada prompt input maupun penyelesaian yang dijana. Output maksimum bagi setiap permintaan ialah 16,000 token. Jika anda tidak menentukan max_tokens, lalai ialah 2,048 token. Melangkaui had output akan memendekkan respons. Rancang prompt anda untuk meninggalkan ruang yang cukup untuk jawapan penuh. Ini membolehkan pengekalan konteks mendalam tanpa pengpecahan manual.

Streaming dan mod JSON tidak mempengaruhi had ini. Ia kekal konsisten merentas semua jenis permintaan. Gunakan usage field in the response to track your consumption accurately.