Panduan Cepat: Gunakan api kunci groq

Pengaturan autentikasi URL dasar

API kunci groq menggantikan endpoint OpenAI standar dengan jalur langsung ke model tanpa sensor kami. Atur base_url ke HTTPS://api.groqkeyapi.com/v1 dan injeksikan kunci Anda ke dalam Authorization header. Konfigurasi ini berfungsi dengan klien OpenAI-compatible mana pun, termasuk SDK Python dan Node resmi. Anda tidak perlu memodifikasi nama model dalam kode Anda; kami menangani pengalihan secara internal.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Autentikasi ketat. Error 401 berarti kunci Anda tidak valid atau hilang. Pastikan Anda menyalin kunci segera setelah pendaftaran, karena kunci hanya ditampilkan sekali.

Permintaan chat completion pertama

Kirim permintaan POST ke /v1/chat/completions dengan ID model diatur ke "uncensored". Model ini menjawab tanpa penolakan untuk topik dewasa yang sah, fiksi, atau kontroversial. Model ini memproses input teks dan mengembalikan output teks. Anda dapat menyesuaikan parameter seperti temperature dan top_p untuk mengontrol kreativitas. Jendela konteks mendukung 100,000 token untuk prompt dan penyelesaian gabungan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kesalahan selama pemrosesan tidak menguras kredit. Jika model mengembalikan penolakan untuk konten anak-anak, Anda tidak membayar apa pun. Model prabayar ini memastikan Anda hanya mengeluarkan uang untuk token output aktual.

Aktifkan streaming untuk output real-time

Streaming melalui Server-Sent Events (SSE) mengirimkan token saat token tersebut dihasilkan. Atur stream=true dalam permintaan Anda. Chunk terakhir berisi statistik penggunaan token penuh untuk penagihan. Pendekatan ini mengurangi latensi yang dirasakan untuk respons panjang. Ini sangat cocok untuk antarmuka obrolan di mana pengguna melihat teks muncul secara real-time. SDK menangani parsing secara otomatis.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming tidak mengubah struktur harga. Anda masih membayar per 1M token output. Batas keras 16.000 token per permintaan masih berlaku terlepas dari status streaming.

Gunakan mode JSON untuk data terstruktur

Atur response_format ke {"type": "json_object"} untuk memaksakan output JSON yang ketat. Ini berguna untuk integrasi programatik di mana Anda membutuhkan struktur data yang dapat diprediksi. Model akan mencoba memformat respons sebagai JSON yang valid. Ini mungkin gagal jika prompt terlalu kompleks atau output melebihi batas. Selalu validasi JSON di sisi klien.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pemanggilan fungsi juga didukung. Anda dapat mendefinisikan alat dan membiarkan model memilih mana yang akan dipanggil. Ini memperluas kemampuan API melampaui generasi teks sederhana.

Batas permintaan dan penanganan kesalahan

API menerapkan batas 300 permintaan per menit per kunci. Anda dapat menjalankan 8 permintaan simultan. Ukuran maksimum body permintaan adalah 8 MB. Error 429 menunjukkan Anda telah melebihi batas ini. Tunggu beberapa detik dan coba lagi. Error 402 berarti kredit prabayar Anda telah habis. Isi ulang melalui crypto untuk melanjutkan layanan. Error seperti 400 atau 500 tidak membebankan kredit.

ID model-nya selalu "uncensored". Jangan mencoba mengganti model. Kami menampung satu model bahasa besar tunggal yang dioptimalkan untuk konten tanpa sensor. Ini menjaga tumpukan (stack) tetap sederhana dan cepat.

Jendela konteks dan batas token

Jendela konteks total Anda adalah 100.000 token. Ini mencakup baik prompt input maupun completion yang dihasilkan. Output maksimum per permintaan adalah 16.000 token. Jika Anda tidak menentukan max_tokens, defaultnya adalah 2.048 token. Melebihi batas output akan memotong respons. Rencanakan prompt Anda untuk menyisakan ruang yang cukup untuk jawaban lengkap. Ini memungkinkan retensi konteks mendalam tanpa chunking manual.

Mode Streaming dan JSON tidak memengaruhi batas ini. Batas tersebut tetap konsisten di semua jenis permintaan. Gunakan usage field in the response to track your consumption accurately.