Quickstart: Utilizați cheia API groq

Configurare URL de bază și autentificare

API groq key înlocuiește endpoint-ul standard OpenAI cu o cale directă către modelul nostru fără cenzură. Setează-ți base_url că HTTPS://api.groqkeyapi.com/v1 și injectați cheia în Authorization header., Această configurație funcționează cu orice client compatibil OpenAI, inclusiv SDK-urile oficiale Python și Node. Nu trebuie să modifici numele modelului în codul tău; noi gestionăm rutarea intern.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Autentificarea este strictă. O eroare 401 înseamnă că cheia ta este invalidă sau lipsește. Asigură-te că copiezi cheia imediat după înregistrare, deoarece este afișată doar o dată.

Prima cerere de completare chat

Trimite o cerere POST la /v1/chat/completions cu ID-ul modelului setat la "uncensored". Acest model răspunde fără refuzuri pentru subiecte legale pentru adulți, fictive sau controversate. Procesează intrarea text și returnează ieșire text. Puteți ajusta parametri precum temperature și top_p pentru a controla creativitatea. Fereastra de context suportă 100,000 de tokeni pentru promptul și completarea combinate.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Erorile în timpul procesării nu consumă credit. Dacă modelul returnează o refuzare pentru conținut minor, nu plătești nimic. Acest model preplătit asigură că cheltui doar pe tokenii de output reali.

Activați streaming-ul pentru ieșiri în timp real

Streaming-ul prin Evenimente Trimise de Server (SSE) livrează tokenii pe măsură ce sunt generați. Setează stream=true în cererea ta. Fragmentul final conține statistici complete de utilizare a tokenilor pentru facturare. Această abordare reduce latența percepută pentru răspunsuri lungi. Este ideal pentru interfețele de chat unde utilizatorii văd textul apărând în timp real. SDK-urile gestionează analizarea automat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming nu schimbă structura de prețuri. Încă plătești per 1M tokeni de ieșire. Limita dură de 16.000 de tokeni per solicitare se aplică încă indiferent de statutul streamingului.

Folosește modul JSON pentru date structurate

Setează response_format pentru {"type": "json_object"} pentru a impune ieșirea strictă JSON. Acest lucru este util pentru integrările programatice unde ai nevoie de structuri de date predictibile. Modelul va încerca să formateze răspunsul ca JSON valid. Poate eșua dacă promptul este prea complex sau ieșirea depășește limitele. Validează întotdeauna JSON-ul pe partea de client.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Se suportă funcționarea prin apeluri de funcții. Puteți defini instrumente și lăsați modelul să aleagă care dintre acestea să le invoce. Acest lucru extinde capacitățile API-ului dincolo de simpla generare de text.

Limite de solicitare și gestionarea erorilor

API impune o limită de 300 de cereri pe minut per cheie. Puteți rula 8 cereri concurente simultan. Dimensiunea maximă a corpului cererii este de 8 MB. Un cod de eroare 429 indică faptul că ați depășit aceste limite. Așteptați câteva secunde și reîncercați. Un cod 402 înseamnă că creditul preplătit este epuizat. Adăugați fonduri prin cripto pentru a relua serviciul. Erori precum 400 sau 500 nu încarcă credite.

Id-ul modelului este întotdeauna "uncensored". Nu încercați să comutați modelele. Gazduim un singur model mare de limbaj optimizat pentru conținut ne restricționat. Acest lucru menține stiva simplă și rapidă.

Fereastră de context și limite de tokeni

Fereastra totală de context este de 100.000 de tokeni. Aceasta include atât promptul de intrare, cât și completarea generată. Ieșirea maximă per cerere este de 16.000 de tokeni. Dacă nu specifici max_tokens, implicitul este de 2.048 de tokeni. Depășirea limitei de ieșire va trunca răspunsul. Planificați-vă prompturile pentru a lăsa suficient spațiu pentru răspunsul complet. Acest lucru permite retenția profundă a contextului fără chunking manual.

Modul JSON nu afectează aceste limite. Acestea rămân constante pentru toate tipurile de cereri. Folosește usage câmp în răspuns pentru a-ți urmări consumul cu precizie.