Avvio rapido: Usa l'api key groq

Configurazione autenticazione URL Base

L'API groq key sostituisce l'endpoint OpenAI standard con un percorso diretto verso il nostro modello senza filtri. Imposta il tuo base_url a HTTPS://api.groqkeyapi.com/v1 e inietta la tua chiave nel Authorization header. Questa configurazione funziona con qualsiasi client compatibile con OpenAI, inclusi gli SDK ufficiali Python e Node. Non è necessario modificare il nome del modello nel codice; gestiamo il routing internamente.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

L'autenticazione è rigorosa. Un errore 401 significa che la tua chiave non è valida o è mancante. Assicurati di copiare la chiave immediatamente dopo la registrazione, poiché viene mostrata solo una volta.

Prima richiesta di chat completion

Invia una richiesta POST a /v1/chat/completions con l'ID del modello impostato su "uncensored". Questo modello risponde senza rifiuti per argomenti adulti leciti, fiction o controversi. Elaborazione dell'input testuale e restituzione dell'output testuale. È possibile regolare parametri come temperature e top_p per controllare la creatività. La finestra di contesto supporta 100,000 token per il prompt e il completamento combinati.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gli errori durante l'elaborazione non consumano credito. Se il modello restituisce un rifiuto per contenuti minori, non paghi nulla. Questo modello prepagato garantisce che spendi solo per i token di output effettivi.

Abilita lo streaming per output in tempo reale

Lo streaming tramite Server-Sent Events (SSE) consegna i token man mano che vengono generati. Imposta stream=true nella tua richiesta. L'ultimo chunk contiene le statistiche complete di utilizzo dei token per la fatturazione. Questo approccio riduce la latenza percepita per le risposte lunghe. È ideale per le interfacce chat in cui gli utenti vedono il testo apparire in tempo reale. Gli SDK gestiscono l'analisi automaticamente.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Lo streaming non cambia la struttura della tariffazione. Paghi ancora per 1M di token di output. Il limite rigido di 16.000 token per richiesta si applica ancora indipendentemente dallo stato dello streaming.

Usa la modalità JSON per dati strutturati

Imposta response_format a {"type": "json_object"} per imporre un output JSON rigoroso. Questo è utile per le integrazioni programmatiche in cui sono necessarie strutture di dati prevedibili. Il modello tenterà di formattare la risposta come JSON valido. Potrebbe fallire se il prompt è troppo complesso o se l'output supera i limiti. Convalida sempre il JSON lato client.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Il function calling è supportato. Puoi definire gli strumenti e lasciare che il modello scelga quali invocare. Questo amplia le capacità dell'API oltre la semplice generazione di testo.

Limiti delle richieste e gestione degli errori

L'API impone un limite di 300 richieste al minuto per chiave. Puoi eseguire 8 richieste concorrenti simultaneamente. La dimensione massima del corpo della richiesta è di 8 MB. Un errore 429 indica che hai superato questi limiti. Attendi qualche secondo e riprova. Un errore 402 significa che il tuo credito prepagato è esaurito. Ricarica tramite criptovaluta per riprendere il servizio. Errori come 400 o 500 non addebitano crediti.

L'ID del modello è sempre "uncensored". Non provare a cambiare modello. Ospitiamo un singolo modello di linguaggio di grandi dimensioni ottimizzato per contenuti senza restrizioni. Questo mantiene lo stack semplice e veloce.

Finestra di contesto e limiti di token

La tua finestra di contesto totale è di 100.000 token. Questo include sia il prompt di input che il completamento generato. Il massimo output per richiesta è di 16.000 token. Se non specifichi max_tokens, il valore predefinito è 2.048 token. Il superamento del limite di output troncherà la risposta. Pianifica i tuoi prompt per lasciare abbastanza spazio per la risposta completa. Questo consente una profonda ritenzione del contesto senza chunking manuale.

La modalità JSON e lo streaming non influenzano questi limiti. Rimangono coerenti per tutti i tipi di richiesta. Utilizza il usage field nella risposta per tracciare accuratamente il tuo consumo.