Hurtig start: Brug groq key api

Base URL og autentificeringsopsætning

groq key API erstatter det standard OpenAI-endpoint med en direkte vej til vores uncensored-model. Indstil din base_url til HTTPS://api.groqkeyapi.com/v1 og indsprøjte din nøgle i Authorization header. Denne konfiguration fungerer med ethvert OpenAI-kompatibelt klientprogram, herunder de officielle Python- og Node-SDK'er. Du behøver ikke at ændre modelnavnet i din kode; vi håndterer routing internt.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Autentificeringen er streng. En 401-fejl betyder, at din nøgle er ugyldig eller mangler. Sørg for at kopiere nøglen straks efter tilmelding, da den kun vises én gang.

Første chat completion-anmodning

Send en POST-forespørgsel til /v1/chat/completions med model-ID indstillet til "uncensored". Denne model svarer uden afslag for lovligt voksen-, fiktivt eller kontroversielt indhold. Den behandler tekstinput og returnerer tekstoutput. Du kan justere parametre som temperature og top_p til at kontrollere kreativitet. Kontekstvinduet understøtter 100,000 tokens for den kombinerede prompt og komplettering.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Fejl under behandling forbruger ikke kredit. Hvis modellen returnerer en afvisning for mindre-indhold, betaler du intet. Denne forudbetalte model sikrer, at du kun bruger på faktiske output-tokens.

Aktivér streaming til realtidsoutput

Streaming via Server-Sent Events (SSE) leverer tokens, mens de genereres. Indstil stream=true i din anmodning. Den sidste chunk indeholder de fulde tokenforbrugsstatistikker til fakturering. Denne tilgang reducerer den opfattede forsinkelse for lange svar. Det er ideelt til chatgrænseflader, hvor brugere ser tekst, der vises i realtid. SDK'erne håndterer parsingen automatisk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming ændrer ikke prissætningsstrukturen. Du betaler stadig per 1M output-tokens. Grænsen på 16.000 tokens per anmodning gælder stadig uanset streamingstatus.

Brug JSON-tilstand til strukturerede data

Indstil response_format til {"type": "json_object"} til at håndhæve streng JSON-output. Dette er nyttigt til programmatisk integration, hvor du har brug for forudsigelige datastrukturer. Modellen vil forsøge at formatere svaret som gyldig JSON. Det kan mislykkes, hvis prompten er for kompleks, eller outputtet overstiger grænserne. Valider altid JSON'en på klientsiden.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function calling understøttes også. Du kan definere værktøjer og lade modellen vælge, hvilke der skal kaldes. Dette udvider API'ets kapaciteter ud over simpel tekstgenerering.

Anmodgrænser og fejlhåndtering

API'en håndhæver en grænse på 300 anmodninger i minuttet per nøgle. Du kan køre 8 samtidige anmodninger samtidigt. Den maksimale anmodningskropstørrelse er 8 MB. En 429-fejl indikerer, at du har overskredet disse grænser. Vent et par sekunder og prøv igen. En 402-fejl betyder, at din forudbetalte kredit er opbrugt. Top op via krypto for at genoptage servicen. Fejl som 400 eller 500 opkræver ikke kreditter.

Model-ID'en er altid "uncensored". Prøv ikke at skifte modeller. Vi hoster en enkelt stor sprogmodel optimeret til ubegrænset indhold. Dette holder stacken simpel og hurtig.

Kontekstvindue og tokenbegrænsninger

Din samlede kontekstvindue er 100.000 tokens. Dette inkluderer både input-prompten og den genererede completion. Det maksimale output pr. anmodning er 16.000 tokens. Hvis du ikke angiver max_tokens, standardindstillingen er 2.048 tokens. At overskride outputgrænsen vil forkorte svaret. Planlæg dine prompts til at efterlade nok plads til det fulde svar. Dette tillader dyb kontekstbevaring uden manuel chunking.

Streaming og JSON-mode påvirker ikke disse grænser. De forbliver konsistente på tværs af alle anmodningstyper. Brug usage felt i svaret til at spore dit forbrug nøjagtigt.