Snabbstart: Använd groq key api

Bas URL och autentisering setup

Groq key API ersätter den standardiserade OpenAI-slutpunkten med en direkt väg till vår ocensurerade modell. Ställ in din base_url till HTTPS://api.groqkeyapi.com/v1 och injicera din nyckel i Authorization header. Denna konfiguration fungerar med valfri OpenAI-kompatibel klient, inklusive de officiella Python- och Node SDK:erna. Du behöver inte ändra modellnamnet i din kod; vi hanterar routningen internt.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Autentiseringen är strikt. Ett 401-fel betyder att din nyckel är ogiltig eller saknas. Se till att kopiera nyckeln omedelbart efter registrering, eftersom den visas endast en gång.

Första chattkompletteringsförfrågan

Skicka en POST-förfrågan till /v1/chat/completions med modell-ID:t inställt på "uncensored". Denna modell svarar utan avslag för lagliga vuxen-, fiktiva eller kontroversiella ämnen. Den bearbetar textinput och returnerar textoutput. Du kan justera parametrar som temperature och top_p för att styra kreativitet. Kontextrutan stöder 100,000 tokens för den kombinerade prompten och kompletteringen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Fel under bearbetning äter inte upp kredit. Om modellen returnerar ett avslag för minderårigt innehåll betalar du inget. Denna förbetala modell säkerställer att du bara spenderar på faktiska utdata-tokens.

Aktivera strömning för realtidsutdata

Streaming via Server-Sent Events (SSE) levererar tokens när de genereras. Ställ in stream=true i ditt begäran. Den sista biten innehåller fullständig tokenanvändningsstatistik för fakturering. Denna metod minskar den upplevda latensen för långa svar. Det är idealiskt för chattgränssnitt där användare ser text som visas i realtid. SDK:en hanterar parsing automatiskt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strömning ändrar inte prissättningsstrukturen. Du betalar fortfarande per 1M utmatningstokens. Den hårda gränsen på 16 000 tokens per begäran gäller fortfarande oavsett strömningsstatus.

Använd JSON-läge för strukturerad data

Ställ in response_format för {"type": "json_object"} för att tvinga fram strikt JSON-utdata. Detta är användbart för programmerbara integrationer där du behöver förutsägbara datastrukturer. Modellen kommer att försöka formatera svaret som giltig JSON. Det kan misslyckas om prompten är för komplex eller utdata överskrider gränserna. Validera alltid JSON på klientsidan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function calling stöds också. Du kan definiera verktyg och låta modellen välja vilka som ska anropas. Detta utökar API:ets kapacitet bortom enkel textgenerering.

Begärgränser och felhantering

API:et begränsar till 300 förfrågningar per minut per nyckel. Du kan köra 8 samtidiga förfrågningar samtidigt. Maximal storlek på förfrågningskroppen är 8 MB. Ett 429-fel indikerar att du har överskridit dessa gränser. Vänta några sekunder och försök igen. Ett 402-fel betyder att ditt förbetalda kredit är slut. Fyll på via krypto för att återuppta tjänsten. Fel som 400 eller 500 debiterar inte krediter.

Modell-ID är alltid "uncensored". Försök inte att byta modeller. Vi värdar en enda stor språkmodell optimerad för obegränsat innehåll. Detta håller stacken enkel och snabb.

Kontextruta och tokenbegränsningar

Din totala kontextfönsterstorlek är 100 000 tokens. Detta inkluderar både inmatningsprompten och den genererade kompletteringen. Maximal utmatning per begäran är 16 000 tokens. Om du inte anger max_tokens, är 2 048 tokens som standard. Att överskrida gränsen för utdata kommer att klippa av svaret. Planera dina prompts för att lämna tillräckligt med utrymme för hela svaret. Detta möjliggör djup kontextbevarande utan manuell chunkning.

Streaming och JSON-läge påverkar inte dessa gränser. De förblir konsekventa för alla begärantyper. Använd usage field in the response to track your consumption accurately.