Rychlý start: Použijte klíč API groq

Nastavení základní URL a ověření

API klíč groq nahrazuje standardní endpoint OpenAI přímou cestou k našemu necenzurovanému modelu. Nastavte svůj base_url na HTTPS://api.groqkeyapi.com/v1 a vložte svůj klíč do Authorization hlavička. Toto nastavení funguje s jakýmkoli klientem kompatibilním s OpenAI, včetně oficiálních SDK pro Python a Node. Nemusíte upravovat název modelu ve svém kódu; my řešíme směrování interně.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Ověření je přísné. Chyba 401 znamená, že váš klíč je neplatný nebo chybí. Ujistěte se, že klíč zkopírujete ihned po registraci, protože se zobrazí pouze jednou.

První dokončení chatu

Odeslat požadavek POST na /v1/chat/completions pomocí ID modelu nastaveného na „uncensored“. Tento model odpovídá bez odmítnutí pro zákonné dospělé, fiktivní nebo kontroverzní témata. Zpracovává textový vstup a vrací textový výstup. Parametry jako můžete upravit temperature a top_p ovlivnit kreativitu. Okno kontextu podporuje 100,000 tokenů pro kombinaci promptu a dokončení.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Chyby při zpracování nesnižují kredit. Pokud model vrátí odmítnutí obsahu pro nezletilé, neplatíte nic. Tento předplacený model zajišťuje, že utratíte pouze za skutečné výstupní tokeny.

Povolte streamování pro výstup v reálném čase

Streamování pomocí Server-Sent Events (SSE) dodává tokeny, jak jsou generovány. Nastavte stream=true ve vaší žádosti. Poslední chunk obsahuje kompletní statistiky využití tokenů pro fakturaci. Tento přístup snižuje vnímanou latenci u dlouhých odpovědí. Je ideální pro chatová rozhraní, kde uživatelé vidí text objevující se v reálném čase. SDK automaticky zpracovávají parsování.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streamování nemění strukturu cen. Stále platíte za 1M výstupních tokenů. Tvrdý limit 16 000 tokenů na požadavek stále platí bez ohledu na stav streamování.

Použijte režim JSON pro strukturovaná data

Nastavit response_format na {"type": "json_object"} pro vynucení přísného výstupu JSON. To je užitečné pro programové integrace, kde potřebujete předvídatelné datové struktury. Model se pokusí formátovat odpověď jako platný JSON. Může selhat, pokud je prompt příliš složitý nebo výstup přesáhne limity. Vždy validujte JSON na straně klienta.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Volání funkcí je také podporováno. Můžete definovat nástroje a nechat model, aby si vybral, které má vyvolat. To rozšiřuje možnosti API beyond jednoduchou generaci textu.

Omezení požadavků a zpracování chyb

API omezuje počet na 300 požadavků za minutu na klíč. Můžete spustit 8 souběžných požadavků najednou. Maximální velikost těla požadavku je 8 MB. Chyba 429 indikuje, že jste tyto limity překročili. Počkejte několik sekund a zkuste to znovu. Chyba 402 znamená, že je váš předplacený kredit vyčerpán. Dobijte prostřednictvím kryptoměn, abyste obnovili službu. Chyby jako 400 nebo 500 neúčtují kredity.

ID modelu je vždy „uncensored“. Nesnažte se přepínat modely. Hostujeme jeden velký jazykový model optimalizovaný pro neomezený obsah. To udržuje stack jednoduchý a rychlý.

Kontextové okno a limity tokenů

Vaše celkové kontextové okno má 100 000 tokenů. To zahrnuje jak vstupní prompt, tak vygenerovanou odpověď. Maximální délka výstupu na žádost je 16 000 tokenů. Pokud nespecifikujete max_tokens, výchozí hodnota je 2 048 tokenů. Překročení limitu výstupu zkrátí odpověď. Plánujte své podněty tak, aby zůstalo dostatek místa pro celou odpověď. To umožňuje hluboké uchování kontextu bez ručního dělení na části.

Streamování a režim JSON nemají na tyto limity vliv. Zůstávají konzistentní u všech typů požadavků. Použijte usage pole v odpovědi pro přesné sledování vaší spotřeby.