快速上手：使用 groq key api

基礎 URL 與驗證設定

groq key API 取代標準 OpenAI 端點，提供通往我們無審查模型的直接途徑。設定您的 base_url 至 HTTPS://api.groqkeyapi.com/v1 並將您的金鑰注入到 Authorization 標頭。此設定適用於任何 OpenAI 相容的客戶端，包括官方的 Python 和 Node SDK。您無需修改程式碼中的模型名稱；我們會內部處理路由。

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

驗證很嚴格。401 錯誤表示您的金鑰無效或遺失。請確保在註冊後立即複製金鑰，因為它只會顯示一次。

首次聊天完成請求

向以下網址發送 POST 請求 /v1/chat/completions 將模型 ID 設定為 "uncensored"。此模型針對合法的成人、虛構或爭議性主題無拒絕地回答。它處理文本輸入並返回文本輸出。您可以調整參數，例如 temperature 和 top_p 控制創造力。上下文視窗支援 100,000 個 token，包含提示和補總計。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

處理過程中的錯誤不會消耗信用額。如果模型拒絕未成年內容，您無需付費。此預付模型確保您只為實際輸出的 token 付費。

啟用串流以獲得即時輸出

透過伺服器發送事件（SSE）串流傳輸在生成時交付 token。設定 stream=true 在你的請求中。最後一個區塊包含用於計費的完整 token 用量統計。此方法能降低長回應的感知延遲。它非常適合聊天介面，使用者可以即時看到文字出現。SDK 會自動處理解析。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

串流不改變計費結構。您仍按每 1M 輸出 Token 付費。每次請求 16,000 Token 的硬性限制仍適用，無論是否為串流狀態。

使用 JSON 模式進行結構化資料

設定 response_format 以 {"type": "json_object"} 用於強制執行嚴格的 JSON 輸出。這對於需要可預測資料結構的程式化整合非常有用。模型會嘗試將回應格式化為有效的 JSON。如果提示過於複雜或輸出超出限制，可能會失敗。請務必在客戶端驗證 JSON。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

也支援函式呼叫。您可以定義工具並讓模型選擇呼叫哪些工具。這擴大了 API 的功能，超越了單純的文字生成。

請求限制與錯誤處理

API 每支金鑰每秒鐘限制 300 次請求。您最多可同時執行 8 個請求。最大請求主體大小為 8 MB。429 錯誤表示您已超過這些限制。等待幾秒鐘後重試。402 錯誤表示您的預付信用額度已耗盡。請透過加密貨幣充值以恢復服務。400 或 500 等錯誤不會收取信用額度。

模型 ID 始終為 "uncensored"。不要嘗試切換模型。我們託管單一大型語言模型，針對無限制內容進行最佳化。這使堆疊保持簡單且快速。

上下文窗口與 token 限制

您的總上下文視窗為 100,000 token。這包含輸入提示詞與生成的完成內容。每次請求的最大輸出為 16,000 token。如果您未指定 max_tokens預設為 2,048 個 token。超出輸出限制將截斷回應。規劃您的提示以為完整答案留出足夠的空間。這允許在不手動分塊的情況下保留深度上下文。

串流與 JSON 模式不影響這些限制。它們在所有請求類型中保持一致。使用 usage field in the response to track your consumption accurately.