クイックスタート：groq key APIを使用

ベースURLと認証設定

groqキーAPIは、標準的なOpenAIエンドポイントを、アンセンサードモデルへの直接的な経路に置き換えます。設定してください base_url HTTPS://api.groqkeyapi.com/v1 まで、かつキーを Authorization ヘッダー。この設定は、公式のPythonおよびNode SDKを含む、あらゆるOpenAI互換クライアントと連携します。コード内のモデル名を変更する必要はありません。ルーティングは内部で処理されます。

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

認証は厳格です。401エラーはキーが無効または欠落していることを意味します。サインアップ直後にキーをコピーしてください。キーは1回のみ表示されます。

最初のチャット完了リクエスト

POSTリクエストを以下に送信 /v1/chat/completions モデルIDを「uncensored」に設定します。このモデルは、法的な大人向け、フィクション、または論争的なトピックについて拒否なしで回答します。テキスト入力を処理し、テキスト出力を返します。 temperature および top_p 創造性を制御する。コンテキストウィンドウは、プロンプトと補完を合わせて100,000トークンをサポートします。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

処理中のエラーはクレジットを消費しません。モデルが未成年コンテンツに対して拒否を返した場合、料金は発生しません。このプリペイドモデルにより、実際の出力トークンのみに支出されることが保証されます。

リアルタイム出力のためにストリーミングを有効にします

Server-Sent Events (SSE) によるストリーミングは、生成されるトークンを配信します。設定 stream=true リクエスト内。最終チャンクには請求のための完全なトークン使用状況統計が含まれます。このアプローチは長い応答の知覚されるレイテンシを削減します。ユーザーがリアルタイムでテキストが表示されるチャットインターフェースに最適です。SDKは解析を自動的に処理します。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ストリーミングは価格構造を変更しません。1M出力トークンあたり依然として課金されます。ストリーミング状態にかかわらず、リクエストあたりの16,000トークンのハードリミットは依然として適用されます。

構造化データにはJSONモードを使用してください

設定 response_format に {"type": "json_object"} 厳密なJSON出力を強制します。これは、予測可能なデータ構造が必要なプログラム統合に役立ちます。モデルはレスポンスを有効なJSONとしてフォーマットしようとしますが、プロンプトが複雑すぎたり、出力が制限を超えたりすると失敗する場合があります。必ずクライアント側でJSONを検証してください。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

関数呼び出しもサポートされています。ツールを定義し、モデルがどの関数を呼び出すかを選択させましょう。これにより、テキスト生成のみを超えたAPIの機能が拡張されます。

リクエスト制限とエラー処理

APIはキーあたり1分あたり300リクエストの制限を適用します。同時に8つのリクエストを実行できます。最大リクエストボディサイズは8 MBです。429エラーはこれらの制限を超えたことを示します。数秒待ってから再試行してください。402エラーは前払いクレジットが枯渇したことを意味します。暗号通貨でチャージしてサービスを再開してください。400や500などのエラーはクレジットを課金しません。

モデルIDは常に"uncensored"です。モデルを切り替えようとしないでください。当社は、制限のないコンテンツに最適化された単一の大規模言語モデルをホストしています。これにより、スタックはシンプルで高速に保たれます。

コンテキストウィンドウとトークン制限

総コンテキストウィンドウは100,000トークンです。これには入力プロンプトと生成された補完の両方が含まれます。1リクエストあたりの最大出力は16,000トークンです。指定しない場合 max_tokensデフォルト値は2,048トークンです。出力制限を超えると応答が切り捨てられます。完全な回答を返すのに十分な余地を残すようプロンプトを設計してください。これにより、手動でチャンク分割することなく、深いコンテキスト保持を可能にします。

ストリーミングとJSONモードはこれらの制限に影響しません。すべてのリクエストタイプで一貫して維持されます。 usage レスポンス内のフィールド。消費を正確に追跡するために使用します。