شروع سریع: استفاده از کلید API groq

تنظیم احراز هویت URL پایه

API کلید groq نقطه پایانی استاندارد OpenAI را با یک مسیر مستقیم به مدل uncensored ما جایگزین می‌کند. تنظیم کنید base_url to HTTPS://api.groqkeyapi.com/v1 and inject your key into the Authorization header. این پیکربندی با هر کلاینت سازگار با OpenAI، از جمله SDKهای رسمی Python و Node کار می‌کند. نیازی به تغییر نام مدل در کد خود ندارید؛ ما مسیریابی را به صورت داخلی انجام می‌دهیم.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

احراز هویت سخت‌گیرانه است. خطای 401 به معنای نامعتبر یا ناموجود بودن کلید شماست. اطمینان حاصل کنید که کلید را بلافاصله پس از ثبت‌نام کپی کرده‌اید، زیرا تنها یک بار نمایش داده می‌شود.

اولین درخواست تکمیل چت

یک درخواست POST به /v1/chat/completions با شناسه مدل تنظیم شده به "uncensored". این مدل بدون رد کردن، به موضوعات بزرگسالان قانونی، داستانی یا بحث‌برانگیز پاسخ می‌دهد. ورودی متنی را پردازش کرده و خروجی متنی برمی‌گرداند. می‌توانید پارامترهایی مانند temperature و top_p برای کنترل خ creativite. پنجره زمینه ۱۰۰,۰۰۰ توکن برای ترکیب prompt و تکمیل پشتیبانی می‌کند.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

خطاها در حین پردازش اعتبار مصرف نمی‌کنند. اگر مدل برای محتوای کودکان ردی برگرداند، هزینه‌ای پرداخت نمی‌کنید. این مدل پیش‌پرداخت تضمین می‌کند که شما فقط برای توکن‌های خروجی واقعی هزینه می‌کنید.

برای خروجی بلادرنگ، جریان‌یابی را فعال کنید

استریم از طریق رویدادهای ارسال‌شده سرور (SSE) توکن‌ها را همان‌طور که تولید می‌شوند تحویل می‌دهد. تنظیم stream=true در درخواست شما. قطعه نهایی شامل آمار کامل مصرف توکن برای صورت‌حساب است. این روش تأخیر ادراک‌شده برای پاسخ‌های طولانی را کاهش می‌دهد. این روش برای رابط‌های چت که در آن‌ها کاربران متن را به‌صورت بلادرنگ می‌بینند ایده‌آل است. SDKها تجزیه را به‌طور خودکار انجام می‌دهند.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

استریم‌دهی ساختار قیمت‌گذاری را تغییر نمی‌دهد. شما همچنان به ازای هر ۱M توکن خروجی پرداخت می‌کنید. محدودیت سخت ۱۶,۰۰۰ توکنی به ازای هر درخواست همچنان بدون توجه به وضعیت استریم اعمال می‌شود.

استفاده از حالت JSON برای داده‌های ساختاریافته

تنظیم response_format به {"type": "json_object"} برای اجبار به خروجی JSON سخت‌گیرانه. این برای یکپارچه‌سازی‌های برنامه‌نویسی مفید است که در آن‌ها به ساختارهای داده‌ی قابل‌پیش‌بینی نیاز دارید. مدل تلاش می‌کند پاسخ را به‌صورت JSON معتفر قالب‌بندی کند. ممکن است در صورت پیچیدگی بیش‌ازحد پرامپت یا تجاوز خروجی از محدودیت‌ها، شکست بخورد. همیشه JSON را در سمت کلاینت اعتبارسنجی کنید.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

فراخوانی تابع پشتیبانی می‌شود. می‌توانید ابزارها را تعریف کنید و بگذارید مدل انتخاب کند که کدام‌یک را فراخوانی کند. این قابلیت قابلیت‌های API را فراتر از تولید متن ساده گسترش می‌دهد.

محدودیت‌ها و مدیریت خطا در درخواست

API محدودیت ۳۰۰ درخواست در دقیقه به ازای هر کلید را اعمال می‌کند. می‌توانید ۸ درخواست همزمان به صورت همزمان اجرا کنید. حداکثر اندازه بدنه درخواست ۸ مگابایت است. خطای 429 نشان می‌دهد که از این محدودیت‌ها تجاوز کرده‌اید. چند ثانیه صبر کنید و دوباره تلاش کنید. خطای 402 به این معنی است که اعتبار پیش‌پرداخت شما تمام شده است. برای از سرگیری سرویس، از طریق ارز دیجیتال شارژ کنید. خطاهایی مانند 400 یا 500 اعتبار کسر نمی‌کنند.

شناسه مدل همیشه "uncensored" است. سعی نکنید مدل‌ها را تغییر دهید. ما یک مدل زبانی بزرگ واحد بهینه‌سازی شده برای محتوای بدون سانسور را میزبانی می‌کنیم. این موضوع لایه‌های نرم‌افزاری را ساده و سریع نگه می‌دارد.

پنجره زمینه و محدودیت‌های توکن

پنجره زمینه کل شما ۱۰۰,۰۰۰ توکن است. این شامل هم پرامپت ورودی و هم تکمیل تولیدشده می‌شود. حداکثر خروجی در هر درخواست ۱۶,۰۰۰ توکن است. اگر مشخص نکنید max_tokens, پیش‌فرض 2,048 توکن است. تجاوز از حد خروجی منجر به کوتاه شدن پاسخ می‌شود. پرامپت‌های خود را طوری برنامه‌ریزی کنید که فضای کافی برای پاسخ کامل باقی بماند. این اجازه می‌دهد تا حفظ زمینه عمیق بدون تقسیم‌بندی دستی انجام شود.

استریمینگ و حالت JSON این محدودیت‌ها را تحت تأثیر قرار نمی‌دهند. آن‌ها در تمام انواع درخواست‌ها ثابت باقی می‌مانند. از usage field in the response to track your consumption accurately.