Γρήγορη Έναρξη: Χρησιμοποιήστε το groq key api

Ρύθμιση Βασικού URL και αυθεντικοποίησης

Το groq key API αντικαθιστά το τυπικό endpoint της OpenAI με μια άμεση διαδρομή στο μοντέλο μας χωρίς λογοκριση. Ορίστε το base_url σε HTTPS://api.groqkeyapi.com/v1 και εισάγετε το key σας στο Authorization header. Αυτή η διαμόρφωση λειτουργεί με οποιοδήποτε OpenAI-compatible client, συμπεριλαμβανομένων των επίσημων Python και Node SDKs. Δεν χρειάζεται να τροποποιήσετε το όνομα του μοντέλου στον κώδικά σας· εμείς χειριζόμαστε την διαδρομή εσωτερικά.

Copycurl https://api.groqkeyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if endpoint supports 32k context window"}]
  }'

Η πιστοποίηση είναι αυστηρή. Ένα σφάλμα 401 σημαίνει ότι το κλειδί σας είναι μη έγκυρο ή λείπει. Βεβαιωθείτε ότι αντιγράψετε το κλειδί αμέσως μετά την εγγραφή, καθώς εμφανίζεται μόνο μία φορά.

Πρώτη αίτηση ολοκλήρωσης συνομιλίας

Στείλτε ένα POST request στο /v1/chat/completions με το μοναδικό αναγνωριστικό μοντέλου ρυθμισμένο στο "uncensored". Αυτό το μοντέλο απαντά χωρίς απορρίψεις για νόμιμα ενήλικα, φανταστικά ή αμφιλεγόμενα θέματα. Επεξεργάζεται είσοδο κειμένου και επιστρέφει έξοδο κειμένου. Μπορείτε να προσαρμόσετε παραμέτρους όπως temperature και top_p για τον έλεγχο της δημιουργικότητας. Το παράθυρο συνάφειας υποστηρίζει 100,000 tokens για τον συνδυασμό prompt και completion.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqkeyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Τα σφάλματα κατά την επεξεργασία δεν καταναλώνουν πιστωτικό. Αν το μοντέλο επιστρέψει απόρριψη για περιεχόμενο ανηλίκων, δεν πληρώνετε τίποτα. Αυτό το προκαταβλημένο μοντέλο διασφαλίζει ότι ξοδεύετε μόνο για πραγματικά tokens εξόδου.

Ενεργοποιήστε τη ροή (streaming) για έξοδο σε πραγματικό χρόνο

Η ροή δεδομένων μέσω Server-Sent Events (SSE) παραδίδει tokens καθώς παράγονται. Ρυθμίστε stream=true στην αίτησή σας. Το τελικό τμήμα περιέχει τα πλήρη στατιστικά χρήσης tokens για χρέωση. Αυτή η προσέγγιση μειώνει την αντιλαμβανόμενη καθυστέρηση για μακροχρόνιες απαντήσεις. Είναι ιδανική για διεπαφές συνομιλίας όπου οι χρήστες βλέπουν το κείμενο να εμφανίζεται σε πραγματικό χρόνο. Τα SDK διαχειρίζονται την ανάλυση αυτόματα.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Η ροή δεν αλλάζει τη δομή τιμολόγησης. Ακόμα πληρώνετε ανά 1M tokens εξόδου. Το αυστηρό όριο 16.000 tokens ανά αίτημα ισχύει ακόμα ανεξάρτητα από την κατάσταση ροής.

Χρησιμοποιήστε JSON mode για δομημένα δεδομένα

Ορίστε response_format για {"type": "json_object"} για να επιβάλετε αυστηρό JSON output. Αυτό είναι χρήσιμο για προγραμματιστικές ενσωματώσεις όπου χρειάζεστε προβλέψιμες δομές δεδομένων. Το μοντέλο θα προσπαθήσει να μορφοποιήσει την απάντηση ως έγκυρο JSON. Μπορεί να αποτύχει αν το prompt είναι πολύ پیچیده ή η έξοδο ξεπεράσει τα όρια. Πάντα να επαληθεύετε το JSON στο client side.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqkeyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Υποστηρίζεται η κλήση συναρτήσεων. Μπορείτε να ορίσετε εργαλεία και να αφήσετε το μοντέλο να επιλέξει ποια να καλέσει. Αυτό διευρύνει τις δυνατότητες του API πέρα από την απλή παραγωγή κειμένου.

Όρια αιτήματος και διαχείριση σφαλμάτων

Η API επιβάλλει όριο 300 αιτήσεων ανά λεπτό ανά key. Μπορείτε να εκτελέσετε 8 ταυτόχρονες αιτήσεις ταυτόχρονα. Το μέγιστο μέγεθος σώματος αίτησης είναι 8 MB. Σφάλμα 429 υποδηλώνει ότι έχετε υπερβεί αυτά τα όρια. Περιμένετε λίγα δευτερόλεπτα και δοκιμάστε ξανά. Σφάλμα 402 σημαίνει ότι το προκαταβλημένο υπόλοιπό σας εξαντλήθηκε. Προσθέστε κεφάλαιο μέσω crypto για να ανακτήσετε την υπηρεσία. Σφάλματα όπως 400 ή 500 δεν χρεώνουν credits.

Το id του μοντέλου είναι πάντα "uncensored". Μην προσπαθείτε να εναλλάξετε μοντέλα. Στεγαζόμαστε ένα μοναδικό μεγάλο γλωσσικό μοντέλο βελτιστοποιημένο για μη περιορισμένο περιεχόμενο. Αυτό κρατάει το stack απλό και γρήγορο.

Context window και Όρια Tokens

Το συνολικό σας παράθυρο context είναι 100.000 tokens. Αυτό περιλαμβάνει τόσο το input prompt όσο και την παραγόμενη ολοκλήρωση. Το μέγιστο output ανά request είναι 16.000 tokens. Αν δεν καθορίσετε max_tokens, η προεπιλογή είναι 2,048 tokens. Η υπέρβαση του ορίου εξόδου θα κόψει την απάντηση. Σχεδιάστε τα prompts σας για να αφήσουν αρκετό χώρο για την πλήρη απάντηση. Αυτό επιτρέπει βαθτή διατήρηση context χωρίς χειροκίνητο chunking.

Η ροή και η λειτουργία JSON δεν επηρεάζουν αυτά τα όρια. Παραμένουν συνεπή σε όλους τους τύπους αιτήσεων. Χρησιμοποιήστε το usage field στην απάντηση για να παρακολουθείτε ακριβώς την κατανάλωσή σας.