Γρήγορη έναρξη τελευταίας ενότητας συμβατή με OpenAI

Βασικό URL και Αυθεντικοποίηση

Συνδεθείτε στο API μας χρησιμοποιώντας την τυποποιημένη βάση URL και το μοναδικό σας κλειδί. Κάθε αίτημα απαιτεί πιστοποίηση μέσω της κεφαλίδας Authorization για να διασφαλιστεί η ασφαλής πρόσβαση στο προπληρωμένο υπόλοιπό σας.

Η δομή του endpoint μας μιμίζεται το βιομηχανικό πρότυπο, επιτρέποντάς σας να εναλλάξετε την υπάρχουσα διαμόρφωση OpenAI σας με ελάχιστη τριβή. Δεν χρειάζεται να διαχειρίζεστε πολύπλοκη δρομολόγηση ή vendor lock-in; διαχειριζόμαστε την υποδομή ενώ εσείς εστιάζετε στη λογική της εφαρμογής.

Δημιουργήστε το κλειδί σας άμεσα μέσω του πίνακα ελέγχου. Κάθε λογαριασμός διατηρεί ένα ενεργό κλειδί που αντικαθιστά το προηγούμενο κατά την αναγέννηση, διατηρώντας την ασφάλειά σας απλή και διαφανή.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε το prompt σας στο endpoint ολοκλήρωσης συνομιλίας για να λάβετε μια άμεση απάντηση κειμένου από το μοντέλο uncensored. Αυτό το μοναδικό endpoint χειρίζεται όλη τη δημιουργία κειμένου χωρίς το υπερβολικό κόστος των embeddings ή της πολυτροπικής επεξεργασίας.

Το μοντέλο δέχεται ένα τυποποιημένο array μηνυμάτων που περιέχει ρόλους system, user και assistant. Είναι ρυθμισμένο να απαντά χωρίς απορρίψεις περιεχομένου για νόμιμη χρήση ενήλικων, καθιστώντας το ιδανικό για δημιουργική γραφή, roleplay ή unrestricted ανάλυση δεδομένων.

Κρατήστε τα payloads σας συνοπτικά. Το μέγιστο μέγεθος σώματος αιτήματος είναι 8 MB, το οποίο χωράει άνετα τις περισσότερες ιστορίες συνομιλίας πριν φτάσετε στο όριο context.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ροή και Χρήση Tokens

Ενεργοποίηση εξόδου σε πραγματικό χρόνο ορίζοντας την παράμετρο stream σε true στην αίτησή σας. Το API επιστρέφει μια ροή Server-Sent Events (SSE), επιτρέποντάς σας να εμφανίσετε token καθώς παράγονται.

Τα στατιστικά χρήσης tokens περιλαμβάνονται στο τελικό chunk του stream. Αυτός ο σχεδιασμός διατηρεί το payload ελαφρύ κατά τη διάρκεια της δημιουργίας ενώ διασφαλίζει ότι λαμβάνετε ακριβή δεδομένα χρέωσης για το προπληρωμένο credit σας.

Η ροή δεδομένων (streaming) μειώνει την αντιλαμβανόμενη καθυστέρηση για τους τελικούς χρήστες. Μπορείτε να ξεκινήσετε την απόδοση της απάνσης αμέσως, κάτι που είναι κρίσιμο για εφαρμογές που απαιτούν διαδραστικούς βρόχους ανατροφοδότησης ή δημιουργία περιεχομένου μεγάλου μήκους.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling και JSON Mode

Δομήστε τις εξόδους σας για προγραμματιστική κατανάλωση χρησιμοποιώντας λειτουργία JSON ή κλήση συναρτήσεων. Ορίστε response_format σε json_object για να αναγκάσετε το μοντέλο σε αυστηρό σχήμα JSON.

Για χρήση εργαλείων, ορίστε τις συναρτήσεις σας στην παράμετρο tools. Το μοντέλο θα επιστρέψει δομημένα ορίσματα που ο κώδικάς σας μπορεί να αναλύσει και να εκτελέσει. Αυτή η δυνατότητα υποστηρίζει σύνθετες ροές εργασίας χωρίς να απαιτούνται εξωτερικές βιβλιοθήκες ανάλυσης.

Η λειτουργία JSON είναι ιδιαίτερα χρήσιμη όταν εξάγετε δεδομένα από μη δομημένο κείμενο. Εξασφαλίζει συνεπή μορφοποίηση, μειώνοντας την ανάγκη για καθαρισμό μετα-επεξεργασίας στη λογική της εφαρμογής σας.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Παράμετροι: Temperature, Top P, και Stop

Ελέγξτε τη δημιουργικότητα και τον τερματισμό των απαντήσεών σας χρησιμοποιώντας τυπικές παραμέτρους δημιουργίας. Προσαρμόστε το temperature για μεταβλητότητα και το top_p για nucleus sampling. Χρησιμοποιήστε την παράμετρο stop για να ορίσετε συγκεκριμένες αλληλουχίες που σηματοδοτούν το τέλος της εξόδου.

Η ρύθμιση χαμηλότερης θερμοκρασίας (temperature) παράγει πιο ντετερμινιστικά και εστιασμένα αποτελέσματα. Οι υψηλότερες τιμές εισάγουν περισσότερη τυχαιότητα, η οποία μπορεί να είναι ωφέλιμη για διεργασίες brainstorming ή δημιουργικής αφήγησης ιστοριών.

Ορίστε ακολουθίες stop για να αποτρέψετε το μοντέλο από το να τρέχει επ' αόριστον. Αυτό είναι απαραίτητο για τη διατήρηση προβλέψιμης χρήσης tokens και για να διασφαλίσετε ότι η εφαρμογή σας λαμβάνει μια καθαρή, οριοθετημένη απάντηση.

Χειρισμός Σφαλμάτων και Όρια

Παρακολουθήστε τα αιτήματά σας για συνηθισμένους κωδικούς κατάστασης HTTP για τη διαχείριση σφαλμάτων αποτελεσματικά. Ένας κωδικός 401 υποδεικνύει άκυρο ή ληγμένο κλειδί API, ενώ το 402 σηματοδοτεί ότι το προκαταβλεπόμενο πιστωτικό ισοζύγιό σας έχει εξαντληθεί.

Το όριο ρυθμού 429 ενεργοποιείται αν υπερβείτε τα 300 αιτήματα ανά λεπτό ή έχετε περισσότερα από 8 ταυτόχρονα αιτήματα ανά κλειδί. Αυξήστε τη διαπερατότητά σας κατανέμοντας το φορτίο σε πολλαπλά κλειδιά ή μειώνοντας τη συχνότητα αιτήσεων.

Το παράθυρο πλαισίου (context window) υποστηρίζει 100.000 tokens για prompt και completion συνολικά. Να είστε προσεκτικοί με αυτό το όριο για να αποφύγετε σφάλματα περικοπής. Τα σφάλματα και οι απορρίψεις δεν καταναλώνουν tokens, οπότε πληρώνετε μόνο για την πραγματική δημιουργία περιεχομένου.