Quickstart endpoint compatibil OpenAI

URL de bază și autentificare

Conectați-vă la API-ul nostru folosind URL-ul de bază standardizat și cheia unică. Fiecare solicitare necesită autentificare prin antetul Authorization pentru a asigura accesul securizat la creditul preplătit.

Structura endpoint-ului nostru imită standardul industriei, permițându-ți să înlocuiești configurația OpenAI existentă cu efort minim. Nu trebuie să gestionezi routing complex sau vendor lock-in; noi gestionăm infrastructura, în timp ce tu te concentrezi pe logica aplicației.

Generează-ți cheia instantaneu prin panoul de control. Fiecare cont păstrează o singură cheie activă care înlocuiește cea anterioară la regenerare, menținând postura de securitate simplă și transparentă.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Endpoint Completări Chat

Trimiteți promptul către endpoint-ul de completări chat pentru a primi un răspuns direct de text de la modelul fără cenzură. Acest singur endpoint gestionează toate generările de text fără suprasarcina embeddings sau procesarea multimodală.

Modelul acceptă un array standard de mesaje care conține roluri de sistem, utilizator și asistent. Este optimizat pentru a răspunde fără refuzuri de conținut, pentru uz adult legal, fiind ideal pentru scriere creativă, roleplay sau analiză nelimitată de date.

Păstrați-vă payload-urile concise. Dimensiunea maximă a corpului solicitării este de 8 MB, ceea ce se potrivește confortabil cu majoritatea istoricelor standard de conversații înainte de a atinge limita contextului.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming și Utilizarea Tokenilor

Activează ieșirea în timp real setând parametrul stream la true în cererea ta. API-ul returnează un flux Server-Sent Events (SSE), permițându-ți să afișezi token-uri pe măsură ce sunt generate.

Statisticile privind utilizarea tokenilor sunt incluse în ultimul fragment al fluxului. Acest design menține payload-ul ușor în timpul generării, asigurând în același timp date precise de facturare pentru creditul tău preplătit.

Streaming-ul reduce latența percepută pentru utilizatorii finali. Poți începe randarea răspunsului imediat, ceea ce este crucial pentru aplicațiile care necesită bucle de feedback interactive sau generarea de conținut pe termen lung.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Apelarea funcțiilor și modul JSON

Structurează outputurile pentru consumarea programatică folosind modul JSON sau apelarea de funcții. Setează response_format la json_object pentru a forca modelul într-o schemă JSON strictă.

Pentru utilizarea instrumentelor, definește-ți funcțiile în array-ul tools. Modelul va returna argumente structurate pe care codul tău le poate analiza și executa. Această capacitate susține fluxuri de lucru complexe fără a necesita biblioteci externe de analiză.

Modul JSON este util în special când extragi date din text nestructurat. Asigură un format consecutiv, reducând necesitatea curățării post-procesării în logica aplicației tale.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametri: Temperatură, Top P și Stop

Controlează creativitatea și terminarea răspunsurilor tale folosind parametri standard de generare. Ajustează temperature pentru variabilitate și top_p pentru eșantionarea nucleu. Folosește parametrul stop pentru a defini secvențe specifice care semnalează sfârșitul ieșirii.

Setarea unei temperaturi mai scăzute produce rezultate mai deterministe și focalizate. Valorile mai mari introduc mai multă aleatorie, ceea ce poate fi benefic pentru brainstorming sau sarcini de povestire creativă.

Definește secvențele de oprire pentru a preveni rularea modelului la nesfârșit. Acest lucru este esențial pentru a menține un consum de tokeni predictibil și pentru a te asigura că aplicația ta primește un răspuns curat, delimitat.

Gestionarea erorilor și limitele

Monitorați-vă solicitările pentru coduri de stare HTTP comune pentru a gestiona erorile eficient. Un 401 indică o cheie API invalidă sau expirată, în timp ce un 402 semnalează că creditul preplătit este epuizat.

Limita de rată 429 se declanșează dacă depășești 300 de solicitări pe minut sau ai mai mult de 8 solicitări concurente pe cheie. Crește throughput-ul distribuind sarcina între mai multe chei sau reducând frecvența solicitărilor.

Fereastra de context suportă 100.000 de tokeni pentru prompt și completare combinate. Ai grijă la această limită pentru a evita trunchierea. Erorile și refuzurile nu consumă tokeni, așa că plătești doar pentru generarea efectivă.