OpenAI-kompativer Endpunkt-Schnellstart

Basis-URL und Authentifizierung

Verbinden Sie sich mit unserer API über die standardisierte Base-URL und Ihren einzigartigen Schlüssel. Jede Anfrage erfordert eine Authentifizierung über den Authorization-Header, um den sicheren Zugriff auf Ihr vorausbezahltes Guthaben zu gewährleisten.

Die Struktur unseres Endpunkts spiegelt den Industriestandard wider, sodass Sie Ihre bestehende OpenAI-Konfiguration mit minimalem Aufwand austauschen können. Sie müssen kein komplexes Routing oder Vendor-Lock-in verwalten; wir übernehmen die Infrastruktur, während Sie sich auf die Anwendungslogik konzentrieren.

Generieren Sie Ihren Schlüssel sofort über das Dashboard. Jedes Konto verwaltet einen aktiven Schlüssel, der den vorherigen bei der Neuerstellung ersetzt, wodurch Ihre Sicherheitslage einfach und transparent bleibt.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Chat-Vervollständigungs-Endpunkt

Senden Sie Ihren Prompt an den Chat-Vervollständigungs-Endpunkt, um eine direkte Textantwort vom unzensierten Modell zu erhalten. Dieser einzelne Endpunkt verarbeitet alle Textgenerierungen ohne den Overhead von Embeddings oder multimodaler Verarbeitung.

Das Modell akzeptiert ein Standard-Nachrichtenarray, das System-, Benutzer- und Assistentenrollen enthält. Es ist darauf abgestimmt, ohne Inhaltsablehnungen bei rechtmäßiger erwachsener Nutzung zu antworten, was es ideal für kreatives Schreiben, Rollenspiele oder uneingeschränkte Datenanalysen macht.

Halten Sie Ihre Payloads kompakt. Die maximale Größe des Anfragekörpers beträgt 8 MB, was die meisten Standard-Konversationsverläufe bequem aufnimmt, bevor Sie das Kontextlimit erreichen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming und Token-Nutzung

Echtzeit-Ausgabe aktivieren, indem Sie den stream-Parameter in Ihrer Anfrage auf true setzen. Die API gibt einen Server-Sent Events (SSE)-Stream zurück, der es Ihnen ermöglicht, Tokens angezeigt zu bekommen, während sie generiert werden.

Token-Nutzungsstatistiken sind im finalen Chunk des Streams enthalten. Dieses Design hält den Payload während der Generierung leichtgewichtig und stellt gleichzeitig genaue Abrechnungsdaten für Ihr Prepaid-Guthaben sicher.

Streaming reduziert die wahrgenommene Latenz für Endbenutzer. Sie können die Antwort sofort rendern, was für Anwendungen entscheidend ist, die interaktive Feedback-Schleifen oder Langtext-Inhalte erfordern.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling und JSON-Modus

Strukturieren Sie Ihre Ausgaben für die programmatische Nutzung mit dem JSON-Modus oder Function Calling. Legen Sie response_format auf json_object fest, um das Modell zu einer strikten JSON-Schema-Ausgabe zu zwingen.

Für die Tool-Nutzung definieren Sie Ihre Funktionen im tools-Array. Das Modell gibt strukturierte Argumente zurück, die Ihr Code analysieren und ausführen kann. Diese Funktion unterstützt komplexe Workflows, ohne dass externe Parsing-Bibliotheken erforderlich sind.

Der JSON-Modus ist besonders nützlich bei der Extraktion von Daten aus unstrukturiertem Text. Er gewährleistet ein konsistentes Format und reduziert den Bedarf an Nachbearbeitungsaufräumarbeiten in Ihrer Anwendungslogik.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameter: Temperatur, Top P und Stop

Steuern Sie die Kreativität und Beendigung Ihrer Antworten mit Standardgenerierungsparametern. Passen Sie Temperatur für Variabilität und top_p für die Nukleusabtastung an. Verwenden Sie den stop-Parameter, um bestimmte Sequenzen zu definieren, die das Ende der Ausgabe signalisieren.

Eine niedrigere Temperatur erzeugt deterministischere und fokussiertere Ergebnisse. Höhere Werte führen zu mehr Zufälligkeit, was für Brainstorming- oder kreative Storytelling-Aufgaben vorteilhaft sein kann.

Definieren Sie Stop-Sequenzen, um zu verhindern, dass das Modell endlos läuft. Dies ist entscheidend, um eine vorhersehbare Token-Nutzung zu gewährleisten und sicherzustellen, dass Ihre Anwendung eine saubere, abgegrenzte Antwort erhält.

Fehlerbehandlung und Limits

Überwachen Sie Ihre Anfragen auf häufige HTTP-Statuscodes, um Fehler effektiv zu verwalten. Ein 401 zeigt einen ungültigen oder abgelaufenen API-Schlüssel an, während ein 402 signalisiert, dass Ihr Guthaben im Voraus aufgebraucht ist.

Das 429-Ratenlimit wird ausgelöst, wenn Sie 300 Anforderungen pro Minute überschreiten oder mehr als 8 gleichzeitige Anforderungen pro Schlüssel haben. Erhöhen Sie Ihren Durchsatz, indem Sie die Last auf mehrere Schlüssel verteilen oder die Anforderungshäufigkeit reduzieren.

Ihr Kontextfenster unterstützt 100.000 Tokens für Prompt und Completion zusammen. Beachten Sie dieses Limit, um Kürzungen zu vermeiden. Fehler und Ablehnungen verbrauchen keine Tokens, sodass Sie nur für die tatsächliche Generierung zahlen.