Démarrage rapide du point de terminaison compatible OpenAI

URL de base et authentification

Connectez-vous à notre API en utilisant l'URL de base standardisée et votre clé unique. Chaque requête nécessite une authentification via l'en-tête Authorization pour garantir un accès sécurisé à votre crédit prépayé.

Notre structure de point de terminaison imite la norme de l'industrie, vous permettant de remplacer votre configuration OpenAI existante avec un minimum de friction. Vous n'avez pas besoin de gérer un routage complexe ou l'enfermement fournisseur ; nous gérons l'infrastructure pendant que vous vous concentrez sur la logique de l'application.

Générez votre clé instantanément via le tableau de bord. Chaque compte conserve une clé active qui remplace la précédente lors de sa régénération, simplifiant et rendant transparent votre posture de sécurité.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Point de terminaison Chat Completions

Envoyez votre prompt au point de terminaison de complétion de chat pour recevoir une réponse textuelle directe du modèle sans censure. Ce point de terminaison unique gère toute la génération de texte sans la surcharge des embeddings ou du traitement multimodal.

Le modèle accepte un tableau de messages standard contenant les rôles system, user et assistant. Il est optimisé pour répondre sans refus de contenu pour une utilisation adulte légale, ce qui le rend idéal pour l'écriture créative, le jeu de rôle ou l'analyse de données sans restriction.

Gardez vos charges utiles concises. La taille maximale du corps de la requête est de 8 Mo, ce qui convient confortablement à la plupart des historiques de conversation standards avant d'atteindre la limite de contexte.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming et utilisation des jetons

Activer la sortie en temps réel en définissant le paramètre stream sur true dans votre requête. L'API renvoie un flux Server-Sent Events (SSE), vous permettant d'afficher les jetons à mesure qu'ils sont générés.

Les statistiques d'utilisation des tokens sont incluses dans le dernier chunk du flux. Cette conception garde la charge utile légère pendant la génération tout en vous assurant d'obtenir des données de facturation précises pour votre crédit prépayé.

Le streaming réduit la latence perçue pour les utilisateurs finaux. Vous pouvez commencer à afficher la réponse immédiatement, ce qui est crucial pour les applications nécessitant des boucles de feedback interactives ou la génération de contenu long.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Appel de fonction et mode JSON

Structurez vos sorties pour une consommation programmatique en utilisant le mode JSON ou l'appel de fonctions. Définissez response_format sur json_object pour forcer le modèle dans un schéma JSON strict.

Pour l'utilisation des outils, définissez vos fonctions dans le tableau tools. Le modèle renverra des arguments structurés que votre code peut analyser et exécuter. Cette capacité prend en charge des workflows complexes sans nécessiter de bibliothèques d'analyse externes.

Le mode JSON est particulièrement utile lors de l'extraction de données à partir de texte non structuré. Il garantit un formatage cohérent, réduisant le besoin de nettoyage post-traitement dans la logique de votre application.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Paramètres : Température, Top P et Stop

Maîtrisez la créativité et la terminaison de vos réponses en utilisant des paramètres de génération standards. Ajustez temperature pour la variabilité et top_p pour l'échantillonnage par noyau. Utilisez le paramètre stop pour définir des séquences spécifiques signalant la fin de la sortie.

Définir une température plus basse produit des résultats plus déterministes et ciblés. Des valeurs plus élevées introduisent plus d'aléatoire, ce qui peut être bénéfique pour le brainstorming ou les tâches de narration créative.

Définissez des séquences d'arrêt pour empêcher le modèle de s'exécuter indéfiniment. C'est essentiel pour maintenir une utilisation prévisible des jetons et garantir que votre application reçoive une réponse propre et délimitée.

Gestion des erreurs et limites

Surveillez vos requêtes pour les codes de statut HTTP courants afin de gérer les erreurs efficacement. Un 401 indique une clé API invalide ou expirée, tandis qu'un 402 signale que votre crédit prépayé est épuisé.

La limite de taux 429 se déclenche si vous dépassez 300 requêtes par minute ou si vous avez plus de 8 requêtes simultanées par clé. Augmentez votre débit en répartissant la charge sur plusieurs clés ou en réduisant la fréquence des requêtes.

Votre fenêtre de contexte prend en charge 100 000 tokens pour le prompt et la complétion combinés. Soyez conscient de cette limite pour éviter la troncation. Les erreurs et les refus ne consomment pas de tokens, vous ne payez donc que pour la génération réelle.