Veelgemaakte fouten bij de Inferentie-API: Foutopsporingsgids

Waarom je ongefilterde model toch kan weigeren

Het model weigert geen wettelijke volwassen, fictieve, security-research of controversiële onderwerpen. Er geldt echter altijd een harde inhoudslimiet met betrekking tot seksuele inhoud met minderjarigen. Verzoeken met deze specifieke overtreding worden onmiddellijk geweigerd. Dit filter is anders dan de standaard safety guardrails die in andere modellen voorkomen.

Controleer je invoer op subtiele indicatoren van minderjarigen in seksuele contexten. Zelfs als het model uncensored is, blijft deze specifieke grens gehandhaafd. Alle andere inhoudstypen passeren zonder weigering. Dit zorgt voor wettelijke compliance terwijl de vrijheid voor andere use cases behouden blijft.

Tokenlimieten en contextvensters verwerken

Het contextvenster staat 100.000 tokens toe voor zowel prompt als voltooiing samen. Je moet invoertokens bijhouden om ervoor te zorgen dat ze deze limiet niet overschrijden wanneer ze worden gecombineerd met de uitvoer. De maximale uitvoer per verzoek is 16.000 tokens. Als je max_tokens niet instelt, is de standaardwaarde 2.048 tokens.

Bereken uw budget zorgvuldig. Lange documenten verbruiken aanzienlijke context. Als u de limiet overschrijdt, retourneert de API een fout. Verdeel grote invoeren in kleinere brokken om de prestaties te behouden. Dit voorkomt het afkapten van cruciale informatie in uw prompt.

Debuggen van streamingresponsen

Streaming via SSE levert tokens in realtime. Je moet het laatste chunk parseren om nauwkeurige tokenverbruiksstatistieken op te halen. De tokenverbruiksgegevens verschijnen alleen in het laatste chunk van de stream. Eerdere chunks bevatten alleen de contentdelta.

Implementeer een teller om het totale aantal verwerkte tokens bij te houden. Tel de input- en outputtokens van de laatste respons op. Dit zorgt voor nauwkeurige facturatie en gebruiksbijhouding. Verlaat je niet op partiële tellingen uit tussenliggende blokken. Deze geven niet het totale kostenplaatje van het verzoek weer.

JSON-modusfouten en validatie

JSON-modus dwingt strikte schemavalidatie af. U moet de parameter response_format instellen op json_object. Het model probeert geldige JSON uit te voeren. Fouten treden op als het schema slecht gevormd is of de uitvoer niet kan worden geparseerd.

Valideer je JSON-schema voordat je verzoeken verzendt. Zorg ervoor dat alle vereiste velden zijn gedefinieerd. Gebruik een linter om je schemasyntaxis te controleren. Dit vermindert validatiefouten en zorgt voor consistente uitvoer. Test eerst met kleine invoeren om het formaat te verifiëren.

Toolkeuze en function calling begrijpen

Function calling stelt het model in staat tools aan te roepen. Je kunt tool_choice specificeren om het gedrag te sturen. Het model retourneert gestructureerde data voor tool-executie. Dit maakt complexe workflows en integratie van externe data mogelijk.

Definieer je tools duidelijk in het verzoek. Geef beschrijvingen opgeven voor elke tool. Het model gebruikt deze beschrijvingen om te beslissen wanneer ze aan te roepen. Test de tooldefinities met verschillende invoer. Zorg dat de uitvoer overeenkomt met je verwachte formaat.

Rate Limits en gelijktijdige verzoeken

Elke sleutel is beperkt tot 300 verzoeken per minuut. Je kunt maximaal 8 gelijktijdige verzoeken uitvoeren. De grootte van de request body is beperkt tot 8 MB. Het overschrijden van deze limieten resulteert in een 429-fout.

Implementeer exponentiële backoff voor retries. Houd je gebruik in de gaten om binnen de limieten te blijven. Gebruik meerdere sleutels als je een hogere doorvoer nodig hebt. Dit zorgt voor soepele werking tijdens piekgebruik. Houd je aanvraagvolume bij om onverwachte onderbrekingen te voorkomen.

Prijsverrassingen: Invoer- vs. Uitvoertokens

Prijzen zijn $0,15 per 1M invoertokens en $0,50 per 1M uitvoertokens. Uitvoertokens zijn duurder. Lange antwoorden verhogen de kosten aanzienlijk. Houd je uitvoerlengte in de gaten om de uitgaven te beheersen.

Stel max_tokens in om de uitvoerlengte te beperken. Dit voorkomt onverwachte kosten door lange antwoorden. Volg je tokengebruik regelmatig. Gebruik de tokenverbruiksgegevens uit het laatste chunk om de kosten nauwkeurig te berekenen.

Crypto-betalingen en vervaldatum van krediet

Credit wordt alleen aangevuld met crypto. We accepteren USDT op TRC20 of USDC op Base. Het minimale bedrag voor een top-up is $20 en het maximum is $500. Credit vervalt nooit. Fouten zoals dubbele afschrijvingen worden opgelost via de Support-pagina.

Bonuscredit is van toepassing op hogere opwaarderingen. Je ontvangt een bonus van +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Fouten en weigeringen zijn gratis. Dit zorgt ervoor dat je alleen betaalt voor daadwerkelijk gebruik.