API Suy luận Những sai lầm phổ biến: Hướng dẫn khắc phục sự cố

Tại sao mô hình không kiểm duyệt của bạn vẫn có thể từ chối

Mô hình không từ chối các chủ đề người trưởng thành hợp pháp, hư cấu, nghiên cứu bảo mật hoặc gây tranh cãi. Tuy nhiên, một giới hạn nội dung cứng luôn áp dụng đối với nội dung tình dục liên quan đến trẻ vị thành niên. Các yêu cầu chứa vi phạm cụ thể này sẽ bị từ chối ngay lập tức. Bộ lọc này khác biệt với các hàng rào bảo vệ an toàn tiêu chuẩn có trong các mô hình khác.

Kiểm tra đầu vào của bạn xem có các dấu hiệu tinh tế của các nhân vật vị thành niên trong bối cảnh tình dục không. Ngay cả khi mô hình không kiểm duyệt, ranh giới cụ thể này vẫn được thực thi. Tất cả các loại nội dung khác đều đi qua mà không bị từ chối. Điều này đảm bảo tuân thủ pháp lý trong khi vẫn duy trì sự tự do cho các trường hợp sử dụng khác.

Xử lý giới hạn token và cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh cho phép 100.000 token cho cả lời nhắc và hoàn thành kết hợp. Bạn phải theo dõi các token đầu vào để đảm bảo chúng không vượt quá giới hạn này khi kết hợp với đầu ra. Đầu ra tối đa mỗi yêu cầu là 16.000 token. Nếu bạn không đặt max_tokens, mặc định là 2.048 token.

Tính ngân sách của bạn cẩn thận. Tài liệu dài chiếm ngữ cảnh đáng kể. Nếu bạn vượt quá giới hạn, API sẽ trả về lỗi. Chia các đầu vào lớn thành các phần nhỏ hơn để duy trì hiệu suất. Điều này ngăn chặn việc cắt bớt thông tin quan trọng trong prompt của bạn.

Gỡ lỗi Phản hồi Streaming

Streaming qua SSE phân phối token theo thời gian thực. Bạn phải phân tích chunk cuối cùng để lấy thống kê sử dụng token chính xác. Dữ liệu sử dụng token chỉ xuất hiện trong chunk cuối cùng của luồng. Các chunk trước đó chỉ chứa phần delta nội dung.

Triển khai bộ đếm để theo dõi tổng số token đã xử lý. Cộng tổng số token đầu vào và đầu ra từ phản hồi cuối cùng. Điều này đảm bảo tính chính xác trong việc tính phí và theo dõi sử dụng. Không dựa vào các bộ đếm một phần từ các chunk trung gian. Chúng không phản ánh tổng chi phí của yêu cầu.

Lỗi và xác thực Chế độ JSON

Chế độ JSON áp dụng xác thực lược đồ nghiêm ngặt. Bạn phải đặt tham số response_format thành json_object. Mô hình cố gắng xuất ra JSON hợp lệ. Lỗi xảy ra nếu lược đồ bị lỗi cú pháp hoặc đầu ra không thể phân tích cú pháp.

Xác minh lược đồ JSON của bạn trước khi gửi yêu cầu. Đảm bảo tất cả các trường bắt buộc đã được xác định. Sử dụng bộ kiểm tra cú pháp để kiểm tra cú pháp lược đồ của bạn. Điều này giảm lỗi xác thực và đảm bảo đầu ra nhất quán. Hãy thử nghiệm với các đầu vào nhỏ trước để xác minh định dạng.

Hiểu về Lựa chọn Công cụ và Gọi Hàm

Gọi hàm cho phép mô hình gọi các công cụ. Bạn có thể chỉ định tool_choice để kiểm soát hành vi. Mô hình trả về dữ liệu có cấu trúc để thực thi công cụ. Điều này cho phép các quy trình làm việc phức tạp và tích hợp dữ liệu bên ngoài.

Xác định công cụ của bạn rõ ràng trong yêu cầu. Cung cấp mô tả cho từng công cụ. Mô hình sử dụng các mô tả này để quyết định khi nào gọi chúng. Kiểm tra các định nghĩa công cụ với nhiều đầu vào khác nhau. Đảm bảo đầu ra khớp với định dạng mong đợi của bạn.

Giới hạn tốc độ và yêu cầu đồng thời

Mỗi khóa API bị giới hạn ở 300 yêu cầu mỗi phút. Bạn có thể thực hiện tối đa 8 yêu cầu đồng thời. Kích thước thân yêu cầu được giới hạn ở 8 MB. Vượt quá các giới hạn này sẽ dẫn đến lỗi 429.

Triển khai cơ chế tăng dần thời gian chờ (exponential backoff) cho các lần thử lại. Theo dõi mức sử dụng để duy trì trong giới hạn. Sử dụng nhiều khóa nếu bạn cần thông lượng cao hơn. Điều này đảm bảo hoạt động mượt mà trong giờ cao điểm. Theo dõi khối lượng yêu cầu để tránh các gián đoạn không mong muốn.

Bất ngờ về giá: Token đầu vào so với token đầu ra

Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Token đầu ra đắt hơn. Các phản hồi dài làm tăng chi phí đáng kể. Theo dõi độ dài đầu ra của bạn để kiểm soát chi phí.

Đặt max_tokens để giới hạn độ dài đầu ra. Điều này ngăn các khoản phí không mong muốn từ các phản hồi dài. Theo dõi việc sử dụng token thường xuyên. Sử dụng dữ liệu sử dụng token từ chunk cuối cùng để tính toán chi phí chính xác.

Thanh toán Crypto và Hết hạn Tín dụng

Tín dụng chỉ được nạp bằng tiền điện tử. Chúng tôi chấp nhận USDT trên TRC20 hoặc USDC trên Base. Nạp tối thiểu là $20 và tối đa là $500. Tín dụng không bao giờ hết hạn. Các lỗi như tính phí trùng lặp sẽ được xử lý qua trang Hỗ trợ.

Bonus credit áp dụng cho các khoản nạp lớn. Bạn nhận được bonus +5% từ $50, +10% từ $100, và +15% từ $200. Lỗi và từ chối đều miễn phí. Điều này đảm bảo bạn chỉ trả tiền cho việc sử dụng thực tế.