Thuật ngữ thuật ngữ AI

Thanh toán dựa trên việc sử dụng là gì?

Định nghĩa

Định giá khi chi phí tăng theo lệnh gọi API, mã thông báo, thời gian suy luận hoặc điện toán tiêu thụ.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Tính toán thời gian suy luậnLượng năng lượng xử lý tiêu thụ trong khi tạo ra mỗi phản hồi.Tính toán thời gian thử nghiệmTính toán suy luận bổ sung được sử dụng trong quá trình tạo phản hồi để cải thiện chất lượng hoặc lý luận.Giải mã suy đoánMột phương pháp tăng tốc suy luận trong đó một mô hình dự thảo nhỏ đề xuất các mã thông báo mà một mô hình lớn hơn sẽ xác minh song song.Cửa sổ trượt Chú ýMột mẫu chú ý trong đó mỗi mã thông báo chỉ tham gia vào một cửa sổ có kích thước cố định của các mã thông báo lân cận để giảm tính toán.suy luậnGiai đoạn chạy trong đó mô hình được đào tạo tạo ra dự đoán hoặc kết quả đầu ra.RAG (Thế hệ tăng cường truy xuất)Một phương pháp truy xuất kiến thức bên ngoài và đưa nó vào thế hệ tại thời điểm suy luận.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Xem thêm

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop