Thuật ngữ thuật ngữ AI

Lượng tử hóa mô hình là gì?

Định nghĩa

Giảm độ chính xác về số của trọng số mô hình để giảm chi phí bộ nhớ và suy luận.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Lượng tử hóaChuyển đổi trọng số mô hình sang các định dạng có độ chính xác thấp hơn như 8 bit hoặc 4 bit.QLoRAMột kỹ thuật tinh chỉnh kết hợp lượng tử hóa trọng lượng 4 bit với bộ điều hợp LoRA để giảm nhu cầu bộ nhớ.Chú ý chớp nhoángMột thuật toán chú ý được tối ưu hóa giúp giảm mức sử dụng bộ nhớ và tăng tốc quá trình đào tạo và suy luận của máy biến áp.Bộ nhớ (Bộ nhớ tác nhân)Bối cảnh được lưu trữ mà tác nhân AI sử dụng qua các bước hoặc phiên để cải thiện tính liên tục.Đặc vụ AIMột hệ thống phần mềm có thể quan sát, suy luận và thực hiện các hành động để đạt được mục tiêu, thường sử dụng các công cụ và bộ nhớ.An toàn AIMột lĩnh vực tập trung vào việc giảm các hành vi có hại, lỗi và rủi ro lạm dụng trong hệ thống AI.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Xem thêm

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)