cái gì là QLoRA?

Một phương pháp tinh chỉnh tham số hiệu quả bằng cách thêm các ma trận bộ điều hợp cấp thấp.

Chuyển đổi trọng số mô hình sang các định dạng có độ chính xác thấp hơn như 8 bit hoặc 4 bit.

Tiếp tục đào tạo về dữ liệu theo miền cụ thể để điều chỉnh mô hình được đào tạo trước cho phù hợp với một nhiệm vụ cụ thể.

Tinh chỉnh mô hình trên các cặp lệnh-phản hồi để cải thiện việc thực hiện nhiệm vụ.

Giảm độ chính xác về số của trọng số mô hình để giảm chi phí bộ nhớ và suy luận.

Các phương pháp điều chỉnh mô hình bằng cách huấn luyện một tập hợp con các tham số được thêm vào.