Thuật ngữ thuật ngữ AI

Cắt tỉa là gì?

Định nghĩa

Loại bỏ các trọng số hoặc nơ-ron mô hình ít quan trọng hơn để giảm kích thước và tính toán.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Cửa sổ trượt Chú ýMột mẫu chú ý trong đó mỗi mã thông báo chỉ tham gia vào một cửa sổ có kích thước cố định của các mã thông báo lân cận để giảm tính toán.Luật mở rộng quy môMột mối quan hệ thực nghiệm cho thấy hiệu suất được cải thiện như thế nào với kích thước mô hình, dữ liệu hoặc tính toán.Mẫu chưng cấtMột mô hình nhỏ hơn được đào tạo để bắt chước hành vi của mô hình lớn hơn trong khi sử dụng ít tính toán hơn khi suy luận.Lan truyền ngượcThuật toán đào tạo cốt lõi cập nhật trọng số mô hình bằng cách truyền ngược các lỗi dự đoán qua mạng.Tính toánCác tài nguyên xử lý cần thiết để đào tạo và chạy các mô hình, thường được đo bằng FLOPS hoặc số giờ GPU.Độ dốcMột vectơ hiển thị mức độ thay đổi của mỗi tham số để giảm tổn thất.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

Attention Rollout and Head PruningStructured Pruning and Layer DroppingModel Pruning

Xem thêm

Prompt InjectionQuantizationPrompt EngineeringRAG (Retrieval-Augmented Generation)PromptRecallPretrainingRecommendation System