Thuật ngữ thuật ngữ AI

Đào tạo trước là gì?

Định nghĩa

Đào tạo mô hình quy mô lớn ban đầu trên dữ liệu rộng trước khi thích ứng ở hạ lưu.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Sau đào tạoCác bước đào tạo được áp dụng sau khi đào tạo trước, chẳng hạn như điều chỉnh hướng dẫn, tối ưu hóa tùy chọn và điều chỉnh an toàn.Dữ liệu lớnCác bộ dữ liệu rất lớn và phức tạp đòi hỏi các kỹ thuật xử lý và lưu trữ có thể mở rộng.Học tập liên tụcCác phương pháp đào tạo cho phép mô hình tiếp tục học hỏi từ dữ liệu mới mà không quên kiến thức trước đó.Tăng cường dữ liệuCác kỹ thuật tạo ra các ví dụ đào tạo đã được sửa đổi để cải thiện việc khái quát hóa mô hình.Tinh chỉnhTiếp tục đào tạo về dữ liệu theo miền cụ thể để điều chỉnh mô hình được đào tạo trước cho phù hợp với một nhiệm vụ cụ thể.Mô hình nền móngMột mô hình được đào tạo trước lớn có thể thích ứng với nhiều nhiệm vụ tiếp theo.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

Xem thêm

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning