Thuật ngữ thuật ngữ AI

Độ dốc là gì?

Định nghĩa

Một vectơ hiển thị mức độ thay đổi của mỗi tham số để giảm tổn thất.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Tỷ lệ học tậpSiêu tham số huấn luyện kiểm soát số lượng tham số thay đổi trong mỗi bước cập nhật.Luật mở rộng quy môMột mối quan hệ thực nghiệm cho thấy hiệu suất được cải thiện như thế nào với kích thước mô hình, dữ liệu hoặc tính toán.Cửa sổ trượt Chú ýMột mẫu chú ý trong đó mỗi mã thông báo chỉ tham gia vào một cửa sổ có kích thước cố định của các mã thông báo lân cận để giảm tính toán.GAN (Mạng đối thủ sáng tạo)Một thiết lập tổng quát trong đó người tạo và người phân biệt đối xử với nhau.Khái quát hóaMô hình hoạt động tốt như thế nào trên dữ liệu mới, chưa được nhìn thấy bên ngoài tập huấn luyện.Giảm dần độ dốcMột phương pháp tối ưu hóa cập nhật các tham số theo hướng giảm lỗi.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Xem thêm

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning