Thuật ngữ thuật ngữ AI

Luật mở rộng quy mô là gì?

Định nghĩa

Một mối quan hệ thực nghiệm cho thấy hiệu suất được cải thiện như thế nào với kích thước mô hình, dữ liệu hoặc tính toán.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Cửa sổ trượt Chú ýMột mẫu chú ý trong đó mỗi mã thông báo chỉ tham gia vào một cửa sổ có kích thước cố định của các mã thông báo lân cận để giảm tính toán.Tự chơiMột thiết lập đào tạo trong đó một mô hình được cải thiện bằng cách tạo ra dữ liệu thông qua tương tác hoặc cạnh tranh với các bản sao của chính nó.Tính minh bạch của thuật toánLogic, nguồn dữ liệu và các giới hạn của hệ thống AI được ghi lại và hiểu rõ ràng như thế nào.Trôi dữ liệuSự thay đổi dữ liệu đầu vào trong thế giới thực theo thời gian có thể làm giảm hiệu suất của mô hình.Khái quát hóaMô hình hoạt động tốt như thế nào trên dữ liệu mới, chưa được nhìn thấy bên ngoài tập huấn luyện.Độ dốcMột vectơ hiển thị mức độ thay đổi của mỗi tham số để giảm tổn thất.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

AI & LawAI in Law Enforcement and PolicingYaRN Context Window ScalingChinchilla Scaling Laws

Xem thêm

Safety FilterSemantic SearchRobustnessSelf-Supervised LearningReward ModelSentiment AnalysisRetrievalSmall Language Model (SLM)