Apple nghiên cứu báo cáo luật mở rộng cho các mô hình huấn luyện với dữ liệu hạn chế
Một nghiên cứu hơn 2.000 lần huấn luyện mô hình ngôn ngữ cho thấy dữ liệu mục tiêu khan hiếm có thể được lặp lại 15–20 lần trong các hỗn hợp, với tốc độ tốt nhất thay đổi theo quy mô và khả năng tính toán.