Học ít lần
Học ít lần là khả năng học một nhiệm vụ mới chỉ từ một số ít ví dụ thay vì hàng nghìn.
Tổng quan
Nó quan trọng vì nó phản ánh cách con người khái quát hóa và cho phép AI hiện đại thích ứng ngay lập tức mà không cần đào tạo lại tốn kém.
Lặn sâu
Học máy truyền thống cần các tập dữ liệu được gắn nhãn khổng lồ, nhưng học tập ít lần nhằm mục đích hoạt động tốt sau khi chỉ xem một vài ví dụ cho mỗi lớp. Các mô hình ngôn ngữ lớn đã phổ biến việc học vài lần trong ngữ cảnh: bạn đặt một vài ví dụ đầu vào-đầu ra trực tiếp vào lời nhắc, sau đó mô hình sẽ suy ra mẫu và áp dụng nó cho đầu vào mới, tất cả đều không cập nhật trọng số của nó. Thuật ngữ này xuất phát từ việc đếm các ví dụ được hiển thị, thường được viết dưới dạng N-way K-shot (N lớp, K ví dụ mỗi lớp). Không phát có nghĩa là không có ví dụ, một phát có nghĩa là một và phát ít có nghĩa là hai đến vài chục. Điều này hiệu quả vì mô hình đã tiếp thu các mẫu rộng trong quá trình đào tạo trước, vì vậy một số ví dụ chủ yếu đưa ra gợi ý nên sử dụng kỹ năng hiện có nào.
Hiểu biết kỹ thuật
Việc học vài lần trong ngữ cảnh dựa vào các ví dụ đọc biến áp trong lời nhắc và sử dụng sự chú ý để khớp các mẫu mà không cần cập nhật độ dốc hoặc thay đổi trọng số. Các ví dụ đưa ra dự đoán mã thông báo tiếp theo của mô hình cho đầu vào mới. Thay vào đó, một nhóm riêng biệt, các phương pháp dựa trên số liệu như mạng nguyên mẫu và mạng đối sánh sẽ tìm hiểu một không gian nhúng trong đó bạn so sánh mẫu mới với mức trung bình của một vài ví dụ của mỗi lớp và chọn mẫu gần nhất. Cả hai tuyến đều khai thác việc học trước để các nhãn khan hiếm có thể đi được một chặng đường dài.
Tác động chiến lược
Quyết định rõ ràng hơn
Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
Chi phí và ngân sách
Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
Nhóm và quy trình làm việc
Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
Tương lai của việc học ít lần
Học ít lần đang trở thành cách mặc định mà mọi người sử dụng các mô hình lớn, do đó, Frontier đang làm cho nó trở nên đáng tin cậy hơn: lựa chọn, sắp xếp và truy xuất ví dụ tốt hơn để nhắc nhở tự động chọn các minh họa hữu ích nhất. Mong đợi sự tích hợp chặt chẽ hơn với khả năng truy xuất và cửa sổ ngữ cảnh dài hơn để phù hợp với nhiều ví dụ hơn, cùng với việc nghiên cứu lý do tại sao thứ tự ví dụ và định dạng có độ chính xác xoay nhiều đến vậy. Khi các mô hình được cải thiện, khoảng cách giữa không chụp và ít ảnh sẽ thu hẹp lại đối với các tác vụ dễ dàng, trong khi ít ảnh vẫn có giá trị đối với các định dạng chuyên biệt và các trường hợp phức tạp.
Triển khai trong thế giới thực
Phân loại yêu cầu hỗ trợ khách hàng thành các danh mục sau khi chỉ hiển thị mô hình ba hoặc bốn ví dụ được gắn nhãn của từng danh mục trong lời nhắc.
Dạy chatbot một định dạng đầu ra cụ thể (như JSON với các trường được đặt tên) bằng cách đưa ra hai hoặc ba cặp đầu vào-đầu ra mẫu.
Xác định một lỗi sản xuất hiếm gặp chỉ từ một số mẫu được chụp ảnh bằng mạng nguyên mẫu trong hệ thống thị giác.
Điều chỉnh phong cách dịch thuật hoặc tóm tắt để phù hợp với giọng điệu của thương hiệu bằng cách đưa một số ví dụ trước và sau vào yêu cầu.
Rủi ro & lan can
Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Lộ trình thực hiện
Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
Ghi lại những chỗ Học tập ít lần sẽ hữu ích và những chỗ mà các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Few-Shot Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Chuyển tiếp học tập
Câu hỏi thường gặp
Học ít lần là gì?
Học ít lần là khả năng học một nhiệm vụ mới chỉ từ một số ít ví dụ thay vì hàng nghìn. Nó quan trọng vì nó phản ánh cách con người khái quát hóa và cho phép AI hiện đại thích ứng ngay lập tức mà không cần đào tạo lại tốn kém.
Trong ký hiệu 'N-way K-shot', K ám chỉ điều gì?
K là số lượng ví dụ được đưa ra cho mỗi lớp, trong khi N là số lượng lớp (“các cách”).
Khi một mô hình ngôn ngữ lớn thực hiện việc học vài lần trong ngữ cảnh từ một lời nhắc, điều gì sẽ xảy ra với trọng số của nó?
Học trong ngữ cảnh không thực hiện cập nhật độ dốc; các ví dụ trong lời nhắc chỉ hướng dẫn dự đoán mã thông báo tiếp theo của mô hình.
Sự khác biệt chính giữa nhắc nhở không bắn và nhắc ít bắn là gì?
Zero-shot chỉ đưa ra hướng dẫn mà không có ví dụ, trong khi few-shot bao gồm một số minh họa.
Tại sao một vài ví dụ có thể đủ để một mô hình được huấn luyện trước lớn có thể thực hiện tốt một nhiệm vụ mới?
Kiến thức rộng từ quá trình đào tạo trước có nghĩa là một số phần trình diễn chủ yếu báo hiệu khả năng sử dụng hiện có thay vì dạy từ đầu.
Điều nào mô tả phương pháp chụp vài lần dựa trên số liệu giống như mạng nguyên mẫu?
Mạng nguyên mẫu tạo thành một nguyên mẫu (mức độ nhúng trung bình) cho mỗi lớp và phân loại các điểm mới theo nguyên mẫu gần nhất trong không gian đã học.