คืออะไร การกลั่นกรองความรู้?

การบีบอัดความรู้จากโมเดลครูใหญ่ให้เป็นโมเดลนักเรียนตัวเล็ก

โมเดลขนาดเล็กได้รับการฝึกฝนให้เลียนแบบพฤติกรรมของโมเดลขนาดใหญ่ ในขณะที่ใช้การประมวลผลน้อยลงในการอนุมาน

จุดเวลาล่าสุดสะท้อนให้เห็นในข้อมูลการฝึกของโมเดล

แนวทางการฝึกอบรมที่ช่วยให้โมเดลสามารถเรียนรู้จากข้อมูลใหม่โดยไม่ลืมความรู้เดิม

ฝึกอบรมโมเดลด้วยตัวอย่างที่มีป้ายกำกับซึ่งจับคู่อินพุตกับเอาต์พุตที่ทราบ

แนวทางการฝึกอบรมและการกำหนดพฤติกรรมโดยที่ผลลัพธ์ของแบบจำลองได้รับการชี้นำโดยหลักการที่เป็นลายลักษณ์อักษรชุดตายตัว