Apa itu Penyulingan Pengetahuan?

Mengompresi pengetahuan dari model guru yang besar menjadi model siswa yang lebih kecil.

Model yang lebih kecil dilatih untuk meniru perilaku model yang lebih besar sambil menggunakan lebih sedikit komputasi pada inferensi.

Titik waktu terakhir yang tercermin dalam data pelatihan model.

Pendekatan pelatihan yang memungkinkan model terus belajar dari data baru tanpa melupakan pengetahuan sebelumnya.

Melatih model dengan contoh berlabel yang memetakan masukan ke keluaran yang diketahui.

Pendekatan pelatihan dan pembentukan perilaku di mana keluaran model dipandu oleh serangkaian prinsip tertulis yang tetap.