What is Distillation? Definition | AI Understanding

Definisi

Memampatkan pengetahuan daripada model guru yang besar kepada model pelajar yang lebih kecil.

Istilah berkaitan

Penyulingan Pengetahuan

Melatih model yang lebih kecil untuk meniru keluaran model yang lebih besar.

Pembelajaran Berterusan

Pendekatan latihan yang membolehkan model terus belajar daripada data baharu tanpa melupakan pengetahuan terdahulu.

RAG (Retrieval-Augmented Generation)

Kaedah yang mendapatkan semula pengetahuan luaran dan menyalurkannya kepada generasi pada masa inferens.

Pengambilan semula

Mencari dokumen atau rekod yang berkaitan daripada sumber pengetahuan untuk pertanyaan.

Rekod dari mana data datang, cara ia diubah, dan dari mana ia digunakan.

Privasi Berbeza

Teknik privasi yang menambah bunyi statistik supaya rekod individu tidak boleh disimpulkan dengan pasti daripada output.

Ketahui lebih lanjut dalam panduan percuma kami

DINO Self-Distillation DreamFusion and Score Distillation Sampling Knowledge Distillation

See also

Diffusion Model Domain Adaptation Deep Learning Embedding Decision Tree Encoder Decision Boundary Ensemble

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma