What is Distilled Model? Definition | AI Understanding

Definisi

Model yang lebih kecil dilatih untuk meniru tingkah laku model yang lebih besar sambil menggunakan kurang pengiraan pada inferens.

Istilah berkaitan

Pengiraan Masa Inferens

Jumlah kuasa pemprosesan yang digunakan semasa menghasilkan setiap tindak balas.

Penyulingan Pengetahuan

Melatih model yang lebih kecil untuk meniru keluaran model yang lebih besar.

Fasa masa jalan di mana model terlatih menjana ramalan atau output.

Mengalih keluar pemberat model atau neuron yang kurang penting untuk mengurangkan saiz dan mengira.

Pengiraan Masa Ujian

Pengiraan inferens tambahan yang digunakan semasa penjanaan tindak balas untuk meningkatkan kualiti atau penaakulan.

Pengebilan Berdasarkan Penggunaan

Penetapan harga dengan skala kos dengan panggilan API, token, masa inferens atau pengiraan yang digunakan.

Ketahui lebih lanjut dalam panduan percuma kami

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma