Apa itu Model Bahasa Kecil (SLM)?

Metode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.

Tokenizer tanpa bahasa yang mempelajari unit subkata langsung dari teks mentah tanpa terlebih dahulu membagi spasi.

Bidang luas dalam membangun sistem yang melakukan tugas yang memerlukan pengenalan pola, penalaran, bahasa, atau pengambilan keputusan.

Jumlah maksimum token masukan yang dapat diproses model bahasa sekaligus.

Arsitektur saraf yang dioptimalkan untuk memproses data seperti grid seperti gambar.

Mempelajari atau mengadaptasi perilaku hanya dari sejumlah kecil contoh.