Apa itu Model Jarang?

Kebijakan di mana muatan permintaan/respons tidak disimpan setelah pemrosesan di luar jangka waktu operasional yang berumur pendek.

Pola perhatian di mana setiap token hanya memperhatikan jendela berukuran tetap dari token terdekat untuk mengurangi komputasi.

Pola serangan di mana instruksi berbahaya dimasukkan ke dalam input model atau konten yang diambil.

Pendekatan pelatihan dan pembentukan perilaku di mana keluaran model dipandu oleh serangkaian prinsip tertulis yang tetap.

Ruang representasi terkompresi di mana konsep-konsep serupa diposisikan berdekatan satu sama lain sebagai vektor.

Metode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.