Apa itu Kuantisasi Model?

Mengonversi bobot model ke format presisi lebih rendah seperti 8-bit atau 4-bit.

Teknik penyempurnaan yang menggabungkan kuantisasi bobot 4-bit dengan adaptor LoRA untuk mengurangi kebutuhan memori.

Algoritme perhatian yang dioptimalkan yang mengurangi penggunaan memori dan mempercepat pelatihan transformator dan inferensi.

Konteks tersimpan yang digunakan agen AI di seluruh langkah atau sesi untuk meningkatkan kontinuitas.

Sebuah sistem perangkat lunak yang dapat mengamati, menalar, dan mengambil tindakan untuk mencapai suatu tujuan, sering kali menggunakan alat dan memori.

Bidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.