Istilah Glosari AI

Apakah Kuantiti Model?

Definisi

Mengurangkan ketepatan berangka berat model untuk mengurangkan kos ingatan dan inferens.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

KuantisasiMenukar pemberat model kepada format ketepatan yang lebih rendah seperti 8-bit atau 4-bit.QLoRATeknik penalaan halus yang menggabungkan pengkuantitian berat 4-bit dengan penyesuai LoRA untuk mengurangkan keperluan memori.Perhatian KilatAlgoritma perhatian yang dioptimumkan yang mengurangkan penggunaan memori dan mempercepatkan latihan dan inferens transformer.Memori (Memori Agen)Konteks tersimpan yang digunakan ejen AI merentas langkah atau sesi untuk meningkatkan kesinambungan.Ejen AISistem perisian yang boleh memerhati, menaakul dan mengambil tindakan untuk mencapai matlamat, selalunya menggunakan alatan dan ingatan.Keselamatan AIBidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.

Ketahui lebih lanjut dalam panduan percuma kami

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Lihat juga

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)