Termin ze słownika AI

Czym jest Kwantyzacja modelu?

Definicja

Zmniejszenie precyzji numerycznej wag modeli w celu zmniejszenia kosztów pamięci i wnioskowania.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

KwantyzacjaKonwertowanie wag modeli na formaty o niższej precyzji, takie jak 8-bitowe lub 4-bitowe.QLoRATechnika dostrajania, która łączy 4-bitową kwantyzację wagi z adapterami LoRA w celu zmniejszenia zapotrzebowania na pamięć.Błyskawiczna uwagaZoptymalizowany algorytm uwagi, który zmniejsza zużycie pamięci i przyspiesza uczenie i wnioskowanie transformatora.Pamięć (pamięć agenta)Przechowywany kontekst, którego agent AI używa na różnych etapach lub sesjach, aby poprawić ciągłość.Agent AISystem oprogramowania, który potrafi obserwować, rozumować i podejmować działania, aby osiągnąć cel, często przy użyciu narzędzi i pamięci.Bezpieczeństwo AIDziedzina skupiająca się na ograniczaniu szkodliwych zachowań, awarii i ryzyka niewłaściwego użycia w systemach AI.

Dowiedz się więcej z naszych bezpłatnych przewodników

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Zobacz także

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)