Termin ze słownika AI

Czym jest Destylowany model?

Definicja

Mniejszy model wyszkolony do naśladowania zachowania większego modelu przy mniejszym wykorzystaniu mocy obliczeniowej przy wnioskowaniu.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Obliczanie czasu wnioskowaniaIlość mocy obliczeniowej zużywanej podczas generowania każdej odpowiedzi.Destylacja wiedzyTrenowanie mniejszego modelu w celu imitowania wyników większego modelu.WnioskowanieFaza środowiska uruchomieniowego, w której przeszkolony model generuje prognozy lub dane wyjściowe.PrzycinanieUsuwanie mniej ważnych wag modelu lub neuronów w celu zmniejszenia rozmiaru i obliczeń.Obliczanie czasu testuDodatkowe obliczenia wnioskowania wykorzystywane podczas generowania odpowiedzi w celu poprawy jakości lub rozumowania.Rozliczenia oparte na wykorzystaniuCeny, w których koszty skalują się w zależności od wywołań API, tokenów, czasu wnioskowania lub zużytych mocy obliczeniowych.

Dowiedz się więcej z naszych bezpłatnych przewodników

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Zobacz także

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness