What is Distilled Model? Definition | AI Understanding

Meghatározás

Egy kisebb modell egy nagyobb modell viselkedésének utánzására lett kiképezve, miközben kevesebb számítást használ a következtetéshez.

Kapcsolódó kifejezések

Következtetés-idő számítás

Az egyes válaszok előállítása során felhasznált feldolgozási teljesítmény mennyisége.

Tudáslepárlás

Kisebb modell betanítása egy nagyobb modell kimeneteinek utánzására.

Következtetés

Az a futásidejű fázis, amelyben egy betanított modell előrejelzéseket vagy kimeneteket generál.

A kevésbé fontos modellsúlyok vagy neuronok eltávolítása a méret csökkentése és a számítás érdekében.

Tesztidő számítása

A válaszgenerálás során a minőség vagy az érvelés javítása érdekében használt további következtetési számítások.

Használat alapú számlázás

Árképzés, ahol a költségek skálázódnak API-hívásokkal, tokenekkel, következtetési idővel vagy felhasznált számítással.

Tudjon meg többet ingyenes útmutatóinkból

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót