Wat is Modelkwantisering?

Modelgewichten converteren naar formaten met een lagere precisie, zoals 8-bit of 4-bit.

Een verfijningstechniek die 4-bits gewichtskwantisering combineert met LoRA-adapters om de geheugenbehoeften te verminderen.

Een geoptimaliseerd aandachtsalgoritme dat het geheugengebruik vermindert en de training en gevolgtrekking van transformatoren versnelt.

Opgeslagen context die een AI-agent in stappen of sessies gebruikt om de continuïteit te verbeteren.

Een softwaresysteem dat kan observeren, redeneren en actie kan ondernemen om een doel te bereiken, vaak met behulp van tools en geheugen.

Een vakgebied dat zich richt op het verminderen van schadelijk gedrag, mislukkingen en misbruikrisico's in AI-systemen.