Wat is LoRA (aanpassing op lage rang)?

Methoden die modellen aanpassen door een kleine subset van toegevoegde parameters te trainen.

Een verfijningstechniek die 4-bits gewichtskwantisering combineert met LoRA-adapters om de geheugenbehoeften te verminderen.

Voortdurende training over domeinspecifieke gegevens om een ​​vooraf getraind model aan te passen aan een specifieke taak.

Het verfijnen van een model op instructie-antwoordparen om het volgen van taken te verbeteren.

Een trainingsmethode die modellen rechtstreeks op voorkeursparen afstemt zonder dat een apart beloningsmodel nodig is.

Een regularisatiemethode die harde labels verzacht om de generalisatie te verbeteren.