Wat is Parameter-efficiënte fijnafstemming (PEFT)?

Voortdurende training over domeinspecifieke gegevens om een ​​vooraf getraind model aan te passen aan een specifieke taak.

Een parameter-efficiënte fijnafstemmingsmethode die adaptermatrices van lage rang toevoegt.

Trainingsstappen toegepast na de voortraining, zoals het afstemmen van instructies, het optimaliseren van voorkeuren en het afstemmen van de veiligheid.

Het verfijnen van een model op instructie-antwoordparen om het volgen van taken te verbeteren.

Een trainingshyperparameter die bepaalt hoeveel parameters elke updatestap wijzigen.

Een trainingsmethode die modellen rechtstreeks op voorkeursparen afstemt zonder dat een apart beloningsmodel nodig is.