What is Human Preference Model? Definition | AI Understanding

Definitie

Een model dat is getraind op menselijke ranglijsten om te voorspellen welke antwoorden gebruikers waarschijnlijk zullen verkiezen.

Gerelateerde termen

Versterkend leren van menselijke feedback (RLHF)

Een trainingsmethode die menselijke voorkeurssignalen gebruikt om modelgedrag vorm te geven.

Een workflow waarin mensen AI-uitvoer beoordelen, begeleiden of negeren.

AGI (kunstmatige algemene intelligentie)

Een hypothetisch AI-systeem dat de meeste intellectuele taken op menselijk niveau in vele domeinen kan uitvoeren.

Het werk om ervoor te zorgen dat AI-systemen zich gedragen in overeenstemming met menselijke bedoelingen, waarden en veiligheidsbeperkingen.

Algoritmische transparantie

Hoe duidelijk de logica, gegevensbronnen en beperkingen van een AI-systeem zijn gedocumenteerd en begrijpelijk.

Door mensen toegevoegde labels of metagegevens die worden gebruikt om machine learning-modellen te trainen of evalueren.

Lees meer in onze gratis handleidingen

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

See also

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

Blader door de volledige AI-woordenlijst Ontdek alle gratis AI-gidsen