Hva er Menneskelig preferansemodell?

En treningsmetode som bruker menneskelige preferansesignaler for å forme modellatferd.

En arbeidsflyt der mennesker gjennomgår, veileder eller overstyrer AI-utdata.

Et hypotetisk AI-system som kan utføre de fleste intellektuelle oppgaver på menneskelig nivå på tvers av mange domener.

Arbeidet med å få AI-systemer til å oppføre seg i henhold til menneskelige intensjoner, verdier og sikkerhetsbegrensninger.

Hvor tydelig et AI-systems logikk, datakilder og begrensninger er dokumentert og forståelig.

Etiketter eller metadata som er lagt til mennesker, brukes til å trene eller evaluere maskinlæringsmodeller.