Ce este Modelul preferințelor umane?

O metodă de antrenament care utilizează semnale de preferințe umane pentru a modela comportamentul modelului.

Un flux de lucru în care oamenii revizuiesc, ghidează sau suprascriu ieșirile AI.

Un sistem AI ipotetic care poate îndeplini majoritatea sarcinilor intelectuale la nivel uman în multe domenii.

Lucrarea de a face sistemele AI să se comporte conform intențiilor umane, valorilor și constrângerilor de siguranță.

Cât de clar sunt documentate și de înțeles logica, sursele de date și limitările unui sistem AI.

Etichete sau metadate adăugate de oameni utilizate pentru a instrui sau evalua modele de învățare automată.