Was ist Menschliches Präferenzmodell?

Eine Trainingsmethode, die menschliche Präferenzsignale nutzt, um Modellverhalten zu formen.

Ein Arbeitsablauf, bei dem Menschen KI-Ausgaben überprüfen, steuern oder überschreiben.

Ein hypothetisches KI-System, das die meisten intellektuellen Aufgaben in vielen Bereichen auf menschlicher Ebene ausführen kann.

Die Arbeit, KI-Systeme dazu zu bringen, sich entsprechend den Absichten, Werten und Sicherheitsbeschränkungen des Menschen zu verhalten.

Wie klar die Logik, Datenquellen und Einschränkungen eines KI-Systems dokumentiert und verständlich sind.

Vom Menschen hinzugefügte Bezeichnungen oder Metadaten, die zum Trainieren oder Bewerten von Modellen für maschinelles Lernen verwendet werden.