Was ist Leitplanken?

Ein Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.

Ein definierter Satz von Regeln oder Schritten, die ein Computer befolgt, um ein Problem zu lösen oder eine Aufgabe abzuschließen.

Ein konsistentes Muster von Fehlern oder Ungerechtigkeiten im Daten- oder Modellverhalten.

Der Grad, in dem das Verhalten eines Modells für Menschen interpretiert und erklärt werden kann.

Verhalten aus nur wenigen Beispielen lernen oder anpassen.

Eine Trainingsmethode, die menschliche Präferenzsignale nutzt, um Modellverhalten zu formen.