とは何ですか セーフティフィルター?

入力を既知の出力にマッピングするラベル付きの例を使用してモデルをトレーニングします。

AI システムが定義された使用状況において安全であるという、証拠によって裏付けられた構造化された議論。

AI システムを人間の意図、価値観、安全上の制約に従って動作させる作業。

AI システムにおける有害な動作、障害、誤用のリスクを軽減することに重点を置いた分野。

歪んだデータ、仮定、またはモデリングの選択によって引き起こされるモデル出力の体系的な不公平。

教師あり学習のために生データにタグまたはターゲット出力を割り当てるプロセス。