とは何ですか ガードレール?

AI システムにおける有害な動作、障害、誤用のリスクを軽減することに重点を置いた分野。

問題を解決したりタスクを完了したりするためにコンピュータが従う、定義された一連のルールまたは手順。

データまたはモデルの動作におけるエラーまたは不公平性の一貫したパターン。

モデルの動作を人間にどの程度解釈して説明できるか。

ほんの少数の例から行動を学習または適応すること。

人間の好みの信号を使用してモデルの動作を形成するトレーニング方法。