什麼是護欄？

該領域專注於減少人工智慧系統中的有害行為、故障和誤用風險。

計算機為解決問題或完成任務而遵循的一組定義的規則或步驟。

數據或模型行為中一致的錯誤或不公平模式。

模型的行為可以被解釋和解釋給人類的程度。

僅從少量範例中學習或適應行為。

一種使用人類偏好訊號來塑造模型行為的訓練方法。