什麼是 人類偏好模型?

一種使用人類偏好訊號來塑造模型行為的訓練方法。

人類審查、指導或涵蓋人工智慧輸出的工作流程。

一個假設的人工智慧系統，可以在許多領域以人類層級執行大多數智力任務。

讓人工智慧系統按照人類意圖、價值觀和安全約束行事的工作。

人工智慧系統的邏輯、資料來源和限制的記錄和理解有多清晰。

人工添加的標籤或元資料用於訓練或評估機器學習模型。