什麼是 人工智慧對齊?

該領域專注於減少人工智慧系統中的有害行為、故障和誤用風險。

建構執行需要模式識別、推理、語言或決策的任務的系統的廣泛領域。

使系統更安全、更可控所需的時間、計算或產品速度的額外成本。

一種旨在繞過模型安全約束的提示技術。

一個假設的人工智慧系統，可以在許多領域以人類層級執行大多數智力任務。

人工添加的標籤或元資料用於訓練或評估機器學習模型。