Apa itu Penyelarasan AI?

Bidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.

Bidang luas dalam membangun sistem yang melakukan tugas yang memerlukan pengenalan pola, penalaran, bahasa, atau pengambilan keputusan.

Biaya tambahan dalam waktu, komputasi, atau kecepatan produk yang diperlukan untuk membuat sistem lebih aman dan terkendali.

Teknik cepat yang dimaksudkan untuk melewati batasan keamanan model.

Sistem AI hipotetis yang dapat melakukan sebagian besar tugas intelektual pada tingkat manusia di banyak domain.

Label atau metadata yang ditambahkan manusia digunakan untuk melatih atau mengevaluasi model pembelajaran mesin.