Apa itu pembobolan penjara?

Pekerjaan membuat sistem AI berperilaku sesuai dengan niat manusia, nilai-nilai, dan batasan keselamatan.

Bidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.

Kemampuan model untuk mengikuti pola dari contoh yang diberikan langsung di prompt.

Dokumentasi yang menjelaskan tujuan penggunaan model, metrik, batasan, dan risiko.

Instruksi masukan dan konteks diberikan ke model generatif.

Merancang petunjuk untuk meningkatkan kualitas keluaran, keandalan, dan kemampuan pengendalian.