What is Human Preference Model? Definition | AI Understanding

Definisi

Sebuah model yang dilatih berdasarkan peringkat manusia untuk memprediksi respons mana yang mungkin disukai pengguna.

Istilah terkait

Pembelajaran Penguatan dari Umpan Balik Manusia (RLHF)

Sebuah metode pelatihan yang menggunakan sinyal preferensi manusia untuk membentuk perilaku model.

Manusia dalam Lingkaran

Alur kerja tempat manusia meninjau, memandu, atau mengesampingkan keluaran AI.

AGI (Kecerdasan Umum Buatan)

Sistem AI hipotetis yang dapat melakukan sebagian besar tugas intelektual pada tingkat manusia di banyak domain.

Penyelarasan AI

Pekerjaan membuat sistem AI berperilaku sesuai dengan niat manusia, nilai-nilai, dan batasan keselamatan.

Transparansi Algoritmik

Seberapa jelas logika, sumber data, dan batasan sistem AI didokumentasikan dan dapat dipahami.

Label atau metadata yang ditambahkan manusia digunakan untuk melatih atau mengevaluasi model pembelajaran mesin.

Pelajari lebih lanjut di panduan gratis kami

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

See also

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis