What is Human Preference Model? Definition | AI Understanding

Визначення

Модель, навчена на людському рейтингу, щоб передбачити, яким відповідям користувачі, швидше за все, віддадуть перевагу.

Споріднені терміни

Навчання з підкріпленням на основі зворотного зв’язку людини (RLHF)

Метод навчання, який використовує сигнали переваг людини для формування модельної поведінки.

Людина в циклі

Робочий процес, у якому люди переглядають, направляють або скасовують результати ШІ.

AGI (загальний штучний інтелект)

Гіпотетична система ШІ, яка може виконувати більшість інтелектуальних завдань на рівні людини в багатьох сферах.

Вирівнювання AI

Робота над тим, щоб системи штучного інтелекту вели себе відповідно до людських намірів, цінностей і обмежень безпеки.

Алгоритмічна прозорість

Наскільки чітко задокументовані та зрозумілі логіка системи ШІ, джерела даних і обмеження.

Анотація

Мітки або метадані, додані людиною, використовуються для навчання або оцінки моделей машинного навчання.

Дізнайтеся більше в наших безкоштовних посібниках

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

See also

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту