What is Human Preference Model? Definition | AI Understanding

定義

人間のランキングに基づいてトレーニングされたモデルは、ユーザーがどの応答を好む可能性が高いかを予測します。

関連用語

ヒューマンフィードバックからの強化学習 (RLHF)

人間の好みの信号を使用してモデルの動作を形成するトレーニング方法。

人間参加型

人間が AI 出力をレビュー、ガイド、またはオーバーライドするワークフロー。

AGI (汎用人工知能)

多くの領域にわたって人間レベルでほとんどの知的タスクを実行できる仮説的な AI システム。

AI システムを人間の意図、価値観、安全上の制約に従って動作させる作業。

アルゴリズムの透明性

AI システムのロジック、データソース、制限がどの程度明確に文書化され、理解しやすいか。

機械学習モデルのトレーニングまたは評価に使用される人間が追加したラベルまたはメタデータ。

無料ガイドで詳細をご覧ください

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

See also

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

AI 用語集の全文を閲覧するすべての無料 AI ガイドを確認する