What is Human Preference Model? Definition | AI Understanding

Definicja

Model wyszkolony na podstawie rankingów ludzkich w celu przewidywania, które odpowiedzi będą prawdopodobnie preferowane przez użytkowników.

Powiązane terminy

Uczenie się przez wzmocnienie na podstawie informacji zwrotnej od ludzi (RLHF)

Metoda szkoleniowa wykorzystująca sygnały preferencji ludzkich do kształtowania zachowań modelu.

Człowiek w pętli

Przepływ pracy, w którym ludzie przeglądają, kierują lub zastępują wyniki AI.

AGI (sztuczna inteligencja ogólna)

Hipotetyczny system sztucznej inteligencji, który może wykonywać większość zadań intelektualnych na poziomie człowieka w wielu dziedzinach.

Praca nad zapewnieniem, aby systemy AI zachowywały się zgodnie z ludzkimi intencjami, wartościami i ograniczeniami bezpieczeństwa.

Przejrzystość algorytmiczna

Jak jasno logika, źródła danych i ograniczenia systemu AI są udokumentowane i zrozumiałe.

Etykiety lub metadane dodane przez człowieka używane do uczenia lub oceniania modeli uczenia maszynowego.

Dowiedz się więcej z naszych bezpłatnych przewodników

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

Zobacz także

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI