AI 용어집

무엇입니까? 인간 선호 모델?

정의

사용자가 선호할 것 같은 응답을 예측하기 위해 인간 순위를 학습한 모델입니다.

관련 용어

인간 피드백을 통한 강화 학습(RLHF)
인간의 선호 신호를 사용하여 모델 행동을 형성하는 훈련 방법입니다.
인간 참여형
인간이 AI 출력을 검토, 안내 또는 재정의하는 워크플로입니다.
AGI(인공일반지능)
다양한 영역에 걸쳐 인간 수준에서 대부분의 지적 작업을 수행할 수 있는 가상의 AI 시스템입니다.
AI 정렬
AI 시스템이 인간의 의도, 가치, 안전 제약에 따라 작동하도록 만드는 작업입니다.
알고리즘 투명성
AI 시스템의 논리, 데이터 소스 및 제한 사항이 얼마나 명확하게 문서화되고 이해되는지.
주석
기계 학습 모델을 훈련하거나 평가하는 데 사용되는 사람이 추가한 레이블 또는 메타데이터입니다.

무료 가이드에서 자세히 알아보세요

AI Models ExplainedModel CollapseModel LifecycleHuman-AI Collaboration

See also

Guarded DecodingInference EndpointGroundednessKnowledge BaseFeature StoreLatent SpaceEval HarnessModel Registry
전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기