AI 용어집

난간(이)란?

정의

안전하지 않거나 바람직하지 않은 모델 동작을 제한하는 규칙, 검사 및 제어입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

AI 안전AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.알고리즘문제를 해결하거나 작업을 완료하기 위해 컴퓨터가 따르는 정의된 규칙 또는 단계 세트입니다.편견데이터 또는 모델 동작의 일관된 오류 또는 불공정 패턴입니다.설명 가능성모델의 행동이 인간에게 해석되고 설명될 수 있는 정도입니다.퓨샷 학습소수의 사례를 통해 행동을 학습하거나 적용합니다.인간 피드백을 통한 강화 학습(RLHF)인간의 선호 신호를 사용하여 모델 행동을 형성하는 훈련 방법입니다.

무료 가이드에서 자세히 알아보세요

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

또한보십시오

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning