AI 용어집

탈옥(이)란?

정의

모델의 안전 제약을 우회하기 위한 신속한 기술입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

AI 정렬AI 시스템이 인간의 의도, 가치, 안전 제약에 따라 작동하도록 만드는 작업입니다.AI 안전AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.상황에 맞는 학습프롬프트에 직접 제공된 예제의 패턴을 따르는 모델의 능력입니다.모델 카드모델의 의도된 용도, 지표, 제한 사항 및 위험을 설명하는 문서입니다.프롬프트생성 모델에 제공되는 입력 지침 및 컨텍스트입니다.Prompt Engineering출력 품질, 신뢰성 및 제어 가능성을 향상시키기 위한 프롬프트를 설계합니다.

무료 가이드에서 자세히 알아보세요

Jailbreaking and Red-Teaming

또한보십시오

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing