무엇입니까? 탈옥?

AI 시스템이 인간의 의도, 가치, 안전 제약에 따라 작동하도록 만드는 작업입니다.

AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.

프롬프트에 직접 제공된 예제의 패턴을 따르는 모델의 능력입니다.

모델의 의도된 용도, 지표, 제한 사항 및 위험을 설명하는 문서입니다.

생성 모델에 제공되는 입력 지침 및 컨텍스트입니다.

출력 품질, 신뢰성 및 제어 가능성을 향상시키기 위한 프롬프트를 설계합니다.