What is Red Teaming? Definition | AI Understanding

정의

실패와 위험을 밝히기 위해 적대적인 메시지를 사용하여 AI 시스템의 스트레스 테스트를 수행합니다.

관련 용어

AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.

추천 시스템

콘텐츠 또는 제품 순위에 대한 사용자 선호도를 예측하는 모델 파이프라인입니다.

소음, 교대 또는 적대적인 입력 하에서 성능을 유지하는 모델의 능력입니다.

AGI(인공일반지능)

다양한 영역에 걸쳐 인간 수준에서 대부분의 지적 작업을 수행할 수 있는 가상의 AI 시스템입니다.

AI 에이전트

종종 도구와 메모리를 사용하여 목표를 달성하기 위해 관찰하고, 추론하고, 조치를 취할 수 있는 소프트웨어 시스템입니다.

알고리즘 투명성

AI 시스템의 논리, 데이터 소스 및 제한 사항이 얼마나 명확하게 문서화되고 이해되는지.

무료 가이드에서 자세히 알아보세요

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

전체 AI 용어집 찾아보기 무료 AI 가이드 모두 살펴보기