AI 용어집

레드팀(이)란?

정의

실패와 위험을 밝히기 위해 적대적인 메시지를 사용하여 AI 시스템의 스트레스 테스트를 수행합니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

AI 안전AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.추천 시스템콘텐츠 또는 제품 순위에 대한 사용자 선호도를 예측하는 모델 파이프라인입니다.견고성소음, 교대 또는 적대적인 입력 하에서 성능을 유지하는 모델의 능력입니다.AGI(인공일반지능)다양한 영역에 걸쳐 인간 수준에서 대부분의 지적 작업을 수행할 수 있는 가상의 AI 시스템입니다.AI 에이전트종종 도구와 메모리를 사용하여 목표를 달성하기 위해 관찰하고, 추론하고, 조치를 취할 수 있는 소프트웨어 시스템입니다.알고리즘 투명성AI 시스템의 논리, 데이터 소스 및 제한 사항이 얼마나 명확하게 문서화되고 이해되는지.

무료 가이드에서 자세히 알아보세요

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

또한보십시오

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning