What is Red Teaming? Definition | AI Understanding

Определение

Стрес тестване на AI система с противопоставящи се подкани за разкриване на неуспехи и рискове.

Свързани термини

AI Безопасност

Област, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.

Система за препоръки

Модел на конвейер, който предвижда потребителските предпочитания за класиране на съдържание или продукти.

Здравина

Способността на модела да поддържа производителност при шум, смени или противникови входове.

AGI (общ изкуствен интелект)

Хипотетична AI система, която може да изпълнява повечето интелектуални задачи на човешко ниво в много области.

Софтуерна система, която може да наблюдава, разсъждава и предприема действия за постигане на цел, често използвайки инструменти и памет.

Алгоритмична прозрачност

Колко ясно са документирани и разбираеми логиката на една AI система, източниците на данни и ограниченията.

Научете повече в нашите безплатни ръководства

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI