What is Red Teaming? Definition | AI Understanding

Определение

Стресс-тестирование системы ИИ с состязательными подсказками для выявления сбоев и рисков.

Связанные термины

Безопасность ИИ

Область, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.

Система рекомендаций

Конвейер моделей, который прогнозирует предпочтения пользователей при ранжировании контента или продуктов.

Надежность

Способность модели сохранять производительность в условиях шума, сдвигов или враждебных воздействий.

AGI (Общий искусственный интеллект)

Гипотетическая система искусственного интеллекта, способная выполнять большинство интеллектуальных задач на человеческом уровне во многих областях.

ИИ-агент

Программная система, которая может наблюдать, рассуждать и предпринимать действия для достижения цели, часто используя инструменты и память.

Алгоритмическая прозрачность

Насколько четко документированы и понятны логика, источники данных и ограничения системы ИИ.

Узнайте больше в наших бесплатных руководствах.

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

См. также

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Просмотрите полный глоссарий AI Изучите все бесплатные руководства по искусственному интеллекту