What is Red Teaming? Definition | AI Understanding

Definicja

Testowanie warunków skrajnych systemu sztucznej inteligencji za pomocą przeciwstawnych monitów w celu wykrycia błędów i zagrożeń.

Powiązane terminy

Bezpieczeństwo AI

Dziedzina skupiająca się na ograniczaniu szkodliwych zachowań, awarii i ryzyka niewłaściwego użycia w systemach AI.

System rekomendacji

Potok modelowy, który przewiduje preferencje użytkownika dotyczące rankingu treści lub produktów.

Zdolność modelu do utrzymania wydajności w warunkach hałasu, przesunięć lub bodźców kontradyktoryjnych.

AGI (sztuczna inteligencja ogólna)

Hipotetyczny system sztucznej inteligencji, który może wykonywać większość zadań intelektualnych na poziomie człowieka w wielu dziedzinach.

System oprogramowania, który potrafi obserwować, rozumować i podejmować działania, aby osiągnąć cel, często przy użyciu narzędzi i pamięci.

Przejrzystość algorytmiczna

Jak jasno logika, źródła danych i ograniczenia systemu AI są udokumentowane i zrozumiałe.

Dowiedz się więcej z naszych bezpłatnych przewodników

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

Zobacz także

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI