What is Red Teaming? Definition | AI Understanding

Tanım

Başarısızlıkları ve riskleri ortaya çıkarmak için bir yapay zeka sistemini rakip yönlendirmelerle stres testine tabi tutmak.

İlgili terimler

Yapay Zeka Güvenliği

Yapay zeka sistemlerinde zararlı davranışları, arızaları ve kötüye kullanım risklerini azaltmaya odaklanan bir alan.

İçerik veya ürünleri sıralamak için kullanıcı tercihlerini tahmin eden bir model hattı.

Bir modelin gürültü, kayma veya olumsuz girdiler altında performansını sürdürme yeteneği.

AGI (Yapay Genel İstihbarat)

Birçok alanda insan düzeyinde çoğu entelektüel görevi yerine getirebilen varsayımsal bir yapay zeka sistemi.

Yapay Zeka Temsilcisi

Bir hedefe ulaşmak için genellikle araçları ve hafızayı kullanarak gözlemleyebilen, mantık yürütebilen ve harekete geçebilen bir yazılım sistemi.

Algoritmik Şeffaflık

Bir yapay zeka sisteminin mantığının, veri kaynaklarının ve sınırlamalarının ne kadar net bir şekilde belgelendiği ve anlaşıldığı.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Yapay Zeka Sözlüğünün tamamına göz atın Tüm ücretsiz AI kılavuzlarını keşfedin