What is Red Teaming? Definition | AI Understanding

Meghatározás

Egy mesterséges intelligencia-rendszer stressztesztelése ellenséges felhívásokkal a hibák és kockázatok feltárására.

Kapcsolódó kifejezések

A mesterséges intelligencia rendszerekben a káros viselkedés, a hibák és a visszaélések kockázatának csökkentésére összpontosító terület.

Ajánlórendszer

Modellfolyamat, amely előrejelzi a felhasználói preferenciákat a tartalom vagy a termékek rangsorolásához.

A modell azon képessége, hogy fenntartsa a teljesítményt zaj, eltolás vagy ellenséges bemenetek mellett.

AGI (mesterséges általános intelligencia)

Egy hipotetikus mesterséges intelligencia rendszer, amely a legtöbb intellektuális feladatot emberi szinten képes elvégezni számos területen.

Szoftverrendszer, amely képes megfigyelni, okoskodni, és lépéseket tenni a cél elérése érdekében, gyakran eszközöket és memóriát használva.

Algoritmikus átlátszóság

Milyen egyértelműen dokumentálják és érthetőek egy AI-rendszer logikája, adatforrásai és korlátai.

Tudjon meg többet ingyenes útmutatóinkból

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót