What is Red Teaming? Definition | AI Understanding

تعریف

ناکامیوں اور خطرات کو ظاہر کرنے کے لیے مخالفانہ اشارے کے ساتھ ایک AI نظام کی تناؤ کی جانچ۔

متعلقہ شرائط

اے آئی سیفٹی

AI سسٹمز میں نقصان دہ رویے، ناکامیوں اور غلط استعمال کے خطرات کو کم کرنے پر توجہ مرکوز کرنے والا فیلڈ۔

سفارشی نظام

ایک ماڈل پائپ لائن جو مواد یا مصنوعات کی درجہ بندی کے لیے صارف کی ترجیحات کی پیش گوئی کرتی ہے۔

شور، شفٹوں، یا مخالفانہ ان پٹ کے تحت کارکردگی کو برقرار رکھنے کی ماڈل کی صلاحیت۔

AGI (مصنوعی جنرل انٹیلی جنس)

ایک فرضی AI نظام جو بہت سے ڈومینز میں انسانی سطح پر زیادہ تر فکری کام انجام دے سکتا ہے۔

اے آئی ایجنٹ

ایک ایسا سافٹ ویئر سسٹم جو اکثر ٹولز اور میموری کا استعمال کرتے ہوئے کسی مقصد کو حاصل کرنے کے لیے مشاہدہ، استدلال اور اقدامات کر سکتا ہے۔

الگورتھمک شفافیت

AI سسٹم کی منطق، ڈیٹا کے ذرائع اور حدود کتنی واضح طور پر دستاویزی اور قابل فہم ہیں۔

ہماری مفت گائیڈز میں مزید جانیں۔

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

مکمل AI لغت براؤز کریں۔تمام مفت AI گائیڈز دریافت کریں۔