اے آئی سیکیورٹی

شناخت کریں کہ کیا تحفظ کی ضرورت ہے: نجی ان پٹ، تربیتی ڈیٹا، ماڈل آرٹیفیکٹس، کریڈینشلز، کنیکٹڈ اکاؤنٹس، اور بیرونی ایکشنز۔ ہر ان پٹ کو کون متاثر کر سکتا ہے اور ناکامی سے حملہ آور کو کیا حاصل ہو سکتا ہے، ریکارڈ کریں۔ پبلک چیٹ بوٹ اور اندرونی ایجنٹ جس کے پاس تحریری رسائی ہو، مختلف خطرات کے ماڈلز ہوتے ہیں۔ خطرات مختلف مراحل کو متاثر کر سکتے ہیں۔ زہریلا تربیتی مواد سیکھے گئے رویے کو بدل سکتا ہے؛ مخالف ان پٹس پیش گوئیوں کو تبدیل کر سکتے ہیں؛ غیر معتبر بازیافت شدہ مواد ٹول استعمال کرنے والی ایپلیکیشن کو ری ڈائریکٹ کر سکتا ہے۔ ماڈل آؤٹ پٹ جب ڈیٹا بیس کوئری، ویب پیج، یا کمانڈ میں مناسب ہینڈلنگ کے بغیر داخل کیا جائے تو خطرناک بھی ہو سکتا ہے۔ سافٹ ویئر کی حد پر کنٹرولز لاگو کریں۔ کوڈ میں اجازت نافذ کریں، جہاں ممکن ہو ماڈل کے واضح سیاق و سباق سے رازداروں کو دور رکھیں، ٹول کے دائرہ کار کو محدود کریں، اور استعمال سے پہلے آؤٹ پٹ کی تصدیق کریں۔ ماڈل کو محفوظ طریقے سے برتاؤ کرنے کا مطالبہ کرنے والا پرامپٹ اکاؤنٹ آئسولیشن یا پرمیشن چیک کی جگہ نہیں لے سکتا۔ مجاز ماحول میں نمائندہ ناکامی کے راستوں کی جانچ کریں اور واقعہ کے عمل کو برقرار رکھیں۔ غیر ضروری حساس مواد جمع کیے بغیر تحقیقات کے لیے کافی معلومات لاگ کریں۔ ماڈل میں تبدیلیوں کے بعد کنٹرولز، بازیافت کے ذرائع، اوزار، اور انحصار کا جائزہ لیں۔ باقی ماندہ خطرے کو ایمانداری سے بیان کریں؛ کوئی بھی ایک فلٹر مکمل تحفظ قائم نہیں کرتا۔