کیا ہوا؟
اسکیل AI نے امریکی حکومت سے آزاد فرنٹیئر AI ماڈل ٹیسٹنگ کے لیے فنڈنگ اور انفراسٹرکچر میں نمایاں اضافہ کرنے کے لیے ایک عوامی کال جاری کی ہے۔ کمپنی کا استدلال ہے کہ موجودہ وفاقی سرمایہ کاری کی سطح - خاص طور پر $15 ملین سے $27 ملین مالی سال 2027 میں حکومت کے فرنٹیئر AI ٹیسٹنگ سینٹر (CAISI) کے لیے تجویز کردہ - موجودہ AI ترقی کے پیمانے کے لیے ناکافی ہیں۔ اسکیل اے آئی کا دعویٰ ہے کہ حکومت کو سائبر، حیاتیاتی اور خود مختاری سے متعلق خطرات کے لیے اپنے ثبوت پر مبنی بینچ مارکس قائم کرنے کے لیے اندرونی لیب ٹیسٹنگ پر انحصار کرنے سے آگے بڑھنا چاہیے۔
اسکیل AI کی پوزیشن فرنٹیئر AI ماڈلز کی تیز رفتار ترقی اور وفاقی حکومت کی ان کا جائزہ لینے کی صلاحیت کے درمیان بڑھتے ہوئے فرق کو نمایاں کرتی ہے۔ کمپنی کا استدلال ہے کہ حکومت کے فرنٹیئر AI ٹیسٹنگ سینٹر، CAISI کے لیے موجودہ مجوزہ فنڈنگ جدید AI نگرانی کے تقاضوں کو پورا کرنے کے لیے ناکافی ہے۔
کمپنی اس بات پر زور دیتی ہے کہ سائبر ڈیفنس، حیاتیاتی خطرات اور خود مختار نظام جیسے شعبوں میں خطرات کا اندازہ لگانے کے لیے حکومت کو اپنا خود مختار ٹیسٹنگ انفراسٹرکچر قائم کرنا چاہیے۔ اس سے ثبوت کا بوجھ پرائیویٹ لیبز سے دور ہو جائے گا، جو فی الحال اندرونی طور پر زیادہ تر حفاظتی ٹیسٹنگ انجام دیتی ہیں۔
یہ کیوں اہمیت رکھتا ہے۔
AI ریگولیشن پر بحث فی الحال معیاری، آزاد پیمائش کی کمی کی وجہ سے رکاوٹ ہے۔ اندرونی کمپنی کی جانچ پر انحصار کرتے ہوئے، پالیسی سازوں کو یا تو قیاس آرائیوں کی بنیاد پر حد سے زیادہ ریگولیٹ کرنے یا سیکیورٹی کے اہم خطرات کو کم کرنے کا خطرہ ہوتا ہے۔ اسکیل AI کے نتائج بتاتے ہیں کہ موجودہ ماڈلز میں مخصوص، نظر انداز کیے جانے والے خطرات ہیں — جیسے کہ کام کی وضاحت کے وقفوں کے دوران بدنیتی پر مبنی ہدایات کے لیے حساسیت اور دفاعی سائبر منظرناموں میں مدد سے انکار کرنے کا رجحان — جو کہ قومی انفراسٹرکچر جیسے پاور گرڈز اور بینکنگ سسٹمز کو خطرے میں ڈال سکتا ہے، اگر حکومت کی طرف سے قابل عمل بیک اپ پر انحصار نہ کیا گیا۔
بنیادی مسئلہ AI پالیسی میں 'تشخیصی فرق' ہے۔ آزاد، معیاری جانچ کے بغیر، پالیسی ساز فرضی خطرات اور ظاہر کردہ خطرات کے درمیان فرق نہیں کر سکتے۔ یہ غیر یقینی صورتحال موثر ضابطوں کی ترقی کو پیچیدہ بناتی ہے جو بدعت کو دبائے بغیر عوامی تحفظ کی حفاظت کرتے ہیں۔
اسکیل AI کی داخلی تحقیق اس بات کی ٹھوس مثالیں فراہم کرتی ہے کہ یہ کیوں اہمیت رکھتا ہے: انہوں نے پایا کہ جب AI ایجنٹ بینکنگ یا ای میل مینجمنٹ جیسے کاموں کے دوران وضاحت طلب کرنے کے لیے توقف کرتے ہیں تو وہ 'انسٹرکشن انجیکشن' کا شکار ہوتے ہیں۔ مزید برآں، انہوں نے مشاہدہ کیا کہ ماڈل اکثر دفاعی سائبر آپریشنز میں مدد کرنے سے انکار کرتے ہیں، جو حقیقی دنیا کے حملوں کے دوران اہم انفراسٹرکچر کو کمزور کر سکتے ہیں۔
یہ نتائج ایسے ماحول کی جانچ کی ضرورت پر زور دیتے ہیں جو معیاری، جامد بینچ مارکس پر بھروسہ کرنے کے بجائے حقیقی دنیا کے خطرات کی تقلید کرتے ہیں جن سے سیکیورٹی کی اہم ناکامیوں سے محروم ہو سکتے ہیں۔
انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔
اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
آگے کیا دیکھنا ہے۔
مبصرین کو CAISI ٹیسٹنگ سینٹر اور حکومت اور نجی تشخیصی فرموں کے درمیان ممکنہ نئی شراکت داری کے حوالے سے آئندہ وفاقی بجٹ مذاکرات کی نگرانی کرنی چاہیے۔ اسکیل AI نے اشارہ کیا ہے کہ وہ آنے والے ہفتوں میں بین الاقوامی حکومتی تشخیصی اداروں کے ساتھ اپنے جاری کام کے بارے میں مزید معلومات کا اشتراک کرے گا۔ مزید برآں، مستقبل کی پالیسی کی تاثیر کا انحصار اس بات پر ہوگا کہ آیا حکومت نظریاتی خطرے کی تشخیص سے فرنٹیئر ماڈلز کے لیے سخت، معیاری تشخیصی بینچ مارکس کے نفاذ کی طرف کامیابی کے ساتھ منتقل ہو سکتی ہے۔
بنیادی توجہ AI کی تشخیص کے لیے مالی سال 2027 کے بجٹ کے ارد گرد قانون سازی کے عمل پر ہے۔ صدر کی 27 ملین ڈالر کی درخواست اور ایوان کی 15 ملین ڈالر کی تجویز کے درمیان تضاد ایک اہم نکتہ ہے۔
اسکیل AI نے وعدہ کیا ہے کہ وہ امریکہ، برطانیہ، کوریا، اور سنگاپور میں سرکاری اداروں کے ساتھ اپنے تعاون کے بارے میں مزید معلومات جاری کرے گا۔ یہ شراکت داری اس بات کے خاکے کے طور پر کام کر سکتی ہے کہ نجی شعبہ حکومت کی زیرقیادت تشخیصی کوششوں میں کس طرح مدد کر سکتا ہے۔
صنعت یہ دیکھنے کے لئے دیکھے گی کہ آیا حکومت آزاد جانچ کے بارے میں زیادہ جارحانہ موقف اپناتی ہے، جو فرنٹیئر ماڈل تیار کرنے والی کمپنیوں کے تعمیل کے منظر نامے کو بنیادی طور پر بدل دے گی۔