کیا ہوا؟
گورنر گیون نیوزوم نے کیلیفورنیا کے AI ایگزیکٹو آرڈر پر مشورہ دینے کے لیے ماہرین کے ایک پینل کا اعلان کیا، جس کا مقصد آزاد نگرانی کو تیز کرنا اور فرنٹیئر AI ماڈلز کے لیے 'کِل سوئچ' تیار کرنا ہے۔
گورنر گیون نیوزوم نے اپنے حالیہ AI ایگزیکٹو آرڈر کے ذریعہ درکار سفارشات پر مشورہ دینے کے لئے سرکردہ ماہرین کے ایک گروپ کا اعلان کیا۔ آرڈر کا مقصد AI کمپنیوں کی آزاد نگرانی کو تیز کرنا اور بدمعاش فرنٹیئر ماڈلز کے لیے ممکنہ 'کِل سوئچ' کی تخلیق کو آگے بڑھانا ہے۔ ماہرین کا گروپ، جس میں ٹیکنالوجی، پالیسی اور گورننس سے تعلق رکھنے والے افراد شامل ہیں، کیلیفورنیا کے AI سیفٹی اور سیکیورٹی گورننس کی رہنمائی کے لیے تکنیکی محققین کے ساتھ مشغول ہوں گے۔
زیر غور تجاویز میں حفاظتی فریم ورک کی توثیق کرنے اور حفاظتی جائزوں کا آزادانہ طور پر جائزہ لینے کے لیے فرنٹیئر اے آئی کمپنیوں میں آزاد تیسرے فریق کو شامل کرنے کی ضرورت شامل ہے۔ مزید برآں، یہ حکم سرکاری آپریشنز ایجنسی کو سینیٹ بل 813 اور اسمبلی بل 1405 کے نفاذ کی ٹائم لائنز کو تیز کرنے کی ہدایت کرتا ہے، جو بالترتیب آزاد تصدیقی تنظیموں اور اے آئی آڈیٹرز کے لیے ریاستی رجسٹری کے لیے فریم ورک قائم کرتے ہیں۔
اعلان کردہ ماہرین میں جیسن گولڈمین، وائٹ ہاؤس کے سابق چیف ڈیجیٹل آفیسر شامل ہیں۔ Gillian Hadfield, Johns Hopkins University کے ایک پروفیسر جو AI کی صف بندی پر توجہ مرکوز کر رہے ہیں۔ الوندرا نیلسن، انسٹی ٹیوٹ فار ایڈوانسڈ اسٹڈی کی پروفیسر؛ اور اسٹینفورڈ یونیورسٹی کے پروفیسر روب ریخ۔ یہ افراد AI کی تیزی سے ترقی کرنے والی صلاحیتوں پر مہارت کو لاگو کرنے اور حفاظت اور سلامتی سے متعلق خدشات کو دور کرنے میں مدد کریں گے۔
یہ کیوں اہمیت رکھتا ہے۔
یہ اقدام AI حفاظتی دعووں اور ہنگامی بندش کی صلاحیتوں کی آزادانہ تصدیق کے لیے ایک ٹھوس ریاستی سطح کا طریقہ کار قائم کرتا ہے، جو موجودہ ریگولیٹری فریم ورکس میں ایک اہم خلا کو دور کرتا ہے جہاں وفاقی نگرانی غیر حاضر یا محدود ہے۔ یہ ہائی رسک AI سسٹمز کے لیے لازمی تھرڈ پارٹی آڈیٹنگ اور ٹیکنیکل سیفٹی کنٹرولز کی طرف ایک تبدیلی کا اشارہ دیتا ہے۔
کیلیفورنیا خود کو AI ریگولیشن میں ایک رہنما کے طور پر خود کو آزاد تصدیق اور ہنگامی طور پر بند کرنے کی صلاحیتوں کے لیے ایک منظم انداز تشکیل دے رہا ہے۔ یہ اہم ہے کیونکہ فی الحال کوئی بھی وفاقی قانون AI کمپنیوں کو خطرناک واقعات کی اطلاع دینے یا فرنٹیئر ماڈلز کے لیے مخصوص حفاظتی کنٹرول کا حکم دینے کا تقاضا نہیں کرتا ہے۔
فرنٹیئر ماڈلز کے لیے 'کِل سوئچ' تصور کا تعارف ایک عملی تکنیکی کنٹرول کی نمائندگی کرتا ہے جو خود مختار یا بدمعاش AI رویے سے وابستہ خطرات کو کم کر سکتا ہے۔ AI کمپنیوں میں آزاد تیسرے فریقوں کو شامل کرکے، ریاست کا مقصد اس بات کو یقینی بنانا ہے کہ حفاظتی دعووں کی تصدیق ان اداروں کے ذریعے کی جائے جن کا کمپنی کی کامیابی میں کوئی مالیاتی حصہ نہیں ہے۔
یہ ایگزیکٹو آرڈر موجودہ کیلیفورنیا کی قانون سازی پر مبنی ہے، بشمول SB 53 (فرنٹیئر آرٹیفیشل انٹیلی جنس ایکٹ میں شفافیت) اور SB 813، ایک جامع ریگولیٹری فریم ورک تشکیل دیتا ہے جو فرنٹیئر ماڈل کی حفاظت، آزاد نگرانی، اور بچوں کی حفاظت کے معیارات کا احاطہ کرتا ہے۔ یہ دوسری ریاستوں اور ممکنہ طور پر وفاقی حکومت کے لیے ایک ماڈل فراہم کرتا ہے۔
انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔
اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
آگے کیا دیکھنا ہے۔
'کِل سوئچ' کے نفاذ سے متعلق مخصوص تکنیکی سفارشات، SB 813 اور AB 1405 کے نفاذ کے لیے ٹائم لائن، اور کیلیفورنیا کے پھیلتے ہوئے AI ریگولیٹری فریم ورک کے لیے کسی بھی وفاقی ردعمل کو دیکھیں۔
فرنٹیئر ماڈلز کے لیے مجوزہ 'کِل سوئچ' کی مخصوص تکنیکی خصوصیات اور فزیبلٹی توجہ کا ایک اہم شعبہ ہو گا۔ اس طریقہ کار کو مختلف اے آئی آرکیٹیکچرز اور کمپنیوں میں کیسے لاگو کیا جائے گا اس کا تعین ہونا باقی ہے۔
SB 813 اور AB 1405 کے نفاذ کے لیے ٹائم لائن بہت اہم ہے۔ ان ٹائم لائنز کو تیز کرنا آزاد تصدیقی تنظیموں اور AI آڈیٹر رجسٹریوں کی پہلے تعیناتی کا باعث بن سکتا ہے، جس کے فوری طور پر عملی اثرات ہوں گے کہ کیلیفورنیا میں AI کمپنیاں کیسے کام کرتی ہیں۔
کیلیفورنیا کے توسیعی ریگولیٹری فریم ورک پر اے آئی انڈسٹری اور وفاقی حکومت کا ردعمل اہم ہوگا۔ گورنر نے کانگریس اور صدر سے مطالبہ کیا ہے کہ وہ کیلیفورنیا کے فریم ورک کو قومی معیارات کے لیے ایک منزل کے طور پر اپنائیں یا استعمال کریں، جو پالیسی میں مزید پیش رفت یا تنازعات کا باعث بن سکتا ہے۔