سوسائٹی گائیڈ
فرنٹیئر اے آئی سیفٹی فریم ورک اور ذمہ دار اسکیلنگ پالیسیاں
ایک فرنٹیئر AI سیفٹی فریم ورک، جیسا کہ ایک ذمہ دار اسکیلنگ پالیسی، ایک AI لیب کی جانب سے اپنے ماڈلز کو خطرناک صلاحیتوں کی جانچ کرنے کے لیے شائع شدہ عہد ہے۔
اس صفحہ پر4 منٹ پڑھیں
جائزہ
اگر کوئی ماڈل ایک مقررہ حد کو عبور کرتا ہے، تو لیب مضبوط حفاظتی اقدامات شامل کرنے کا عہد کرتی ہے، یا جب تک وہ حفاظتی اقدامات موجود نہ ہوں تب تک تعینات نہ کرے یا مزید تربیت نہ کرے۔ یہ فریم ورک اس لیے اہمیت رکھتے ہیں کیونکہ یہ فی الحال سب سے زیادہ جدید AI ماڈلز کو تباہ کن خطرے کے لیے کنٹرول کرنے کا بنیادی طریقہ ہے، حالانکہ ان میں سے زیادہ تر رضاکارانہ ہیں اور خود لیبز کے ذریعہ لکھے گئے ہیں۔
گہرا غوطہ
Anthropic نے ستمبر 2023 میں پہلی ذمہ دار اسکیلنگ پالیسی شائع کی۔ اس نے AI سیفٹی لیولز (ASLs) متعارف کرائے، جو بایو سیفٹی کی سطحوں پر ڈھیلے انداز میں بنائے گئے، جہاں اعلیٰ سطحوں کو مضبوط سیکیورٹی اور تعیناتی کے تحفظات کی ضرورت ہوتی ہے۔ بعد کے ورژن میں، اکتوبر 2024 میں، پالیسی کو قابلیت کی حد اور مطلوبہ حفاظتی اقدامات کے حوالے سے دوبارہ بیان کیا گیا اور ایک ذمہ دار سکیلنگ آفیسر کے کردار کو بیان کیا۔ OpenAI نے دسمبر 2023 میں بیٹا کے طور پر اپنا تیاری کا فریم ورک جاری کیا۔ اس نے ٹریک شدہ زمروں میں رسک اسکور کیا، جس میں اصل میں CBRN خطرات، سائبر سیکیورٹی، قائل کرنا اور ماڈل خود مختاری شامل ہے۔ 2025 کی نظرثانی نے اسے اعلیٰ اور تنقیدی قابلیت کی حدوں کے ارد گرد دوبارہ منظم کیا اور ایک ٹریک شدہ زمرے کے طور پر قائل کرنے کو چھوڑ دیا۔ Google DeepMind نے مئی 2024 میں اپنا فرنٹیئر سیفٹی فریم ورک شائع کیا اور اس کے بعد سے اس پر نظر ثانی کی ہے۔ یہ تنقیدی صلاحیت کی سطحوں (CCLs) کی وضاحت کرتا ہے جو ردعمل کے منصوبوں کو متحرک کرتے ہیں۔ مئی 2024 میں AI سیول سمٹ میں، 16 کمپنیوں نے فرنٹیئر AI سیفٹی کمٹمنٹس پر دستخط کیے۔ انہوں نے حفاظتی فریم ورک شائع کرنے، ناقابل برداشت خطرے کے لیے حد مقرر کرنے، اور اگر اس کے خطرات کو ان حدوں سے نیچے نہیں رکھا جا سکتا تو ماڈل تیار یا تعینات نہ کرنے پر اتفاق کیا۔ فروری 2025 میں پیرس AI ایکشن سمٹ سے پہلے بہت سے فریم ورک شائع کیے گئے تھے۔ ناقدین کئی کمزوریوں کی طرف اشارہ کرتے ہیں۔ لیبز اپنی حدیں لکھتی ہیں اور خود ان پر نظر ثانی کر سکتی ہیں۔ الفاظ جیسے "معنوی ترقی" تشریح کی گنجائش چھوڑ دیتا ہے۔ بیرونی تصدیق محدود ہے، اور تجارتی مسابقت لیبز کو دل کھول کر نتائج پڑھنے کی ترغیب دیتی ہے۔ ایک عام غلط فہمی یہ ہے کہ یہ فریم ورک قوانین ہیں۔ زیادہ تر رضاکارانہ ہیں، حالانکہ یہ بدل رہا ہے۔ کیلیفورنیا کے SB 53 کو اس طرح کے ایک فریم ورک کو شائع کرنے کے لیے بڑے فرنٹیئر ڈویلپرز کی ضرورت ہوتی ہے، اور EU کا عمومی مقصد AI کوڈ آف پریکٹس، AI ایکٹ کی تعمیل ظاہر کرنے کا ایک رضاکارانہ راستہ، دستخط کنندگان سے ایک کو اپنانے کو کہتا ہے۔
اسٹریٹجک اثر
خطرہ اور حفاظت
تباہ کن اور روزمرہ کے AI نقصانات دونوں کا انحصار اس بات پر ہے کہ کون خطرات کو سمجھتا ہے اور کون عمل کر سکتا ہے۔
واضح فیصلے
عوامی اور پیشہ ورانہ خواندگی یہ تشکیل دیتی ہے کہ آیا مضبوط حفاظتی پالیسی سیاسی طور پر ممکن ہے۔
ہائپ کے ذریعے کاٹنا
واضح وضاحتیں ہائپ، لیب پی آر، اور مبہم اخلاقیات تھیٹر کے ذریعے کیپچر کو کم کرتی ہیں۔
فرنٹیئر اے آئی سیفٹی فریم ورک اور ذمہ دار اسکیلنگ پالیسیوں کا مستقبل
فریم ورک رضاکارانہ وعدوں سے ریگولیٹری توقعات کی طرف بڑھ رہے ہیں۔ کیلیفورنیا کو اب بڑے فرنٹیئر ڈویلپرز کی ضرورت ہے کہ وہ انہیں شائع کریں، EU کا ضابطہ عمل دستخط کنندگان سے کہتا ہے کہ وہ انہیں اپنائیں، اور مزید دائرہ اختیار کی پیروی ہو سکتی ہے۔ کھلے سوالات میں یہ شامل ہے کہ کون تعمیل کا آڈٹ کرتا ہے، تمام لیبز میں تھریشولڈز کو کس طرح معیاری بنایا جاتا ہے، اور کیا تشخیص تیزی سے بہتر کرنے والے ایجنٹی نظام کو برقرار رکھ سکتے ہیں۔ آزاد ٹیسٹنگ باڈیز، بشمول سرکاری AI انسٹی ٹیوٹ، لیب کے دعووں کی جانچ میں بڑا کردار ادا کر سکتے ہیں۔ مرکزی تناؤ غالباً برقرار رہے گا: لیبز ان اصولوں کو ڈیزائن کرتی ہیں جن کے ذریعے ان کا فیصلہ کیا جاتا ہے، جو شفافیت اور باہر کی جانچ پڑتال کو اہم بناتا ہے۔
حقیقی دنیا کا نفاذ
رہائی سے پہلے، ایک لیب ٹیسٹ کرتی ہے کہ آیا کوئی نیا ماڈل حیاتیاتی ہتھیاروں کو حاصل کرنے کی کوشش کرنے والے کو معنی خیز ترقی دیتا ہے۔ اگر یہ دہلیز کو عبور کرتا ہے تو، لیب تعیناتی سے پہلے سخت غلط استعمال کے فلٹرز اور سیکیورٹی کا اضافہ کرتی ہے۔
مئی 2025 میں، Anthropic نے کہا کہ اس نے احتیاط کے طور پر Claude Opus 4 کے لیے ASL-3 کی تعیناتی اور حفاظتی تحفظات کو فعال کر دیا ہے، کیونکہ یہ اس بات کو مسترد نہیں کر سکتا کہ ماڈل متعلقہ صلاحیت کی حد تک پہنچ چکا ہے۔
OpenAI کا تیاری کا فریم ورک سیفٹی ایڈوائزری گروپ کو ہدایت کرتا ہے کہ وہ قابلیت کی رپورٹس کا جائزہ لے اور قیادت کو مشورہ دے کہ آیا ریلیز سے پہلے حفاظتی اقدامات کافی ہیں۔
ایک لیب ٹریکنگ خود مختار نقل یا AI ریسرچ ایکسلریشن ایجنٹی تشخیص چلاتی ہے۔ یہ جانچتے ہیں کہ آیا یہ ماڈل انسانی مدد کے بغیر طویل، کثیرالقدمی کام مکمل کر سکتا ہے۔
خطرات اور گارڈریلز
قابلیت کے مرکبات کے دوران وجودی خطرے کا سائنس فائی کے طور پر علاج کرنا۔
اعلی خود مختاری کے تحت سیدھ کے ساتھ سطح کی مصنوعات کی حفاظت کو الجھا دینا۔
غیر انگریزی اور غیر ماہر سامعین کو صرف کم معیار کے ذرائع کے ساتھ چھوڑنا۔
نفاذ کا روڈ میپ
الگ الگ مصنوعات کے نقصانات، غلط استعمال، اور نقصان کے کنٹرول / غلط خطوط کے خطرات۔
پوچھیں کہ کون سے ثبوت ٹائم لائنز اور شدت کے بارے میں آپ کے نظریہ کو بدل دیں گے۔
مارکیٹنگ کے دعووں پر بنیادی ذرائع اور ٹھوس ایولز کو ترجیح دیں۔
ایک عمل کے راستے کی شناخت کریں: کیریئر، پالیسی، فنڈنگ، یا مہارتیں - نہ صرف آگاہی۔
دریافت کرتے رہیں
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Frontier AI Safety Frameworks and Responsible Scaling Policies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
اکثر پوچھے گئے سوالات
فرنٹیئر اے آئی سیفٹی فریم ورک اور ذمہ دار اسکیلنگ پالیسیاں کیا ہیں؟
ایک فرنٹیئر AI سیفٹی فریم ورک، جیسا کہ ایک ذمہ دار اسکیلنگ پالیسی، ایک AI لیب کی جانب سے اپنے ماڈلز کو خطرناک صلاحیتوں کی جانچ کرنے کے لیے شائع شدہ عہد ہے۔ اگر کوئی ماڈل ایک مقررہ حد کو عبور کرتا ہے، تو لیب مضبوط حفاظتی اقدامات شامل کرنے کا عہد کرتی ہے، یا جب تک وہ حفاظتی اقدامات موجود نہ ہوں تب تک تعینات نہ کرے یا مزید تربیت نہ کرے۔ یہ فریم ورک اس لیے اہمیت رکھتے ہیں کیونکہ یہ فی الحال سب سے زیادہ جدید AI ماڈلز کو تباہ کن خطرے کے لیے کنٹرول کرنے کا بنیادی طریقہ ہے، حالانکہ ان میں سے زیادہ تر رضاکارانہ ہیں اور خود لیبز کے ذریعہ لکھے گئے ہیں۔
ایک ذمہ دار اسکیلنگ پالیسی کی بنیادی منطق کیا ہے؟
یہ فریم ورک ایسے وعدوں پر بنائے گئے ہیں جو قابلیت کی حد کو مطلوبہ تحفظات سے جوڑتے ہیں۔
کس کمپنی نے AI سیفٹی لیولز (ASLs) متعارف کرائے؟
Anthropic کی ستمبر 2023 کی ذمہ دار اسکیلنگ کی پالیسی نے ASLs متعارف کرایا، جو بایو سیفٹی کی سطحوں پر ڈھیلے انداز میں بنائے گئے ہیں۔
Google DeepMind اپنے فرنٹیئر سیفٹی فریم ورک میں حدوں کو کیا کہتے ہیں؟
DeepMind کریٹیکل کیپبلٹی لیولز (CCLs) کا استعمال کرتا ہے، جو رسپانس پلانز تک پہنچنے پر متحرک کرتے ہیں۔
مئی 2024 میں AI سیول سمٹ میں کمپنیوں نے کس چیز پر اتفاق کیا؟
فرنٹیئر اے آئی سیفٹی کمٹمنٹس فریم ورک شائع کرنے کے رضاکارانہ وعدے تھے اور اگر خطرات کو حد سے نیچے نہیں رکھا جا سکتا تو آگے نہیں بڑھنا۔
OpenAI کے 2025 تیاری کے فریم ورک کی نظرثانی کو ٹریک شدہ زمرے کے طور پر کس زمرے میں گرا دیا گیا؟
نظرثانی نے ہائی اور کریٹیکل تھریشولڈز کے ارد گرد فریم ورک کو دوبارہ منظم کیا اور ایک ٹریک شدہ زمرے کے طور پر قائل کو ہٹا دیا۔
سیکھتے رہیں
متعلقہ گائیڈز
اس موضوع کے لیے مزید گائیڈز چنے گئے ہیں۔