دليل المجتمع

الذكاء العام الاصطناعي

يشير الذكاء العام الاصطناعي (AGI) إلى أنظمة الذكاء الاصطناعي التي تتمتع بكفاءة واسعة على المستوى البشري (أو أكبر) في معظم المهام المعرفية - وليس مجرد مهارة ضيقة واحدة مثل الترجمة أو تصنيف الصور.

نظرة عامة

يشير الذكاء العام الاصطناعي (AGI) إلى أنظمة الذكاء الاصطناعي التي تتمتع بكفاءة واسعة على المستوى البشري (أو أكبر) في معظم المهام المعرفية - وليس مجرد مهارة ضيقة واحدة مثل الترجمة أو تصنيف الصور.

يقع الذكاء العام الاصطناعي عند تقاطع القدرة والقوة والاختيار العام - حيث تحدد السلامة والحوكمة والشرعية ما إذا كان الذكاء الاصطناعي المتقدم يساعد أو يضر على نطاق واسع.

الغوص العميق

لا يوجد تعريف واحد متفق عليه للذكاء الاصطناعي العام. يقصد بعض الناس "أنهم يتطابقون مع متوسط ​​المهنيين البشريين في معظم الأعمال المعرفية"، ويقصد آخرون "أنهم يستطيعون أتمتة غالبية المهام ذات القيمة الاقتصادية"، ويحتفظ آخرون بالمصطلح للأنظمة التي يمكنها تحسين نفسها أو التفوق على البشرية عبر العلوم والاستراتيجية. إن التعريف مهم لأن تخطيط السياسات والاستثمار والسلامة يعتمد جميعًا على الوقت الذي تعتقد فيه أن مثل هذه الأنظمة تصل وما يمكنها فعله. نماذج اللغة الكبيرة الحالية لا تمثل الذكاء الاصطناعي العام حسب التعريفات الصارمة، ولكنها تظهر بالفعل كفاءة واسعة النطاق وتحسنًا سريعًا - وهذا هو السبب وراء التنازع على الجداول الزمنية ولماذا يتعامل الباحثون في مجال المخاطر الوجودية مع الذكاء الاصطناعي العام (والأنظمة التي تتجاوزه) كمشكلة تخطيط حية وليس خيالًا علميًا. إذا تمكنت الأنظمة على مستوى الذكاء الاصطناعي العام من العمل بإشراف محدود، فإن مشاكل المواءمة والتحكم لن تصبح أكاديمية.

البصيرة الفنية

لقد جاء التقدم نحو الكفاءة الأوسع إلى حد كبير من خلال توسيع نطاق البيانات والحوسبة والخوارزميات؛ ومن مرحلة ما بعد التدريب التي تجعل النماذج أكثر قابلية للاستخدام؛ ومن الأدوات/الوكلاء الذين يسمحون للنماذج بالتصرف في العالم. ولا تزال هناك فجوات في الفاعلية الموثوقة ذات الأفق الطويل، والنماذج العالمية الراسخة، والصدق الثابت. تتضمن الأسئلة المتعلقة بالسلامة ما يلي: ما هي القدرات التي تظهر فجأة، وما إذا كانت عمليات التقييم تكتشفها، وما إذا كان بإمكان المختبرات التوقف مؤقتًا أو نشر البوابة عند ارتفاع المخاطر.

إتقان الذكاء العام الاصطناعي

لبناء فهم عميق، تعامل مع الذكاء العام الاصطناعي كنموذج تشغيلي، وليس كميزة واحدة. تحديد النتائج المرغوبة، وتوضيح الافتراضات، وفصل ما يمكن للنظام القيام به بشكل موثوق عما لا يزال يتطلب حكم الخبراء.

ومن الناحية العملية، تعمل الفرق القوية التي تستخدم الذكاء العام الاصطناعي على ربط نمو القدرات بالحوكمة والسلامة وهياكل المساءلة الواضحة. وهي تقوم بتوثيق معايير نجاح واضحة، واختبارها مقابل بيانات واقعية وسير العمل، والتكرار بناءً على أنماط الفشل الملحوظة بدلاً من الانتصارات المعيارية لمرة واحدة. وهذا هو المكان الذي يتحول فيه الفهم النظري إلى قدرة دائمة عبر المنتج والسياسة والعمليات.

تعتمد الأضرار الكارثية واليومية التي يسببها الذكاء الاصطناعي على من يفهم المخاطر ومن يستطيع التصرف. وفي الوقت نفسه، التعامل مع المخاطر الوجودية باعتبارها خيالًا علميًا بينما تتراكم القدرات. ويتمثل النهج الأكثر مرونة في الجمع بين سرعة التجريب وانضباط الحوكمة: تشغيل البرامج التجريبية، والتقاط الأدلة، ونشر سجلات القرارات، وتحديث الضمانات بشكل مستمر مع تطور سلوك النموذج، وتوقعات المستخدم، والمتطلبات التنظيمية.

التأثير الاستراتيجي

تعتمد الأضرار الكارثية واليومية التي يسببها الذكاء الاصطناعي على من يفهم المخاطر ومن يستطيع التصرف.

تعتمد الأضرار الكارثية واليومية التي يسببها الذكاء الاصطناعي على من يفهم المخاطر ومن يستطيع التصرف. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.

إن المعرفة العامة والمهنية تحدد ما إذا كانت سياسة السلامة القوية ممكنة من الناحية السياسية.

إن المعرفة العامة والمهنية تحدد ما إذا كانت سياسة السلامة القوية ممكنة من الناحية السياسية. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.

إن التفسيرات الواضحة تقلل من الاستيلاء على الضجيج والعلاقات العامة المعملية والمسرح الأخلاقي الغامض.

إن التفسيرات الواضحة تقلل من الاستيلاء على الضجيج والعلاقات العامة المعملية والمسرح الأخلاقي الغامض. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.

مستقبل الذكاء العام الاصطناعي

توقع استمرار الجدل حول الجداول الزمنية، والمزيد من الاهتمام الحكومي بعمليات التدريب على الحدود، والضغط لتحديد عتبات القدرات القابلة للقياس. بالنسبة للجمهور، فإن الاستنتاج المفيد ليس سنة محددة - بل هو أن اتجاه السفر هو نحو أنظمة أكثر عمومية وأكثر استقلالية، وأن أعمال السلامة يجب أن تظل في صدارة هذا المنحنى.

التنفيذ في العالم الحقيقي

تتبع كيفية توسع النماذج الحدودية من الدردشة إلى البرمجة والمساعدة البحثية واستخدام الأدوات متعددة الخطوات.

مقارنة التعريفات العامة للمختبرات حول الذكاء الاصطناعي العام والعتبات التي يزعمون أنها مهمة بالنسبة لسياسة السلامة.

التخطيط للتأثيرات الاقتصادية والأمنية إذا تمكنت الأنظمة من استبدال فئات كبيرة من العمل المعرفي عن بعد.

بناء سير عمل الذكاء العام الاصطناعي القابل للتكرار مع معايير نجاح واضحة ونقاط تفتيش للمراجعة البشرية.

أنماط التنفيذ

الذكاء العام الاصطناعي في الممارسة العملية

تتبع كيفية توسع النماذج الحدودية من الدردشة إلى البرمجة والمساعدة البحثية واستخدام الأدوات متعددة الخطوات.

عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.

الذكاء العام الاصطناعي في الممارسة العملية

مقارنة التعريفات العامة للمختبرات حول الذكاء الاصطناعي العام والعتبات التي يزعمون أنها مهمة بالنسبة لسياسة السلامة.

عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.

الذكاء العام الاصطناعي في الممارسة العملية

التخطيط للتأثيرات الاقتصادية والأمنية إذا تمكنت الأنظمة من استبدال فئات كبيرة من العمل المعرفي عن بعد.

عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.

الذكاء العام الاصطناعي في الممارسة العملية

بناء سير عمل الذكاء العام الاصطناعي القابل للتكرار مع معايير نجاح واضحة ونقاط تفتيش للمراجعة البشرية.

عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.

المخاطر والدرابزين

!

التعامل مع المخاطر الوجودية باعتبارها خيالًا علميًا ومركبات القدرة.

!

الخلط بين سلامة المنتج السطحي والمحاذاة في ظل الاستقلالية العالية.

!

ترك الجماهير غير الإنجليزية وغير الخبراء مع مصادر منخفضة الجودة فقط.

خارطة طريق التنفيذ

1

فصل أضرار المنتج، وسوء الاستخدام، ومخاطر فقدان السيطرة/اختلال المحاذاة.

تعامل مع هذا كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف الطرح مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.

2

اسأل عن الأدلة التي من شأنها أن تغير وجهة نظرك بشأن الجداول الزمنية وشدتها.

تعامل مع هذا كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف الطرح مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.

3

تفضيل المصادر الأولية والتقييمات الملموسة على المطالبات التسويقية.

تعامل مع هذا كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف الطرح مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.

4

حدد مسار عمل واحد: المهنة، أو السياسة، أو التمويل، أو المهارات - وليس الوعي فقط.

تعامل مع هذا كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف الطرح مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.

استمر في الاستكشاف

Check your understanding

Test yourself: take the Artificial General Intelligence quiz

Start quiz