الدعوى القضائية تزعم أن xAI قام بتدريب Grok على CSAM الذي يصور الناجي

ماذا حدث

أفاد بريتبارت أن امرأة تدعى جين دو رفعت دعوى قضائية ضد شركة xAI التابعة لإيلون ماسك، والتي يقول التقرير إنها الآن جزء من SpaceX، زاعمة أن Grok تم تدريبها على مواد الاعتداء الجنسي على الأطفال التي تصورها. يقول التقرير إن الدعوى تتعلق بصور إساءة الاستخدام التي تم إنشاؤها عندما كان Doe في مرحلة ما قبل المدرسة وتم تتبعها لاحقًا باستخدام تجزئات الصورة.

أفاد بريتبارت أن جين دو رفعت دعوى قضائية جماعية مقترحة ضد xAI من إيلون موسك، زاعمة أن الشركة قامت بتدريب برنامج الدردشة Grok الخاص بها على مواد الاعتداء الجنسي على الأطفال التي تصورها. وفقًا للتقرير، حدثت الإساءة الأساسية عندما كان دو في مرحلة ما قبل المدرسة في أوائل العقد الأول من القرن الحادي والعشرين، عندما أنتج رجال بالغون صورًا تم تداولها لاحقًا عبر الإنترنت. ويقول التقرير إن الصور تم تجزئةها من قبل المركز الوطني للأطفال المفقودين والمستغلين والمركز الكندي لحماية الطفل، مما يسمح للخدمات بالتعرف على النسخ عند ظهورها مرة أخرى.

وفقًا لرواية بريتبارت للشكوى، أخبر المركز الكندي لحماية الطفل دو أن أدوات CSAM التي أنشأها الذكاء الاصطناعي والتي تصورها قد ظهرت على xAI. تزعم الشكوى، كما نقلتها بريتبارت ولخصتها، أن قيم التجزئة المعروفة المرتبطة بالصور التي تصور دو كانت جزءًا من مجموعة بيانات تستخدمها xAI. ويقول التقرير أيضًا إن الشكوى تربط السلوك المزعوم بالمناقشات عبر الإنترنت حول إنشاء CSAM بواسطة الذكاء الاصطناعي والتي تصور الناجين المعروفين. هذه ادعاءات في دعوى قضائية، وليست نتائج أثبتتها المحكمة.

تفيد بريتبارت أن الشكوى تزعم أن xAI تخزن الصور التي تم إنشاؤها بواسطة Grok وتعيد استخدامها لتدريب النموذج أو مواصلة تدريبه. تقول المقالة أيضًا أن شروط خدمة Grok تعامل المنشورات العامة على مخرجات X وGrok كبيانات تدريب بشكل افتراضي. وتقول الشكوى إن هذا قد يسمح للمواد المسيئة المنشورة علنًا، أو التي ينتجها النظام، بالدخول إلى مسار التدريب والتأثير على المخرجات اللاحقة. لا يقدم المصدر أدلة فنية تم التحقق منها بشكل مستقل توضح بالضبط كيفية تأثير أي صورة معينة على Grok.

يقول التقرير إن xAI يقوم بتصفية المواد العنيفة من بيانات التدريب، لكن شروطه لا تستبعد على وجه التحديد صور الاعتداء الجنسي على الأطفال، أو الصور الحميمة غير التوافقية، أو غيرها من المواد الجنسية. تتهم الدعوى القضائية التي رفعها دو xAI بانتهاك القوانين الفيدرالية المتعلقة باستغلال الأطفال في المواد الإباحية وقانون ماشا. أفاد موقع Breitbart أن الدعوى تسعى للحصول على تعويضات للضحايا الذين يمكنهم إثبات أن Grok قامت بإنشاء CSAM استنادًا إلى صورهم الحقيقية، بالإضافة إلى الأوامر التي تتطلب من xAI تدمير CSAM المخزنة أو المرتبطة بالتدريب ومنع الجيل المستقبلي. ولم يذكر المصدر أن أي محكمة وافقت على هذه الطلبات.

تفاصيل المصدر: breitbart.com ↗

لماذا يهم

إذا تم إثبات هذه الادعاءات، فقد تختبر القضية كيفية تعامل شركات الذكاء الاصطناعي مع مواد إساءة الاستخدام المعروفة في بيانات التدريب، والمخرجات الناتجة، والمحتوى الذي يحمّله المستخدم. ويمكنه أيضًا توضيح الواجبات القانونية المطبقة عندما يقوم النموذج بإعادة إنتاج أو تحويل مادة مرتبطة بناجٍ تم تحديده.

تتعلق هذه الادعاءات بمشكلة مركزية في سلامة الذكاء الاصطناعي التوليدي: يمكن أن يتأثر النموذج بمواد ضارة قبل أن تكتشف الشركة الملفات الأساسية أو تزيلها. تفيد بريتبارت أن الشكوى تقول إن حذف صورة من مصدر عام قد لا يزيل تأثيرها من نموذج تم تدريبه بالفعل. يتم تقديم هذه النقطة الفنية كمطالبة في التسجيل؛ لا يحدد المصدر ما إذا كان Grok قد احتفظ بأي صورة معينة أو حفظها أو أعاد إنتاجها من خلال الآلية الموضحة.

عادةً ما يتم تتبع مواد CSAM المعروفة باستخدام التجزئات حتى تتمكن الأنظمة الأساسية من اكتشاف النسخ دون توزيع المواد بشكل متكرر للمراجعة. يقول التقرير إن الشكوى تزعم أنه تم استخدام الصور ذات قيم التجزئة المعروفة منذ فترة طويلة في مجموعة بيانات xAI. وإذا تم التحقق من ذلك، فإن ذلك من شأنه أن يثير تساؤلات حول ما إذا كانت أنظمة الكشف الحالية قد تم تطبيقها أثناء جمع البيانات، وما إذا كانت هناك استثناءات أو ثغرات في تدفق البيانات، وما إذا كان قد تم فحص المخرجات الناتجة وإزالتها بشكل منفصل.

يمكن أن يكون لهذه الحالة آثار تتجاوز xAI لأن العديد من الأنظمة التوليدية تجمع بين بيانات الويب واسعة النطاق ومحتوى المستخدم والمواد التي تم إنشاؤها بواسطة النموذج. يستشهد بريتبارت بدراسة سابقة تتضمن مؤشر الصور LAION الذي حدد أكثر من 3200 صورة مشتبه بها لإساءة معاملة الأطفال في قاعدة بيانات الذكاء الاصطناعي. هذا المثال السابق عبارة عن خلفية تم الإبلاغ عنها بواسطة Breitbart، وليس دليلاً على أن Grok استخدم نفس المادة أو أن جميع الصور المشتبه بها تم تأكيدها على أنها CSAM.

كما تضع المطالبات القانونية شروط استخدام البيانات قيد التدقيق. إذا تم استخدام المنشورات العامة والمخرجات النموذجية للتدريب بشكل افتراضي، فقد يكون لدى المستخدمين والناجين سيطرة عملية محدودة على كيفية نسخ المواد الضارة أو الاحتفاظ بها أو إعادة استخدامها. لا يوضح المصدر كيف تفسر xAI شروطها في هذه الحالة، وما إذا كانت قد غيرتها، أو ما هي الضمانات التي تطبقها على CSAM، أو ما إذا تم استيعاب الصور المزعومة عن عمد أو عن غير قصد أو من خلال مجموعة بيانات تابعة لجهة خارجية.

ماذا تشاهد بعد ذلك

الأسئلة الرئيسية هي ما إذا كان من الممكن دعم المطالبات الفنية للشكوى، وما إذا كانت xAI تستجيب للادعاءات أو تعترض عليها، وما إذا كانت المحكمة تأمر بالحفظ أو الحذف أو التصفية أو إجراء تغييرات أخرى على Grok. قد تلفت الحالة أيضًا الانتباه إلى شروط استخدام البيانات الافتراضية للمشاركات العامة والمخرجات النموذجية.

سيكون الرد من xAI مهمًا، بما في ذلك ما إذا كانت الشركة تنكر أن الصور دخلت بيانات تدريب Grok، أو تعارض العلاقة المزعومة بين مخرجات Grok والصور الحقيقية لـ Doe، أو تصف أي تحقيق وعلاج. لا يتضمن تقرير بريتبارت ردًا من xAI، ولم يتم الاستشهاد بأي تدقيق فني مستقل للتحقق من حساب الشكوى.

يجب أن توضح ملفات المحكمة وأحكامها الأدلة التي يجب على المدعي تقديمها لربط المواد التي تم إنشاؤها بصور ناجية معينة وإثبات معرفة أو سلوك xAI. يقول المصدر إن الدعوى مقترحة كدعوى جماعية، لكنها لا تحدد ما إذا كان سيتم التصديق على الفئة، أو ما إذا كانت المطالبات ستنجو من الطلبات المبكرة، أو ما إذا كانت المحكمة قد توصلت إلى نتائج بشأن المسؤولية.

تشمل الضمانات العملية التي يجب مراقبتها مطابقة التجزئة أثناء استيعاب مجموعة البيانات، وحظر المطالبات والمخرجات التي تتضمن أطفالًا حقيقيين أو ناجين معروفين، وسياسات الاحتفاظ والحذف للصور التي تم إنشاؤها، وضوابط استخدام مخرجات النموذج كبيانات تدريب. لا يذكر التقرير أيًا من هذه الإجراءات يعمل بها xAI حاليًا أو ما إذا كان قد تم تغيير أي منها منذ التقديم.

يمكن أن تؤثر العلاجات المطلوبة أيضًا على سياسات المحتوى الجنسي الأوسع الخاصة بـ Grok. تفيد بريتبارت أن الشكوى تسعى إلى فرض قيود يمكن أن تغطي الصور الحميمية غير التوافقية وغيرها من المخرجات الجنسية، بما في ذلك المواد التي تربطها المقالة بقدرات NSFW التي روجت لها Grok. ولا يزال من غير المعروف ما إذا كانت المحكمة ستفرض مثل هذه القيود الواسعة، أو ما إذا كانت xAI ستتبناها طوعًا، أو كيف سيتم تنفيذ أي أمر عبر المحتوى الذي تم إنشاؤه وأنظمة التدريب.

الأدلة والاختبارات ذات الصلة