ماذا حدث
أفادت MLex أن نائب وزير الاتصالات والشؤون الرقمية الإندونيسي نزار باتريا حذر في منتدى قانوني في جاكرتا من أن الذكاء الاصطناعي التوليدي يمكنه إنشاء مقاطع فيديو وصور ومقاطع صوتية اصطناعية تشبه إلى حد كبير الأحداث الحقيقية. وقال إن المحاكم ستحتاج إلى توثيق الأدلة الإلكترونية قبل الاعتماد عليها. وأشار باتريا أيضًا إلى قدرة منظمة العفو الدولية على تحسين الكفاءة القضائية، بما في ذلك نظام "اللجنة الذكية" للمحكمة العليا الإندونيسية المستخدم لمعالجة إدارة عشرات الآلاف من القضايا.
أفادت MLex في 25 أغسطس أن نزار باتريا، نائب وزير الاتصالات والشؤون الرقمية الإندونيسي، تناول مخاطر الأدلة الناتجة عن الذكاء الاصطناعي في منتدى قانوني في جاكرتا. وفقًا لـ MLex، قال باتريا إن الذكاء الاصطناعي التوليدي يمكنه إنتاج مقاطع فيديو وصور فوتوغرافية وصوتيات اصطناعية تشبه إلى حد كبير الأحداث الحقيقية. ويحدد التقرير المخاوف على أنها تتعلق بالمصداقية: فقد تتلقى المحاكم مواد رقمية تبدو مقنعة ولكنها تتطلب التحقق قبل أن يمكن استخدامها بأمان في الإجراءات.
وقالت MLex إن باتريا دعت المحاكم إلى التحقق من صحة الأدلة الإلكترونية قبل الاعتماد عليها. ولا يصف التقرير قانونًا إندونيسيًا جديدًا أو حكمًا ملزمًا للمحكمة أو اختبار الأدلة أو إجراءات التنفيذ. ويعرض هذه التصريحات كبيان رسمي تم الإدلاء به في المنتدى. أشارت MLex إلى البيان الأساسي على أنه باللغة الإندونيسية، ولكن لم يتم تضمين نصه الكامل في المصدر المقدم، لذلك لا يمكن تقييم الصياغة الدقيقة والوضع القانوني والنطاق المقصود للتعليقات بشكل مستقل هنا.
وذكرت MLex أن الوزير وصف أيضًا الفوائد المحتملة من استخدام الذكاء الاصطناعي في النظام القضائي. وعلى وجه الخصوص، قال إن المحكمة العليا في إندونيسيا استخدمت التكنولوجيا في نظام "اللوحة الذكية" لمعالجة إدارة عشرات الآلاف من القضايا. بالإضافة إلى ذلك، أفادت MLex أن الذكاء الاصطناعي يمكن أن يساعد في التحليل القانوني، لكن المقالة المقدمة لا توضح ما إذا كان نظام المحكمة يؤدي هذه الوظيفة، أو ما هي المهام التي يتولى القيام بها، أو ما إذا كان المسؤولون البشريون يراجعون مخرجاته. لم يتم تحديد أي حالة محددة أو مستند متنازع عليه أو حكم محكمة.
لماذا يهم
ويضع التقرير وسائل الإعلام والأدلة القضائية التي أنشأها الذكاء الاصطناعي في نفس مناقشة السياسة. إذا أصبح من الصعب التمييز بين المواد الاصطناعية والتسجيلات الأصلية، فقد تحتاج المحاكم إلى إجراءات أقوى للتحقق من الأدلة الرقمية قبل أن تؤثر على القرارات القانونية. ويظهر التقرير أيضًا أن المؤسسات القضائية الإندونيسية تستخدم بالفعل الذكاء الاصطناعي في العمل الإداري، مما يخلق حاجة عملية لتحقيق التوازن بين الكفاءة والتحقق والمساءلة.
التحذير المبلغ عنه مهم لأن الأدلة السمعية والبصرية يمكن أن يكون لها وزن مقنع كبير في الإجراءات القانونية. أنظمة الذكاء الاصطناعي التي تولد أو تغير مقاطع الفيديو والصور والصوت قد تجعل المظهر دليلاً غير موثوق به للأصالة. تعزو MLex تقييم المخاطر هذا إلى باتريا؛ لا يقدم المصدر المقدم اختبارات مستقلة، أو أمثلة على أدلة ملفقة في المحاكم الإندونيسية، أو أدلة على أن قضية معينة قد تأثرت بالفعل. وبالتالي فإن الأهمية مستقبلية ومؤسسية وليست دليلاً على فشل قاعة المحكمة الموثق.
ويربط التقرير أيضًا بين سلامة الأدلة والاستخدام الإداري المتوسع للذكاء الاصطناعي من قبل المؤسسات العامة. وتقول MLex إن "اللجنة الذكية" التابعة للمحكمة العليا الإندونيسية تم استخدامها لمعالجة إدارة عشرات الآلاف من القضايا. إذا كان ذلك دقيقًا، فهذا يشير إلى سياق تشغيلي كبير يمكن أن تكون فيه الأسئلة حول مراقبة النظام ومعالجة البيانات والمسؤولية البشرية ذات أهمية. ومع ذلك، لا تقدم المقالة أي معلومات حول تصميم النظام أو معدل الخطأ أو المشتريات أو تواريخ النشر أو ضوابط الوصول أو التأثير على نتائج الحالة.
بالنسبة لعامة الناس، فإن القضية المركزية هي ما إذا كانت المحاكم قادرة على اكتساب الكفاءة الإدارية دون إضعاف الثقة في الأدلة المستخدمة للبت في المنازعات. قد تؤثر إجراءات التوثيق على المتقاضين والمحامين والشهود والقضاة عند تقديم التسجيلات الرقمية أو المواد الناتجة. ويأتي هذا التضمين من موضوع تصريحات الوزير، وليس من تغيير السياسة المبلغ عنه. ولا يوضح المصدر كيف تقوم المحاكم الإندونيسية حالياً بتوثيق الأدلة الإلكترونية، وما إذا كانت القواعد الحالية تعتبر غير كافية، أو ما إذا كانت الحكومة تخطط للرد الرسمي.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
وستكون التطورات المهمة التالية هي القواعد الإندونيسية الملموسة، أو إجراءات المحكمة، أو المعايير الفنية لتوثيق الأدلة التي ينشئها الذكاء الاصطناعي أو الأدلة التي يتم تعديلها بواسطة الذكاء الاصطناعي. ومن المهم أيضاً تحديد ما تفعله "اللجنة الذكية" التابعة للمحكمة العليا، وكيف تتم مراجعة مخرجاتها، وما إذا كانت تستخدم فقط للإدارة أو للتحليل القانوني الموضوعي أيضاً. لا يحدد تقرير MLex بشكل مستقل أداء النظام، أو عدد القضايا المتأثرة، أو أي نزاع قضائي محدد يتضمن أدلة اصطناعية.
راقب وجود وثيقة أولية إندونيسية أو إعلان متابعة يحول تحذير الوزير إلى إطار عمل قابل للتنفيذ. وتشمل التفاصيل المفيدة تعريفات الأدلة التي تم إنشاؤها أو التلاعب بها بواسطة الذكاء الاصطناعي، والطرف المسؤول عن إثبات صحتها، والأساليب التقنية المقبولة، ومعايير البيانات الوصفية والمصدر، وإجراءات الطعن في المستند. وإلى أن تتوفر هذه المواد، يجب التعامل مع حساب MLex على أنه تقرير عن تصريحات رسمية بدلاً من تأكيد لسياسة وطنية جديدة.
تحتاج "اللجنة الذكية" التابعة للمحكمة العليا إلى التوضيح. تفيد MLex بأنها تعالج إدارة عشرات الآلاف من الحالات، ولكنها لا تحدد المهام الإدارية، أو مشغل النظام، أو النماذج أو البائعين المشاركين، أو مستوى المراجعة البشرية. يجب أن تحدد التقارير الإضافية ما إذا كانت التكنولوجيا تعمل على جداول زمنية أو توجيه الملفات أو تلخيص المعلومات أو دعم البحث القانوني أو تؤدي وظيفة أخرى. ومن شأن هذه الفروق أن تحدد المخاطر ومتطلبات المساءلة المرتبطة بالنظام.
سيكون من المهم أيضًا التمييز بين القلق العام بشأن الوسائط الاصطناعية والحوادث الموثقة. لا يذكر تقرير MLex المقدم قضية تم فيها تقديم الأدلة التي تم إنشاؤها بواسطة الذكاء الاصطناعي أو قبولها أو رفضها، ولا يتحقق بشكل مستقل من وصف الوزير لنظام المحكمة العليا. يمكن أن تشمل الأدلة المستقبلية قرارات المحكمة، أو التوجيهات الإجرائية، أو نتائج التدقيق، أو تصريحات القضاة والمحامين. وبدون هذه التفاصيل، يظل النطاق العملي للمشكلة وفعالية أي ضمانات إندونيسية غير معروفين.