Что случилось
MLex сообщает, что заместитель министра связи и цифровых технологий Индонезии Незар Патрия предупредил на юридическом форуме в Джакарте, что генеративный искусственный интеллект может создавать синтетические видео, фотографии и аудио, которые очень похожи на реальные события. Он сказал, что судам необходимо будет подтвердить подлинность электронных доказательств, прежде чем полагаться на них. Патрия также указал на потенциал ИИ для повышения эффективности судебной системы, в том числе на систему «умной панели» Верховного суда Индонезии, используемую для обработки десятков тысяч дел.
MLex сообщила 25 августа, что Незар Патрия, заместитель министра связи и цифровых технологий Индонезии, рассмотрел риски, связанные с доказательствами, созданными с помощью ИИ, на юридическом форуме в Джакарте. По данным MLex, Патрия заявила, что генеративный искусственный интеллект может создавать синтетическое видео, фотографии и аудио, которые очень похожи на реальные события. В докладе отмечается, что проблема связана с подлинностью: суды могут получать цифровые материалы, которые кажутся убедительными, но требуют проверки, прежде чем их можно будет безопасно использовать в разбирательстве.
MLex сообщила, что Patria призвала суды проверять подлинность электронных доказательств, прежде чем полагаться на них. В докладе не описываются новый индонезийский закон, обязательное судебное решение, проверка доказательств или принудительные действия. Он представляет эти замечания как официальное заявление, сделанное на форуме. MLex отмечает, что основное заявление написано на индонезийском языке, но его полный текст не включен в предоставленный источник, поэтому точная формулировка, правовой статус и предполагаемый объем комментариев не могут быть оценены здесь независимо.
Министр также описал потенциальные выгоды от использования ИИ в системе правосудия, сообщает MLex. В частности, он сказал, что Верховный суд Индонезии использовал эту технологию в системе «умной панели» для управления десятками тысяч дел. MLex также сообщил, что ИИ может помочь в юридическом анализе, но в предоставленной статье не объясняется, выполняет ли судебная система эту функцию, какие задачи она выполняет и проверяют ли ее результаты сотрудники-люди. Конкретного случая, спорных вещественных доказательств или решения суда не выявлено.
Подробности об источнике: mlex.com ↗
Почему это важно
В докладе собранные с помощью искусственного интеллекта доказательства в СМИ и судебные доказательства рассматриваются в рамках одной и той же политической дискуссии. Если синтетический материал станет сложнее отличить от подлинных записей, судам могут потребоваться более строгие процедуры проверки цифровых доказательств, прежде чем они повлияют на судебные решения. В докладе также показано, что индонезийские судебные учреждения уже используют ИИ для административной работы, что создает практическую необходимость сбалансировать эффективность с проверкой и подотчетностью.
Сообщенное предупреждение имеет значение, поскольку аудиовизуальные доказательства могут иметь существенную убедительную силу в судебных разбирательствах. Системы искусственного интеллекта, которые генерируют или изменяют видео, изображения и аудио, могут оказаться ненадежным показателем подлинности. MLex приписывает эту оценку риска компании Patria; предоставленный источник не предоставляет независимого тестирования, примеров сфабрикованных доказательств в индонезийских судах или доказательств того, что конкретное дело уже было затронуто. Таким образом, значение имеет перспективный и институциональный характер, а не доказательство задокументированного провала суда.
В докладе также связывается целостность доказательств с расширением административного использования ИИ государственными учреждениями. MLex утверждает, что «умная панель» Верховного суда Индонезии использовалась для обработки десятков тысяч дел. Если это так, то это указывает на существенный операционный контекст, в котором вопросы о надзоре за системой, обработке данных и ответственности человека могут иметь значение. Однако в статье не содержится никакой информации о конструкции системы, частоте ошибок, закупках, датах развертывания, средствах контроля доступа или влиянии на исход дела.
Для общественности центральный вопрос заключается в том, смогут ли суды добиться административной эффективности, не ослабляя доверия к доказательствам, используемым для разрешения споров. Процедуры аутентификации могут затрагивать истцов, адвокатов, свидетелей и судей всякий раз, когда предоставляются цифровые записи или созданные материалы. Этот вывод следует из темы высказываний министра, а не из сообщения об изменении политики. Источник не уточняет, как индонезийские суды в настоящее время подтверждают подлинность электронных доказательств, считаются ли существующие правила неадекватными и планирует ли правительство официальный ответ.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Следующими важными событиями станут конкретные индонезийские правила, судебные процедуры или технические стандарты для аутентификации доказательств, созданных или измененных ИИ. Также важно установить, чем занимается «умная комиссия» Верховного суда, как проверяются ее результаты и используется ли она только для администрирования или также для существенного юридического анализа. В отчете MLex не указывается независимо производительность системы, количество затрагиваемых дел или какой-либо конкретный судебный спор, связанный с синтетическими доказательствами.
Следите за индонезийским первичным документом или последующим объявлением, которые превратят предупреждение министра в действенную основу. Полезные подробности будут включать определения доказательств, созданных или манипулируемых ИИ, стороны, ответственной за доказательство подлинности, принятых технических методов, стандартов метаданных и происхождения, а также процедур оспаривания экспонатов. Пока такие материалы не будут доступны, аккаунт MLex следует рассматривать как сообщение об официальных замечаниях, а не как подтверждение новой национальной политики.
«Умная панель» Верховного суда требует разъяснений. MLex сообщает, что обрабатывает администрирование десятков тысяч дел, но не определяет административные задачи, оператора системы, вовлеченные модели или поставщиков или уровень проверки человеком. В дальнейших отчетах должно быть установлено, составляет ли технология график работы, маршрутизирует файлы, обобщает информацию, поддерживает юридические исследования или выполняет другую функцию. Эти различия будут определять риски и требования к подотчетности, предъявляемые к системе.
Также важно будет отличать общую обеспокоенность по поводу синтетических СМИ от задокументированных инцидентов. В предоставленном отчете MLex не упоминается случай, в котором доказательства, сгенерированные ИИ, были представлены, приняты или отклонены, и он не подтверждает независимое описание министра системы Верховного суда. Будущие доказательства могут включать судебные решения, процессуальные рекомендации, выводы аудита или заявления судей и адвокатов. Без этих подробностей практический масштаб проблемы и эффективность любых индонезийских гарантий остаются неизвестными.