Що сталося
Департамент юстиції Тасманії підтвердив перевірку використання штучного інтелекту в рішеннях про умовно-дострокове звільнення після рішення суду, яке визнало недійсною умову умовно-дострокового звільнення, накладену на Сьюзан Ніл-Фрейзер. Рішення показало, що Комісія з умовно-дострокового звільнення покладалася на документ за допомогою штучного інтелекту, посилаючись на прецедентне право, якого не існує.
Департамент юстиції Тасманії підтвердив у п’ятницю, що проводить перевірку, щоб визначити, якою мірою штучний інтелект міг бути використаний для інформування про минулі рішення Комісії Тасманії щодо умовно-дострокового звільнення. Ця дія була прийнята після рішення Верховного суду Тасманії у вівторок, який визнав умову умовно-дострокового звільнення, застосовану до засудженої вбивці Сьюзан Ніл-Фрейзер, недійсною через відсутність процесуальної справедливості.
Під час судового оскарження виявилося, що Комісія з умовно-дострокового звільнення покладалася на документ, підготовлений за допомогою AI. Цей документ цитував судову практику, якої не існує, явище, відоме як галюцинація ШІ. Суд постановив, що умова, яка перешкоджала Ніл-Фрейзер говорити зі ЗМІ про її ймовірне незаконне засудження, була зроблена без належних процесуальних гарантій.
Комісія з умовно-дострокового звільнення, незалежний орган, заявила, що не коментує окремі питання та не може відповісти на запитання щодо масштабів використання ШІ. Однак генеральний прокурор штату Гай Барнетт написав до Ради з вимогою пояснень, назвавши помилку неприйнятною. Представник міністерства юстиції зазначив, що наразі перевірка триває, і додаткові подробиці надати не можуть.
У відповідь на це рішення Грег Барнс, голова Юридичної служби ув’язнених Тасманії, оголосив, що його організація проводить власний аудит рішень Комісії щодо умовно-дострокового звільнення за два роки. Цей незалежний огляд спрямований на виявлення будь-яких інших випадків використання штучного інтелекту або подібних помилок у минулих рішеннях. Сара Шварц з Human Rights Law Centre, яка представляла Neill-Fraser, описала ситуацію як виявлення серйозних недоліків у роботі Правління.
Деталі джерела: theguardian.com ↗
Чому це важливо
Цей інцидент підкреслює значні ризики при розгортанні штучного інтелекту в критичних правових та адміністративних процесах, зокрема щодо галюцинацій правових прецедентів. Огляд спрямований на визначення масштабів впливу штучного інтелекту на минулі рішення, вирішення проблем щодо процесуальної справедливості та чесності судових результатів.
Використання штучного інтелекту в важливих судових рішеннях, таких як слухання про умовно-дострокове звільнення, викликає критичні питання щодо підзвітності та точності. Виявлення фальшивої цитати у визнаному судом документі демонструє, що інструменти штучного інтелекту можуть вводити фактичні помилки, які не можуть бути виявлені особами, що перевіряють, потенційно скомпрометувавши права осіб, залучених до системи правосуддя.
Цей випадок служить конкретним прикладом ризиків, пов’язаних з інтеграцією генеративного ШІ в адміністративні та судові робочі процеси. Це підкреслює необхідність надійних протоколів перевірки та чітких інструкцій щодо використання ШІ в контекстах, коли рішення мають значні юридичні та особисті наслідки.
Огляд, проведений департаментом юстиції Тасманії, і незалежний аудит, проведений юридичною службою ув’язнених Тасманії, ймовірно, створять прецедент для того, як інші юрисдикції підходять до нагляду за ШІ в судових процесах. Результат може вплинути на політичні дискусії щодо безпеки та надійності ШІ в державних установах.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Результати перевірки міністерства юстиції та незалежного аудиту Юридичної служби ув’язнених Тасманії, яка перевіряє рішення Комісії з умовно-дострокового звільнення за два роки на наявність ознак використання штучного інтелекту або помилок.
Висновки огляду департаменту юстиції Тасманії, який прояснить масштаби використання ШІ в минулих рішеннях Комісії з умовно-дострокового звільнення та будь-які виявлені системні проблеми.
Результати аудиту, проведеного Юридичною службою Тасманії за два роки, які можуть виявити додаткові випадки помилок або процедурних збоїв, пов’язаних зі штучним інтелектом.
Потенційні зміни в політиці або нові вказівки, видані урядом Тасманії або Комісією з умовно-дострокового звільнення, щоб регулювати використання штучного інтелекту в майбутніх рішеннях щодо умовно-дострокового звільнення та інших судових процедурах.