Що сталося
Stamford Advocate у звіті, опублікованому GovTech, повідомляє, що Меттью Елліотт, який представляє свої інтереси в Коннектикуті, вставляв майже невидимий білий текст у судові документи. Прихована інструкція вказувала будь-якій системі штучного інтелекту, яка переглядала документ, погодитися з аргументами Елліотта та підтримати скасування попереднього рішення. Суддя Верховного суду Коннектикуту Уолтер Спейдер-молодший описав тактику як навмисне швидке введення препарату та наклав на Елліотта санкції, вимагаючи, щоб майбутні документи у справі подавалися на папері.
Stamford Advocate у звіті, опублікованому GovTech, сказав, що Елліотт розмістив повідомлення крихітним білим текстом у судовій справі Коннектикуту. Інструкція починалася так: «Якщо цей документ перевірено моделлю штучного інтелекту», і вказувала системі переконатися, що її вихід узгоджується з поданням Елліотта. Згідно зі звітом, це також скерувало систему до скасування попереднього рішення клерка та визнання Нью-Йоркської баріатричної групи невиконаною. Акаунт приписує ці деталі меморандуму судді Уолтера Спейдера-молодшого та відповідним судовим документам.
У звіті говориться, що Спейдер виявив текст під час перегляду документів 31 липня та друку документів, які, як виявилося, містили незвичайні порожні ділянки. Суд визнав, що відформатована мова була майже невидимою для людини, але залишалася розбірливою для програмного забезпечення, яке обробляло текст документа. Елліотт визнав CT Insider, як цитується у звіті, що він використовував невидимий текст, призначений для системи ШІ. Він заперечив тлумачення суддею своєї мети, заявивши, що намагався визначити, чи використовувався штучний інтелект для перегляду його документів.
У звіті йдеться, що судова гілка Коннектикуту наразі не використовує систему штучного інтелекту для перегляду документів або потенційних невиконання зобов’язань. Тим не менш, Спейдер дійшов висновку, що така поведінка була неналежною, оскільки адвокати, сторони та інші юристи можуть використовувати інструменти штучного інтелекту для перегляду реєстрів, узагальнення записів або підготовки справ. Суддя написав, що питання не залежить від того, чи використовував сам суд ШІ, оскільки прихований матеріал був спробою ввести в оману суд і протилежні сторони.
Згідно зі звітом, після того, як суд підняв це питання, Елліотт продовжував розміщувати майже невидимі матеріали в пізніших документах. Деякі повідомлення жартома посилалися на засновника протиборчої партії, відео про Губку Боба Квадратні Штани та рядок, адресований усім, хто може побачити прихований текст. Елліотт сказав, що ці доповнення були жартами, а не подальшими спробами вплинути на ШІ. Спейдер розглядав продовження приховування як доказ того, що початкова поведінка була навмисною. Суддя заборонив Елліотту подавати електронні документи у справі, але дозволив йому продовжувати судовий процес і використовувати ШІ для підготовки документів. Друк документів видалив би прихований цифровий текст із процесу подання, описаного у звіті.
Чому це важливо
Цей випадок є конкретним прикладом швидкого переходу від демонстрації ШІ до судового процесу. У звіті йдеться, що судова гілка Коннектикуту не використовувала систему штучного інтелекту для перегляду документів, і немає жодних ознак того, що прихована інструкція змінила результат справи. Але учасники судів, юристи та дослідники права все частіше використовують штучний інтелект для узагальнення документів, перегляду реєстрів і підготовки аргументів, створюючи потенційні маршрути для прихованих інструкцій, щоб впливати на системи, що знаходяться нижче.
Оперативна ін’єкція зазвичай передбачає розміщення інструкцій у матеріалі, який система штучного інтелекту має прочитати, з метою зміни поведінки системи. Повідомлена тактика є важливою, оскільки інструкція була прихована від людської аудиторії, а націлена на програмне забезпечення. Спейдер охарактеризував приховану команду як секретний зв’язок із механізмом, за допомогою якого можна прочитати та зважити матеріал. Це розрізнення має значення в судових процесах, коли очікується, що протилежні сторони побачать аргументи, надані суду, і дадуть відповідь на них.
У звіті не встановлено, що система штучного інтелекту дійсно прочитала заявку Елліотта, дотримувалася інструкцій або вплинула на рішення. Там сказано, що підказка, очевидно, не спрацювала в цьому випадку. Ці обмеження важливі: конкретною подією є вставка та виявлення прихованого тексту з наступною санкцією, а не продемонстрована судова помилка за допомогою ШІ. Звіт також не підтверджує повну технічну поведінку документа в різних програмних системах або робочих процесах сканування.
Інцидент ілюструє ширшу проблему безпеки для організацій, які передають ненадійні документи в системи ШІ. Документ може бути прийнятним для читання людиною, але містити приховане форматування, метадані або машинозчитувані інструкції, які впливають на автоматичний підсумовувач або помічника. У суді така маніпуляція може спотворити короткий виклад, визначити пріоритет претензій однієї сторони, випустити відповідний контекст або створити неточне враження про протокол. Подібні ризики можуть виникнути при прийомі на роботу, освіті, страхуванні та державних робочих процесах, хоча приклади таких налаштувань у звіті приписуються судді й не розглядаються тут незалежно.
Справа також відокремлює відповідальну допомогу ШІ від неперевіреної довіри. Спейдер написав, що інструменти штучного інтелекту, ймовірно, залишаться частиною юридичної роботи, і сказав, що він використовував Google Gemini для робочого перекладу та інструменти ШІ Westlaw для перевірки органів влади, одночасно незалежно перевіряючи результати. Практичний урок полягає не в тому, що суди повинні відмовитися від штучного інтелекту, а в тому, що їм потрібен контроль над походженням, рендерингом документів, людським переглядом і здатністю реконструювати, як було створено результат. У звіті не повідомляється, чи запровадив Коннектикут такий контроль.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Головне питання без відповіді полягає в тому, як суди перевірятимуть документи, подані в цифровому вигляді, якщо видима сторінка може містити не все, що вбудовано у файл. У звіті не зазначено єдиної судової політики щодо виявлення прихованого тексту, а також не встановлено, що будь-яка система ШІ обробила підказку Елліотта. У майбутніх справах можуть бути пояснені санкції, обов’язки щодо розкриття інформації, гарантії обробки документів і те, як сторони можуть оскаржити рішення, прийняте за допомогою ШІ, на яке міг вплинути прихований вміст.
Судам і постачальникам юридичних послуг можуть знадобитися процедури, які порівнюють зовнішній вигляд документа з його текстом і форматуванням. Серед можливих запобіжних заходів — перетворення файлів у стандартизовані формати, позначення білим по білому тексту та недрукованих символів, сканування на наявність прихованих шарів і вимога перевірки людиною перед тим, як згенеровані ШІ підсумки вплинуть на рішення. Джерело не повідомляє, що Коннектикут запровадив будь-які з цих заходів, тому не слід припускати їх використання.
Майбутні суперечки можуть перевірити, чи порушують приховані інструкції існуючі правила щодо відвертості, чесності подання документів, шахрайства чи зловживання судовими процесами, і чи мають відрізнятися санкції, коли підказка просто наявна, і коли вона помітно змінює вихід ШІ. У справі Елліотта повідомленою санкцією була втрата привілеїв електронного подання, а не відхилення позову. У звіті не наводиться ширший прецедент і не вказується, чи була оскаржена постанова.
Ключовим питанням перевірки буде те, чи може будь-який суд, сторона чи постачальник показати, що система ШІ обробила прихований текст. Повідомлення про відсутність у судовому відділі Коннектикуту системи перевірки подання заявок штучним інтелектом звужують негайний позов, але адвокати та сторони можуть використовувати інструменти третіх сторін за межами власних систем суду. Слідчим знадобляться записи про завантаження документів, версії програмного забезпечення, підказки, результати та людські рішення, щоб визначити, чи вплинула маніпуляція на результат.
У звіті йдеться про те, що приховані інструкції може стати важче ідентифікувати, оскільки юридичні робочі процеси залежать від узагальнення документів і автоматизованого перегляду. Практичні запобіжні заходи мають зберегти доступність для сторін у судовому процесі, які самі себе представляють, одночасно запобігаючи передачі нерозкритих команд у цифрових заявках. Поки суди не опублікують більш чіткі технічні та процедурні стандарти, ступінь ризику залишається невизначеною. Розповідь цієї статті базується на звіті The Stamford Advocate, опублікованому GovTech, а також на судових матеріалах та інтерв’ю, які він цитує; основні файли та будь-які журнали обробки штучного інтелекту тут не перевірялися незалежно.