Що сталося
BBC повідомляє, що люди використовують чат-боти штучного інтелекту, щоб складати скарги, апеляції та запити щодо свободи інформації до державних органів Великобританії. Отримані документи можуть займати десятки сторінок, неточно цитувати законодавство чи прецедентне право та вимагати додаткових роз’яснень чи юридичної перевірки. Ради, школи та інформаційні групи повідомили BBC, що збільшення створює значне приховане навантаження.
BBC повідомляє, що чат-боти штучного інтелекту використовуються для написання скарг до шкіл, місцевих рад та інших державних органів, а також оскарження штрафів за паркування та рішень про пільги. У звіті йдеться, що документи, які займають один аркуш формату А4, можуть складати 20 сторінок і більше. Дебора Еванс, виконавчий директор Lawyers in Local Government, розповіла BBC, що деякі скарги щодо таких питань, як незібрані баки, розширилися до 19-27 сторінок, включаючи посилання на прецедентне право та акти парламенту. Це звітні спостереження, а не незалежно підтверджені вимірювання.
Повідомлена зміна — це не просто збільшення кількості слів. BBC повідомляє, що державні органи стикаються зі скаргами, які містять складні аргументи, некоректні заяви та неправильне цитування законодавства. Еванс сказав BBC, що особам, які розглядають скарги, може знадобитися проконсультуватися з юристами, що збільшить витрати рад і сповільнить реагування. Омбудсмен із питань місцевого самоврядування та соціального забезпечення заявив, що він бачив більше використання штучного інтелекту під час юридичних оскаржень його рішень, і що штучний інтелект слід використовувати з обережністю.
Школи повідомляють про подібну проблему. Пепе Ді'Ясіо, генеральний секретар Асоціації керівників шкіл і коледжів, сказав BBC, що кількість скарг зростає з кількох причин, і ШІ додає зусиль, необхідних для їх вирішення. Він сказав, що школи бачили, як батьки використовували штучний інтелект для створення численних великих скарг. У звіті не встановлюється, наскільки це збільшення викликано штучним інтелектом, а не більш широкими змінами в кількості скарг, доступі до державних послуг або поведінці батьків.
BBC також повідомляє про зростання кількості запитів щодо свободи інформації за допомогою ШІ. Офіс Уповноваженого з питань інформації повідомив у травні, що командам FOI було повідомлено про більші обсяги та більшу складність, включаючи запити з неправильним цитуванням законодавства або потребу в значних роз’ясненнях. Лінн Вайет з Національної асоціації спеціалістів із захисту даних описала приховане навантаження, пов’язане з тривалим листуванням, роз’ясненнями та складними зверненнями. Джерело не надає національного підрахунку скарг або запитів за допомогою штучного інтелекту та незалежно не підтверджує частку, написану за допомогою штучного інтелекту.
У звіті представлені конкуруючі ефекти. Доун Харверсон, яка розповіла BBC, що їй важко писати, сказала, що штучний інтелект зробив практичні зміни в представленні себе. Інші люди, з якими зв’язалися BBC Radio 5 Live, розповідали про використання штучного інтелекту, щоб скоротити довгі скарги до коротших відповідей, або сказали, що чат-боти часто підкріплюють думку користувача, а не перевіряють, чи варто скарга. Таким чином, звіт BBC описує зміну процесу публічного листування, але не показує, що скарги, створені штучним інтелектом, однаково легковажні, недійсні чи неточні.
Чому це важливо
ШІ може зробити публічні скарги та апеляції більш доступними, особливо для людей, яким важко писати або відчувають страх через офіційні процедури. Але якщо подання, створені штучним інтелектом, є значно довшими, повторюваними або юридично неточними, державним органам може знадобитися більше часу та персоналу для їх обробки, що може сповільнити відповіді та збільшити витрати. У звіті підкреслюється напруга між доступом до систем підзвітності та здатністю цих систем реагувати справедливо.
Скарги за допомогою ШІ можуть зменшити реальні перешкоди для участі. Харверсон сказав BBC, що люди, які є нейродивергентами, яких лякають письмом або підштовхують до служб електронної пошти, інакше можуть уникати скарг. У цьому сенсі ШІ може функціонувати як допомога в доступності та написанні, допомагаючи комусь пояснити проблему, організувати докази або зрозуміти, як розпочати офіційний процес. Звіт не дає підстав для висновку, що люди, які використовують штучний інтелект, мають менше права скаржитися або що довгі подання не є обґрунтованими.
Інституційні витрати виникають, коли організація-одержувач мусить розглядати кожну тривалу або юридично оформлену заявку як таку, що потребує детальної перевірки. BBC повідомляє, що юристи державного сектору та особи, які займаються розглядом скарг, бачать документи, які довші, ніж це вимагається для основної проблеми, і які можуть містити неточні юридичні посилання. Співробітникам, можливо, доведеться відокремлювати релевантні факти від створених тверджень, шукати роз’яснень і залучати юридичних радників. Джерело не вказує кількісно додаткові витрати, час обробки чи рівень помилок, але цитовані офіційні особи описують тягар як значний.
Є також питання справедливості. Якщо державні органи реагують на гучність, обмежуючи довжину скарг або вимагаючи більш структурованих форм, вони можуть полегшити обробку справ, але ускладнити для деяких людей подання. Еванс сказав BBC, що ради можуть розглянути форми для обмеження тривалості скарги, тоді як інші вважають такі заходи потенційним обмеженням відповідальності. Система, ефективна для рутинних випадків, все одно може підвести людей, чиї ситуації складні, погано задокументовані або важко висловити в стандартному форматі.
Проблема поширюється не тільки на індивідуальні скарги, але й на функціонування систем публічної звітності. Запити та звернення щодо свободи інформації є механізмами, за допомогою яких люди можуть перевіряти органи державної влади. Якщо запити за допомогою штучного інтелекту спричиняють затримки, помилки чи додаткові скарги, як попереджає ICO, це може статися без практичної підтримки, отримана шкода може вплинути як на запитувачів, так і на державні органи. У той же час, відхиляючи подання через те, що вони виглядають за допомогою штучного інтелекту, ризикує покарати людей за використання інструменту, який допоміг їм взяти участь.
Звіт ВВС не демонструє незалежної загальнонаціональної кризи чи доводить, що штучний інтелект є основною причиною зростання кількості скарг. Він містить свідчення юристів місцевого самоврядування, омбудсмена, керівників шкіл, спеціалістів з управління інформацією та представників громадськості. Значущі невідомі включають масштаб тенденції, скільки повідомлень містить суттєві помилки, чи скаржаться користувачі ШІ більше, ніж раніше, і чи можуть державні органи виконувати додаткову роботу за допомогою кращих процесів, а не просто додавати персонал.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Що дивитися далі
Ключові питання полягають у тому, наскільки поширені подання за допомогою штучного інтелекту, чи збільшують вони вимірно затримки чи витрати, і як державні органи можуть керувати обсягом, не перешкоджаючи законним скаргам. Майбутні розробки можуть включати більш чіткі форми подання, інструкції щодо використання штучного інтелекту в скаргах і запитах на інформацію, а також інструменти державного сектору для узагальнення або сортування листування. Будь-яка така відповідь потребуватиме захисту від упущення складних або погано написаних випадків.
Державні органи можуть відповісти структурованими формами, обмеженням кількості слів або сторінок, більш чіткими вказівками та запитами щодо стислих резюме разом із супровідними матеріалами. Ці заходи могли б зменшити роботу обробки, якої можна уникнути, але їх дизайн матиме значення. Редактори та офіційні особи повинні спостерігати за тим, чи нові процедури зберігають альтернативні маршрути для людей, які потребують допомоги, чи приймають докази, які не можна легко стиснути, і вказують причини, коли подання повертається для пояснення.
Наступним корисним доказом були б порівняльні дані від рад, шкіл, служб омбудсмена та команд із свободи інформації. Це може включати кількість скарг і запитів, середню тривалість, час обробки, рівень юридичних перевірок, рівень помилок і частку, визначену як за допомогою ШІ. Джерело не містить такого національного набору даних. Без нього заяви про загальний сплеск мали б залишатися пов’язаними зі звітами BBC та організаціями, з якими воно зв’язалося, а не розглядатися як незалежно встановлені підсумкові дані.
Використання штучного інтелекту в державному секторі є ще однією невирішеною частиною історії. Вайет сказав BBC, що владі потрібен дозвіл на використання штучного інтелекту, щоб впоратися зі збільшенням кількості запитів. Якщо агентства запровадять інструменти узагальнення чи сортування, їм потрібно буде показати, як працює перевірка людьми, як обробляється конфіденційна інформація та як важливі деталі захищені від пропуску. Джерело не повідомляє, що якийсь конкретний орган розгорнув таку систему, і не надає доказів точності можливих інструментів.
Групи підзвітності та державні органи також повинні розрізняти допомогу та заміну. ШІ може допомогти людині перекласти досвід офіційною мовою, але у звіті припускається, що чат-боти також можуть виробляти складні подання, не перевіряючи, чи аргумент є пропорційним чи правильним. Рекомендації можуть спонукати користувачів перевірити юридичні посилання, визначити засіб правового захисту, який вони шукають, і видалити повторення. Такі поради стосуватимуться якості, не розглядаючи використання ШІ як доказ недобросовісності.
Нарешті, чиновники та журналісти повинні стежити за тим, чи дебати зрушуються в бік доступу до людського контакту. Вчитель початкової школи сказав BBC, що головною проблемою може бути зниження здатності спілкуватися безпосередньо з державним персоналом, а не використання штучного інтелекту. Це спостереження не є перевіреним поясненням тенденції, але воно визначає практичний тест для майбутньої політики: чи можуть державні органи зробити процеси подання скарг та інформації доступними для людей, які використовують ШІ, і чуйними для людей, яким потрібна людська розмова.