Що сталося
За даними Staffing Industry Analytics, судові процеси щодо штучного інтелекту у сфері зайнятості розвиваються, а суди розглядають рішення, прийняті за допомогою штучного інтелекту, так само, як рішення, прийняті людьми. У справі «Моблі проти робочого дня» федеральний суд відхилив аргументи про те, що закони про дискримінацію за віком не застосовуються до претендентів на роботу, і дозволив розгляд позовів про інвалідність, встановивши, що інструменти перевірки штучного інтелекту можуть притягнути до відповідальності як постачальників, так і роботодавців. Водночас у нових судових позовах проти IBM і Meta стверджується, що системи штучного інтелекту використовувалися для непропорційного звільнення літніх працівників і покарання працівників у захищеній відпустці за допомогою показників продуктивності.
За даними Staffing Industry Analytics (SIA), судові процеси щодо штучного інтелекту в управлінні програмами поширюються, а суди та регулятори розглядають рішення про працевлаштування на основі штучного інтелекту так само, як рішення, прийняті людьми. У статті підкреслюється, що екосистема умовної робочої сили більше не може брати на себе відповідальність лише за постачальників програмного забезпечення, а також постачальники не можуть брати на себе всю відповідальність за роботодавців.
У справі Mobley проти Workday, поданій у 2023 році, позивач стверджував, що інструменти перевірки кандидатів Workday на основі штучного інтелекту дискримінують претендентів на роботу на основі раси, віку та інвалідності. У березні 2026 року суд відхилив аргумент Workday про те, що різні заборони щодо впливу Закону про дискримінацію за віком у працевлаштуванні не поширюються на претендентів на роботу. 22 червня суд частково відхилив клопотання Workday про звільнення, постановивши, що Закон Каліфорнії про справедливу зайнятість і житло може застосовуватися до інструментів Workday навіть для заявників за межами Каліфорнії, і дозволив подати позов ADA на основі тверджень про те, що інструменти розглядають прогалини в стажі роботи як проксі-сервер.
Окремий позов Kistler v. Eightfold AI, поданий у січні, висуває нову теорію про те, що Eightfold діє як агентство, що повідомляє про споживачів відповідно до Закону про справедливу кредитну звітність (FCRA). Суд заслухав усні аргументи 4 серпня, рішення очікується. Цей випадок залежить не від доказу упередженості алгоритму, а від того, чи оцінка штучного інтелекту є звітом споживача.
Нові позови, подані проти IBM і Meta, свідчать про те, що наступна хвиля судових процесів буде зосереджена на моніторингу та звільненні співробітників із підтримкою ШІ. У позові IBM, поданому в травні, стверджується, що IBM відібрала старших співробітників для звільнення та налаштувала системи відстеження заявників, щоб запобігти повторному найму літніх колишніх співробітників. У позові Meta, поданому 13 липня, стверджується, що показники продуктивності за допомогою штучного інтелекту та інструменти управління робочою силою не врахували дозволених прогулів, завдаючи непропорційної шкоди працівникам з обмеженими можливостями або тим, хто перебуває у захищеній відпустці під час скорочення в травні.
SIA рекомендує роботодавцям проводити аудит інструментів штучного інтелекту, оновлювати оцінки впливу алгоритмів і переглядати контракти з постачальниками. Організація зазначає, що напруженість між жорсткими законами штату та федеральними дерегуляційними поштовхами навряд чи буде вирішена найближчим часом, що робить надійні програми управління штучним інтелектом необхідними для захисту від позовів про дискримінацію та регулятивних розслідувань.
Деталі джерела: staffingindustry.com ↗
Чому це важливо
Ця подія є важливою, оскільки вона пояснює, що постачальники ШІ не можуть захистити себе від відповідальності за дискримінацію, стверджуючи, що вони лише постачальники програмного забезпечення. Для роботодавців це означає, що використання штучного інтелекту для найму, моніторингу ефективності чи скорочення робочої сили несе ті ж юридичні ризики, що й рішення, прийняті вручну. Рішення передбачають, що будь-який інструмент штучного інтелекту, який оцінює або ранжує заявників, а не просто застосовує прості фільтри, може підпадати під дію федеральних законів про громадянські права. Це перекладає тягар на компанії, пов’язані з аудитом своїх інструментів ШІ, оновленням контрактів з постачальниками та підтримкою людського нагляду для пом’якшення правового впливу в умовах регулювання, що швидко змінюється.
Рішення у справі Mobley v. Workday встановлюють, що інструменти штучного інтелекту, які оцінюють, ранжують або фільтрують заявників, можуть притягнути як постачальника, так і роботодавця-розробника до дискримінаційної відповідальності згідно з федеральними законами про громадянські права. Це значний зсув у порівнянні з попередніми правовими інтерпретаціями, які могли обмежувати відповідальність суб’єкта, який приймає остаточне людське рішення.
Для роботодавців це означає, що використання штучного інтелекту при наймі, управлінні продуктивністю та звільненнях не є юридичною надійною гаванню. Суди розглядають рішення штучного інтелекту як еквівалентні людським рішенням для цілей антидискримінаційних законів, які вимагають від компаній гарантувати, що їхні системи штучного інтелекту є вільними від упередженості та здійснюють нагляд з боку людини.
Потенційне застосування Закону про справедливу кредитну звітність до перевірок AI у справі Kistler v. Eightfold AI може ще більше розширити правові зобов’язання постачальників і роботодавців AI. Якщо суд ухвалить рішення на користь позивачів, це створить новий прецедент для регулювання штучного інтелекту в процесі найму, потенційно вимагаючи від постачальників штучного інтелекту дотримання зобов’язань FCRA.
Позови проти IBM і Meta підкреслюють ризики використання штучного інтелекту для моніторингу співробітників і скорочення робочої сили. Ці випадки свідчать про те, що системи штучного інтелекту можуть бути використані для непропорційного націлювання на захищені групи, такі як літні працівники або працівники в захищеній відпустці, що може призвести до значної юридичної відповідальності для компаній, які покладаються на штучний інтелект для прийняття таких рішень.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Що дивитися далі
Слідкуйте за незавершеним рішенням у справі Kistler v. Eightfold AI, яке може створити прецедент для застосування Закону про справедливу кредитну звітність до перевірок AI. Крім того, слідкуйте за фазою відкриття у справі Mobley v. Workday, оскільки суд постановив, що фактичні дані про продуктивність інструменту штучного інтелекту доступні для виявлення. Роботодавці також повинні підготуватися до правил автоматизованого прийняття рішень на рівні штату, які можуть встановлювати суворіші вимоги щодо відповідності, ніж федеральні стандарти.
Рішення, яке очікує на розгляд у справі Kistler v. Eightfold AI, є ключовою подією, на яку варто звернути увагу, оскільки воно може створити прецедент для використання штучного інтелекту під час перевірки даних і застосування Закону про справедливу кредитну звітність до інструментів штучного інтелекту.
Фаза відкриття у справі Mobley v. Workday також важлива, оскільки суд постановив, що фактичні дані про продуктивність інструменту ШІ можна виявити. Це може дати цінну інформацію про те, як інструменти штучного інтелекту використовуються в процесі найму та чи є вони упередженими.
Роботодавці також повинні стежити за правилами автоматизованого прийняття рішень на державному рівні, які можуть накладати суворіші вимоги до відповідності, ніж федеральні стандарти. Напруженість між державними та федеральними правилами навряд чи буде вирішена найближчим часом, тому компанії повинні бути готові дотримуватись низки законів.
Нарешті, компанії повинні стежити за розробкою програм управління штучним інтелектом, оскільки вони будуть важливі для захисту від позовів про дискримінацію та регулятивних розслідувань. SIA рекомендує роботодавцям проводити аудит інструментів штучного інтелекту, оновлювати оцінки впливу алгоритмів і переглядати контракти з постачальниками, щоб забезпечити відповідність.