Що сталося
Bloomberg Law повідомляє, що 30 серпня Асамблея штату Каліфорнія провела остаточне голосування за AB 1883, закон, що стосується використання бізнесом штучного інтелекту для моніторингу нервової системи та емоційного стану працівників. Законопроект направлено на підпис губернатору Гевіну Ньюсому. Bloomberg Law характеризує цей захід як частину відповіді законодавців Каліфорнії на збільшення використання штучного інтелекту на робочому місці, включаючи інструменти стеження. Незалежне джерело не підтверджує, що Ньюсом підписав законопроект.
Bloomberg Law повідомляє, що законодавці Каліфорнії завершили законодавчий процес щодо AB 1883 остаточним голосуванням в Асамблеї штату 30 серпня. Законопроект стосується використання штучного інтелекту підприємствами для моніторингу нервової системи та емоційного стану працівників. Заголовок джерела описує цей захід як заборону на ШІ-відстеження нейронних даних працівників, тоді як у тексті статті сказано, що це обмежить можливості компаній використовувати такі інструменти. Ця відмінність має значення, оскільки наявний звіт не містить повної законодавчої мови законопроекту.
Відповідно до Bloomberg Law, законодавчий акт направлений на підпис губернатору Гевіну Ньюсому, демократу. Джерело не повідомляє, що Ньюсом підписав законопроект, наклав на нього вето чи вжив інші публічні дії. Відповідно, цей захід слід розглядати як прийнятий законодавчим органом, але не підтверджений як прийнятий. У звіті також не вказується дата набуття чинності та не пояснюється, чи залежатиме реалізація від додаткових нормативних актів.
Закон Bloomberg розміщує законопроект у ширшій дискусії щодо швидкого зростання технологій ШІ на робочих місцях, включаючи стеження. У звіті визначено моніторинг нервової системи та емоційних станів як особливу сферу, до якої відноситься AB 1883. У ньому не вказуються конкретні компанії, продукти, роботодавці, робочі місця, навчання чи інциденти, пов’язані із законодавством, а також не наводиться кількісна оцінка використання систем нейронного чи емоційного моніторингу.
У звіті дії Каліфорнії порівнюються з іншими державними обмеженнями. Bloomberg Law стверджує, що відносно небагато штатів прийняли закони, які обмежують використання бізнесом штучного інтелекту під час прийняття рішень щодо працевлаштування чи управління персоналом. У ньому в якості прикладів наведено обмеження штату Іллінойс на відеоінтерв’ю, проаналізовані штучним інтелектом, під час прийому на роботу та обмеження штату Меріленд на розпізнавання облич. Ці приклади надають контекст, але джерело не вказує, що той чи інший закон еквівалентний AB 1883, і не описує їх поточне застосування.
Доступний текст закону Bloomberg є вирішеним новинним звітом, а не оголошенням першої сторони, але він скорочується за підказкою про підписку. Важливі деталі, зокрема точні заборони законопроекту, визначення, суб’єкти, на які поширюється дія, винятки, положення щодо застосування та історія законодавства, тому тут не підтверджуються окремо. Основною підтвердженою подією є остаточне голосування законодавчого органу та передача законопроекту губернатору.
Деталі джерела: news.bloomberglaw.com ↗
Чому це важливо
У разі прийняття AB 1883 встановить обмеження на державному рівні щодо нової форми нагляду штучного інтелекту на робочому місці, що включає нейронні та емоційні дані працівників. Bloomberg Law каже, що відносно небагато штатів прийняли закони, які обмежують бізнес-використання штучного інтелекту під час прийняття рішень щодо працевлаштування чи управління персоналом, що робить дії Каліфорнії потенційно важливими для роботодавців, працівників і постачальників технологій. Джерело не надає достатньо деталей, щоб визначити точну сферу дії законопроекту, винятки, механізми виконання чи практичний ефект.
Законопроект стосується категорії даних на робочому місці, які можуть бути надзвичайно чутливими. Спостереження за нервовою системою чи емоційним станом працівника може вплинути на те, як роботодавці оцінюють увагу, стрес, втому, залученість чи інші внутрішні умови. Якщо AB 1883 стане законом, Каліфорнія дасть сигнал, що системи штучного інтелекту, які використовуються для визначення таких умов, заслуговують на конкретні правові обмеження, а не розглядаються лише як звичайне програмне забезпечення на робочому місці. Джерело не встановлює, які висновки охоплює законопроект або наскільки точно працює така система.
Ця міра може вплинути на розподіл відповідальності між роботодавцями, постачальниками програмного забезпечення та працівниками. Роботодавцям може знадобитися перевірити, чи інструменти, що використовуються для найму, управління персоналом, безпеки, продуктивності чи самопочуття, аналізують сигнали, пов’язані з діяльністю нервової системи чи емоційним станом. Постачальникам технологій може знадобитися документувати, що вимірюють їхні системи та як використовуються результати. Це практичні наслідки повідомленого напряму політики, а не підтверджені вимоги в тексті законопроекту, який не містить доступний уривок Bloomberg Law.
Дії Каліфорнії також можуть вплинути на політичні дискусії в інших місцях, оскільки закон Bloomberg описує державні обмеження щодо ШІ на робочому місці як відносно рідкісне явище. Закон, зосереджений на нейронному чи емоційному моніторингу, доповнив би зростаючу низку правил, що регулюють автоматизовані практики працевлаштування. Підприємства, які працюють за кордоном, можуть стикатися з різними стандартами залежно від того, де працюють працівники. У звіті не повідомляється, чи готують інші штати подібне законодавство.
Порівняння з Іллінойсом і Мерілендом показує, що уряди штатів підходять до штучного інтелекту на робочому місці через різні випадки використання. Іллінойс визначено як країна, яка обмежує відеоінтерв’ю, проаналізовані штучним інтелектом, під час прийому на роботу, а Меріленд – як країна, яка обмежує розпізнавання облич. AB 1883 розширив би розмову про політику до передбачуваної біологічної чи емоційної інформації. Джерело не встановлює, що законопроект Каліфорнії перешкоджатиме існуючим законам про конфіденційність, працю, інвалідність або біометричні закони, і не пояснює, як взаємодіятимуть правові режими, що збігаються.
Вплив на громадськість значною мірою залежатиме від остаточного тексту та його виконання. Вузький захід міг би заборонити лише певні форми аналізу нейронних даних, тоді як ширший міг би вплинути на більш широкий спектр технологій моніторингу на робочому місці. Без законодавчих формулювань було б помилковим прогнозувати вплив законопроекту на конфіденційність співробітників, практику найму, безпеку на робочому місці або комерційну розробку штучного інтелекту понад базову межу, про яку йдеться в Законі Bloomberg.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Відразу постає питання, чи підписує губернатор Гевін Ньюсом AB 1883. Подальша звітність має уточнити дату вступу в силу законопроекту, визначення нейронного та емоційного моніторингу, охоплених роботодавців і технологій, правоохоронні органи, штрафи та будь-які винятки. Роботодавцям і постачальникам також потрібно буде визначити, чи підпадають під цей захід існуючі аналітичні засоби на робочому місці, біометричні системи чи засоби оздоровлення. У звіті Bloomberg Law незалежно не встановлено, наскільки широко зараз розгорнуті ці системи або як законодавство вплине на конкретні продукти.
По-перше, слідкуйте за рішенням губернатора Ньюсома. Bloomberg Law повідомляє, що AB 1883 направляється до губернатора, але не підтверджує незалежного підпису. Поки це не буде зроблено, законопроект залишається законодавчим актом, який очікує на розгляд виконавчої влади. Якщо він буде підписаний, наступними ключовими фактами будуть дата його набуття чинності та те, чи повинні агентства видавати вказівки.
Дефініції законопроекту визначатимуть його практичне застосування. У звітності має бути встановлено, що має на увазі Каліфорнія під інструментами штучного інтелекту, моніторингом нервової системи, нейронними даними та моніторингом емоційного стану. Слід також уточнити, чи охоплює закон прямі фізіологічні сигнали, висновки, створені програмним забезпеченням, самозвіти працівників, проаналізовані ШІ, чи лише окремі пристрої та програми. Жодна з цих деталей не міститься в доступній витягу із закону Bloomberg.
Застосування та засоби правового захисту є ще одним важливим невідомим. Джерело не повідомляє, який державний орган контролюватиме дотримання вимог, чи можуть працівники подавати приватні претензії, які санкції можуть бути застосовані, чи отримають роботодавці перехідний період. Ці положення визначатимуть, чи функціонуватиме закон переважно як вимога щодо розкриття інформації, заборона певних практик чи ширше обмеження нагляду на робочому місці.
Якщо законопроект стане законом, роботодавцям і постачальникам, ймовірно, доведеться визначити системи, на які це впливає. Потенційно відповідні інструменти можуть включати технології, що використовуються для управління персоналом або спостереження на робочому місці, але джерело не називає жодних продуктів і не підтверджує, що вони охоплюють певні категорії. Твердження про негайну заборону продукту, широке розгортання чи відомі порушення виходитимуть за рамки наданих доказів.
Нарешті, подивіться, чи дії Каліфорнії спричинять додаткове законодавство штату чи реакцію галузевих груп, трудових організацій і захисників конфіденційності. Закон Bloomberg повідомляє про ширший сплеск використання штучного інтелекту на робочому місці та стеження, але доступна стаття не містить реакції цих груп. Таким чином, будь-яка оцінка національного впливу повинна чекати дій губернатора, повного тексту законопроекту та доказів реалізації чи подальшої політики.