Що сталося
Губернатор Ґевін Ньюсом оголосив про групу експертів для надання консультацій щодо виконавчого наказу про штучний інтелект Каліфорнії, метою якого є прискорення незалежного нагляду та розробка «перемикача вимкнення» для передових моделей ШІ.
Губернатор Гевін Ньюсом оголосив про групу провідних експертів для надання консультацій щодо рекомендацій, які вимагаються згідно з його нещодавнім розпорядженням про штучний інтелект. Наказ спрямований на прискорення незалежного нагляду за компаніями, що займаються штучним інтелектом, і сприяння створенню потенційного «перемикача відключення» для шахрайських прикордонних моделей. Експертна група, до складу якої входять фахівці з технологій, політики та управління, співпрацюватиме з технічними дослідниками, щоб керувати безпекою та безпекою ШІ в Каліфорнії.
Пропозиції, які розглядаються, включають вимогу до незалежних третіх сторін, які повинні бути включені в прикордонні компанії штучного інтелекту для перевірки інфраструктур безпеки та незалежної оцінки безпеки. Крім того, наказ наказує Урядовому операційному агентству прискорити терміни впровадження законопроекту 813 Сенату та законопроекту 1405 Асамблеї, які встановлюють рамки для незалежних перевірочних організацій та державного реєстру для аудиторів ШІ відповідно.
Серед оголошених експертів – Джейсон Голдман, колишній головний цифровий директор Білого дому; Джилліан Хедфілд, професор Університету Джона Хопкінса, яка зосереджується на вирівнюванні ШІ; Алондра Нельсон, професор Інституту перспективних досліджень; і Роб Райх, професор Стенфордського університету. Ці люди допоможуть застосувати свій досвід до можливостей штучного інтелекту, що швидко розвиваються, і вирішити проблеми щодо безпеки та безпеки.
Чому це важливо
Цей крок встановлює конкретний механізм на державному рівні для незалежної перевірки заяв про безпеку штучного інтелекту та можливості аварійного відключення, усуваючи значну прогалину в поточній нормативній базі, де федеральний нагляд відсутній або обмежений. Це сигналізує про перехід до обов’язкового стороннього аудиту та технічного контролю безпеки систем штучного інтелекту з високим ризиком.
Каліфорнія позиціонує себе як лідера в регулюванні штучного інтелекту, створюючи структурований підхід до незалежної перевірки та можливостей аварійного відключення. Це важливо, оскільки наразі жоден федеральний закон не вимагає від компаній, що займаються штучним інтелектом, повідомляти про небезпечні інциденти або вимагає спеціальних засобів контролю безпеки для прикордонних моделей.
Запровадження концепції «перемикача вимкнення» для граничних моделей являє собою практичний технічний контроль, який міг би зменшити ризики, пов’язані з автономною або шахрайською поведінкою ШІ. Вбудовуючи незалежні треті сторони в компанії зі штучним інтелектом, держава прагне забезпечити перевірку заяв про безпеку суб’єктами, які не мають фінансової участі в успіху компанії.
Цей виконавчий наказ спирається на чинне законодавство Каліфорнії, зокрема SB 53 (Закон про прозорість у прикордонному штучному інтелекті) і SB 813, створюючи всеосяжну нормативну базу, яка охоплює безпеку за прикордонною моделлю, незалежний нагляд і стандарти безпеки дітей. Це модель для інших штатів і, можливо, для федерального уряду.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Що дивитися далі
Слідкуйте за конкретними технічними рекомендаціями щодо впровадження «перемикача вимкнення», графіком впровадження SB 813 і AB 1405 і будь-якою федеральною реакцією на розширення нормативно-правової бази ШІ в Каліфорнії.
Конкретні технічні специфікації та здійсненність запропонованого «перемикача вимкнення» для передових моделей стануть ключовою сферою уваги. Як цей механізм буде реалізовано в різних архітектурах ШІ та компаніях, ще належить визначити.
Терміни впровадження SB 813 і AB 1405 є критично важливими. Прискорення цих термінів може призвести до раннього розгортання незалежних організацій з перевірки та реєстрів аудиторів ШІ, що матиме негайний практичний вплив на роботу компаній ШІ в Каліфорнії.
Реакція індустрії ШІ та федерального уряду на розширення нормативної бази Каліфорнії буде важливою. Губернатор закликав Конгрес і Президента прийняти або використовувати рамки Каліфорнії як основу для національних стандартів, що може призвести до подальших змін політики або конфліктів.