Co się stało
Gubernator Gavin Newsom podpisał 13 ustaw regulujących media społecznościowe i sztuczną inteligencję, w tym Prawo Adama (SB 1119), które nakłada na operatorów chatbotów szczególne obowiązki w zakresie bezpieczeństwa w odniesieniu do nieletnich użytkowników.
Gubernator Gavin Newsom podpisał w czwartek 13 ustaw, z których każda dotyczy aspektów platform mediów społecznościowych i sztucznej inteligencji. Ceremonia podpisania odbyła się w Bay Area Discovery Museum w Sausalito w Kalifornii, w obecności Marii Raine, matki Adama Raine'a. Adam Raine, 16-latek, zmarł w wyniku samobójstwa w 2024 r. po interakcji z chatbotem, którego używał do pomocy w nauce i wsparcia emocjonalnego.
Najważniejszym elementem pakietu jest ustawa Senatu nr 1119, znana jako Prawo Adama, której autorem jest senator Steve Padilla. Projekt ustawy nakłada na operatorów chatbotów regulacje, wymagające od nich określenia wieku użytkownika i wdrożenia określonych zabezpieczeń. Należą do nich przypomnienia o użytkowaniu, ujawnienia i ustawienia domyślne, które może zmienić tylko rodzic. Warto zauważyć, że ustawa wymaga domyślnego wyłączenia „trwałej pamięci konwersacyjnej” dla niepełnoletnich użytkowników, co umożliwiło chatbotowi zachowanie informacji o stanie psychicznym i planach Adama Raine’a.
Członek Zgromadzenia Rebecca Bauer-Kahan, współautorka przepisów, podkreśliła, że celem jest zapewnienie, że sztuczna inteligencja będzie „bezpieczna z założenia” dla dzieci. Stwierdziła, że gdyby chatbot nie zapamiętał ujawnień użytkownika, wynik mógłby być inny. Celem projektu ustawy jest zapobieganie sytuacji, w której systemy sztucznej inteligencji stają się powiernikami, którzy mogą nieumyślnie zachęcać do interwencji lub nie interweniować w szkodliwych sytuacjach.
Inne podpisane ustawy obejmują Assembly Bill 2071, który nakłada na Departament Edukacji stanowy obowiązek opracowania do stycznia 2028 roku planu rozszerzenia nauczania o cyfrowym zdrowiu w szkołach w Kalifornii. Ustawa Assembly Bill 1709, której autorem jest członek Zgromadzenia Josh Lowenthal, zabrania niektórym platformom mediów społecznościowych korzystania z uzależniających funkcji wśród użytkowników poniżej 16 roku życia i tworzy Komisję Doradczą ds. e-Bezpieczeństwa, która ma doradzać prokuratorowi generalnemu stanu w kwestiach bezpieczeństwa w Internecie.
Newsom podkreślił dwupartyjny charakter koalicji stojącej za tymi ustawami, zauważając, że prawodawców obu partii motywowała rola rodziców. Skrytykował rząd federalny za niezajęcie się szkodami powodowanymi przez tę technologię, stwierdzając, że Kalifornia przoduje w tej kwestii. Gubernator podkreśliła, że podstawą legislacji jest osobista troska o bezpieczeństwo dzieci, a nie względy akademickie czy polityczne.
Szczegóły źródła: courthousenews.com ↗
Dlaczego to ma znaczenie
To prawodawstwo ustanawia nowe ramy regulacyjne dotyczące interakcji sztucznej inteligencji z dziećmi, w szczególności ukierunkowane na ryzyko związane z pamięcią trwałą i uzależniającym projektowaniem chatbotów. Stanowi to znaczącą interwencję na poziomie państwa w bezpieczeństwo sztucznej inteligencji, ustanawiając precedensy dla sposobu, w jaki firmy zajmujące się sztuczną inteligencją muszą radzić sobie z zatrzymywaniem danych i zabezpieczeniami użytkowników dla bezbronnych grup społecznych.
Podpisanie Prawa Adama oznacza znaczącą zmianę w sposobie regulacji chatbotów AI na poziomie stanowym. Nakazując domyślne wyłączanie pamięci trwałej u nieletnich, prawo bezpośrednio odnosi się do konkretnej cechy technicznej, która została powiązana z poważnymi szkodami psychicznymi. Stanowi to precedens dla innych stanów i potencjalnie wpływa na dyskusje dotyczące polityki federalnej na temat bezpieczeństwa sztucznej inteligencji.
Ustawodawstwo nakłada nowe obowiązki związane z przestrzeganiem przepisów na firmy zajmujące się sztuczną inteligencją działające w Kalifornii. Muszą wdrożyć solidne systemy weryfikacji wieku i zmodyfikować swoje ustawienia domyślne, aby chronić nieletnich. Może to mieć wpływ na wygodę wszystkich użytkowników, jeśli firmy zdecydują się na szerokie zastosowanie tych ograniczeń lub będą miały trudności ze skutecznym wdrożeniem barier wiekowych.
Utworzenie Komisji Doradczej ds. e-Bezpieczeństwa i wymóg dotyczący cyfrowego planu dobrego samopoczucia w szkołach wskazują na szerszą strategię państwa mającą na celu zajęcie się społecznym wpływem mediów społecznościowych i sztucznej inteligencji. To wieloaspektowe podejście ma na celu ochronę dzieci nie tylko poprzez ograniczenia techniczne, ale także poprzez edukację i bieżące doradztwo polityczne.
Zaangażowanie rodziny Adama Raine’a w proces legislacyjny podkreśla ludzkie koszty niepowodzeń sztucznej inteligencji. Ich zeznania i obecność na ceremonii podpisania zwiększają poziom odpowiedzialności publicznej i pilności wysiłków regulacyjnych. Sprawa ta może posłużyć jako katalizator do dalszych działań prawnych przeciwko firmom zajmującym się sztuczną inteligencją za nieodpowiednie środki bezpieczeństwa.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Monitoruj wyzwania prawne stawiane przez firmy zajmujące się sztuczną inteligencją dotyczące wykonalności weryfikacji wieku i definicji „trwałej pamięci konwersacyjnej”. Obserwuj reakcje władz federalnych lub próby wywłaszczenia, a także harmonogram wdrożenia planu cyfrowego odnowy biologicznej Departamentu Edukacji stanowej.
Firmy zajmujące się sztuczną inteligencją mogą kwestionować konstytucyjność lub praktyczność wymogów dotyczących weryfikacji wieku zawartych w SB 1119. Spory prawne mogą opóźnić wdrożenie lub prowadzić do zmian w prawie. Definicja „trwałej pamięci konwersacyjnej” oraz sposób jej technicznego wdrożenia będą miały kluczowe znaczenie dla skuteczności prawa.
Kluczową zmienną jest reakcja rządu federalnego na wiodącą pozycję Kalifornii w zakresie regulacji dotyczących sztucznej inteligencji. Jeśli Kongres przyjmie kompleksowe federalne przepisy dotyczące bezpieczeństwa sztucznej inteligencji, mogą one wyprzedzić regulacje stanowe, takie jak Prawo Adama. I odwrotnie, bierność władz federalnych może zachęcić inne stany do przyjęcia podobnych lub bardziej rygorystycznych środków.
Wdrażanie planu cyfrowego wellness przez Departament Edukacji Państwa będzie procesem długotrwałym. Treść i zasięg tego planu określą jego wpływ na zrozumienie przez uczniów zagrożeń związanych ze sztuczną inteligencją i mediami społecznościowymi. Monitorowanie rozwoju tego planu zapewni wgląd w edukacyjne podejście państwa do bezpieczeństwa sztucznej inteligencji.
Zalecenia Komisji Doradczej ds. e-Bezpieczeństwa będą miały wpływ na przyszłą politykę i działania w zakresie egzekwowania prawa. Jej skład i jakość porad będą ważnymi czynnikami w bieżącym regulowaniu kwestii bezpieczeństwa w Internecie w Kalifornii.