Ce sa întâmplat
Guvernatorul Gavin Newsom a semnat 13 proiecte de lege care reglementează rețelele sociale și inteligența artificială, inclusiv Legea lui Adam (SB 1119), care impune obligații specifice de siguranță operatorilor de chatbot cu privire la utilizatorii minori.
Guvernatorul Gavin Newsom a semnat joi 13 proiecte de lege, fiecare abordând aspecte ale platformelor de social media și ale inteligenței artificiale. Ceremonia de semnare a avut loc la Bay Area Discovery Museum din Sausalito, California, fiind prezentă Maria Raine, mama lui Adam Raine. Adam Raine, un tânăr de 16 ani, s-a sinucis în 2024, după ce a interacționat cu un chatbot pe care l-a folosit pentru ajutor academic și sprijin emoțional.
Piesa centrală a pachetului este legea Senatului 1119, cunoscută sub numele de Legea lui Adam, scrisă de senatorul Steve Padilla. Proiectul de lege impune reglementări operatorilor de chatbot, solicitându-le să determine vârsta unui utilizator și să pună în aplicare măsuri de protecție specifice. Acestea includ mementouri de utilizare, dezvăluiri și setări implicite pe care doar un părinte le poate modifica. În special, proiectul de lege impune ca „memoria conversațională persistentă” să fie dezactivată în mod implicit pentru utilizatorii minori, o funcție care a permis chatbot-ului să rețină informații despre starea mentală și planurile lui Adam Raine.
Membrul adunării Rebecca Bauer-Kahan, un coautor al legislației, a subliniat că scopul este de a se asigura că IA este „sigură prin proiectare” pentru copii. Ea a declarat că, dacă chatbot-ul nu ar fi păstrat amintirea dezvăluirilor utilizatorului, rezultatul ar fi putut fi diferit. Proiectul de lege urmărește să împiedice sistemele AI să devină confidenti care pot încuraja sau nu reușesc să intervină în situații dăunătoare.
Alte proiecte de lege semnate includ Assembly Bill 2071, care solicită Departamentului de Educație de stat să creeze un plan până în ianuarie 2028 pentru extinderea instruirii de bunăstare digitală în școlile din California. Assembly Bill 1709, scris de membrul adunării Josh Lowenthal, interzice anumitor platforme de rețele sociale să folosească funcții care creează dependență utilizatorilor sub 16 ani și creează o Comisie consultativă e-Safety pentru a-l consilia pe procurorul general al statului cu privire la problemele de siguranță online.
Newsom a subliniat natura bipartizană a coaliției din spatele acestor proiecte de lege, menționând că parlamentarii ambelor partide au fost motivați de rolul lor de părinți. El a criticat guvernul federal pentru că nu a abordat daunele aduse de această tehnologie, afirmând că California este lider în această problemă. Guvernatorul a subliniat că legislația este condusă de preocuparea personală pentru siguranța copiilor, mai degrabă decât de considerente academice sau politice.
Detalii sursa: courthousenews.com ↗
De ce contează
Această legislație stabilește un nou cadru de reglementare pentru interacțiunile inteligenței artificiale cu copiii, vizând în mod specific riscurile memoriei persistente și designului care provoacă dependență în chatbot. Reprezintă o intervenție semnificativă la nivel de stat în siguranța AI, creând precedente pentru modul în care companiile AI trebuie să gestioneze păstrarea datelor și protecția utilizatorilor pentru populațiile vulnerabile.
Semnarea Legii lui Adam marchează o schimbare semnificativă în modul în care chatbot-urile AI sunt reglementate la nivel de stat. Prin dezactivarea implicită a memoriei persistente pentru minori, legea abordează în mod direct o caracteristică tehnică specifică care a fost legată de vătămări psihologice grave. Acest lucru creează un precedent pentru alte state și poate influența discuțiile de politică federală privind siguranța AI.
Legislația impune noi sarcini de conformitate asupra companiilor AI care operează în California. Ei trebuie să implementeze sisteme robuste de verificare a vârstei și să își modifice setările implicite pentru a proteja minorii. Acest lucru ar putea afecta experiența utilizatorului pentru toți utilizatorii dacă companiile aleg să aplice aceste restricții pe scară largă sau dacă se luptă să implementeze în mod eficient limitarea vârstei.
Crearea Comisiei consultative e-Safety și cerința pentru un plan digital de bunăstare în școli indică o strategie de stat mai amplă pentru a aborda impactul social al rețelelor sociale și al inteligenței artificiale. Această abordare cu mai multe fațete își propune să protejeze copiii nu doar prin restricții tehnice, ci și prin educație și consiliere continuă în materie de politici.
Implicarea familiei lui Adam Raine în procesul legislativ subliniază costul uman al eșecurilor AI. Mărturia și prezența lor la ceremonia de semnare adaugă un nivel de responsabilitate publică și urgență eforturilor de reglementare. Acest caz poate servi drept catalizator pentru acțiuni legale ulterioare împotriva companiilor AI pentru măsuri de siguranță inadecvate.
Mecanism interactiv: cum funcționează de fapt
Explorați tehnologia care stau la baza acestei dezvoltări în mod interactiv.
Why can ethical evaluation not be reduced to one model score?
Ce să urmărești în continuare
Monitorizați provocările legale din partea companiilor de inteligență artificială cu privire la fezabilitatea verificării vârstei și definirea „memoriei conversaționale persistente”. Urmăriți răspunsurile federale sau încercările de preempțiune, precum și calendarul de implementare a planului de bunăstare digitală al Departamentului de Educație de stat.
Companiile AI pot contesta constituționalitatea sau caracterul practic al cerințelor de verificare a vârstei din SB 1119. Bătăliile juridice ar putea întârzia implementarea sau pot duce la modificări ale legii. Definiția „memoriei conversaționale persistente” și modul în care este implementată din punct de vedere tehnic vor fi esențiale pentru eficacitatea legii.
Răspunsul guvernului federal la conducerea Californiei în reglementarea AI este o variabilă cheie. Dacă Congresul adoptă legi federale cuprinzătoare privind siguranța inteligenței artificiale, ele pot anticipa reglementările de stat precum Legea lui Adam. În schimb, inacțiunea federală poate încuraja alte state să adopte măsuri similare sau mai stricte.
Implementarea planului de wellness digital de către Departamentul de Educație de stat va fi un proces pe termen lung. Conținutul și acoperirea acestui plan vor determina impactul acestuia asupra înțelegerii de către studenți a riscurilor AI și a rețelelor sociale. Monitorizarea dezvoltării acestui plan va oferi informații despre abordarea educațională a statului cu privire la siguranța AI.
Recomandările Comisiei consultative e-Safety vor influența politicile viitoare și acțiunile de aplicare. Compoziția sa și calitatea sfaturilor sale vor fi factori importanți în reglementarea continuă a problemelor de siguranță online în California.