Mi történt
A OpenAI augusztus 31-én közölte, hogy támogatja a kaliforniai szenátus 1119. számú törvényét, amely a tinédzserek életkorának megfelelő mesterséges intelligencia használatának kerete. A cég sürgette Gavin Newsom kormányzót, hogy írja alá a törvényjavaslatot, mondván, hogy az erősebb védelmet párosít az AI-eszközökhöz való folyamatos hozzáféréssel a tanulás, a kreativitás és a felfedezés érdekében.
A OpenAI közölte, hogy támogatja a kaliforniai szenátus 1119. számú törvényjavaslatát, és felkérte Gavin Newsom kormányzót, hogy írja alá azt a törvénybe. A cég Newsomnak, Steve Padilla állam szenátornak, Buffy Wicksnek és Rebecca Bauer-Kahannak, valamint a kaliforniai törvényhozásnak tulajdonította az intézkedés előmozdítását. A forrás a törvényjavaslatot függőben lévő kormányzói intézkedésként mutatja be; nem tartalmaz aláírási dátumot, végrehajtási ütemtervet vagy végleges szabályozási részleteket.
A OpenAI leírása szerint az SB 1119 előírná, hogy a mesterséges intelligencia-szolgáltatók határozzák meg a felhasználó életkorát, azonosítsák és kezeljék a biztonsági kockázatokat, mielőtt egy terméket elérhetővé tennének a fiatalok számára, alávessenek független auditot, és megvédjék a kiskorúakat a káros tartalmaktól és a magas kockázatú interakcióktól. A vállalat a fedezett kockázatok között kifejezetten felsorolja az önkárosító és szexuálisan kizsákmányoló tartalmakat. A forrás nem adja át a törvényjavaslat szövegét, így a pontos meghatározások, végrehajtási mechanizmusok és szankciók ismeretlenek.
A OpenAI szerint a törvényjavaslathoz olyan eszközökre is szükség lenne a szülők számára, amelyek irányíthatják vagy korlátozhatják a gyermekek használatát, kapcsolódniuk kell a válságsegítő erőforrásokhoz, ha komoly biztonsági kockázatok merülnek fel, korlátozni kell a célzott reklámozást és védeni kell a fiatalok személyes adatait. A vállalat a javaslatot a közösségi média szabályozásától eltérőnek minősíti, mert célja megőrizni az oktatási és biztonsággal kapcsolatos mesterséges intelligencia funkciókat, beleértve azt is, amit a memória felelős használatának nevez.
A közlemény összekapcsolja a OpenAI politikai álláspontját az újonnan bevezetett ChatGPT for Teens modellel. A OpenAI szerint a 18 év alatti felhasználók, illetve azok a felhasználók, akik 13 és 17 év közöttiek, automatikusan bekerülnek ebbe az élménybe. Azt is elmondja, hogy rendszere meg tudja becsülni, hogy valaki 18 év alatti-e. A forrás nem ad meg a rendszer pontosságát, hibaarányát, a fellebbezési folyamatot, az adatmegőrzési gyakorlatot vagy az életkor becslésének módját.
A OpenAI azt állítja, hogy a tinédzserek tapasztalatai közé tartoznak a kvízek, a tanulási vizualizációk és a tanulmányi mód, amelyeket oktatókkal és tanulási szakértőkkel fejlesztettek ki. Azt is mondja, hogy a korábbi beszélgetésekből származó memória és egyéb kontextus segíthet a biztosítékok következetes alkalmazásában, a vonatkozó minták felismerésében és a hosszabb távú tanulás támogatásában. A forrás nem nyújt független tesztelést ezekről az állításokról vagy bizonyítékokról, amelyek megmutatják, hogy a funkciók milyen gyakran sikeresek vagy kudarcot vallanak.
Forrás részletei: openai.com ↗
Miért számít
A javaslat jogi követelményeket írna elő azzal kapcsolatban, hogy a mesterséges intelligencia termékek hogyan azonosítják a fiatalabb felhasználókat, értékelik a biztonsági kockázatokat, kezelik a káros tartalmakat, és hogyan vonják be a szülőket. A OpenAI pozíciója azért is figyelemre méltó, mert a vállalat saját, tinédzserekre összpontosító termékvédelmét írja le annak a megközelítésnek a példájaként, amelyet a döntéshozóknak el akarnak fogadni.
Ha a leírtak szerint léptetik életbe, az SB 1119 számos ifjúsági mesterséges intelligencia biztosítékot áthelyezne az önkéntes terméktervezésből a jogi keretbe. Az életkor meghatározása, a kiadás előtti kockázatértékelés, az auditok és az automatikus védelmek hatással lehetnek arra, hogy a vállalatok hogyan tervezik meg a tinédzserek bevezetői, moderálási, hirdetési és adatrendszereit. A gyakorlati hatás nagymértékben függ a törvényjavaslat végleges szövegétől és a végrehajtás során kiadott szabályoktól.
Az életkor biztosítása központi megoldatlan kompromisszum. A felnőtteket helytelenül kiskorúnak minősítő rendszer korlátozhatja a funkciókhoz való hozzáférést, míg egy olyan rendszer, amely nem ismer fel egy tinédzsert, a felhasználót a tervezett védelemen kívül hagyhatja. A OpenAI közleménye elvileg támogatja az életkor becslését, de nem ad bizonyítékot a pontosságra, a demográfiai teljesítményre, a magánélet védelmére vagy arra vonatkozóan, hogy a felhasználók hogyan támadhatnának meg egy helytelen besorolást.
A javasolt ellenőrzési követelmény több információt nyújthat a családoknak, a szabályozóknak és a nyilvánosságnak arról, hogy a fiatalok biztonságával kapcsolatos követelések megfelelnek-e a rendszer tényleges viselkedésének. A forrás azonban nem magyarázza meg, hogy ki választaná ki a könyvvizsgálókat, milyen bizonyítékokat vizsgálna meg, nyilvánosak-e a megállapítások, és milyen gyakran kerül sor az ellenőrzésekre. Ezek a részletek határozzák meg, hogy az ellenőrzések értelmes elszámoltathatóságként vagy eljárási ellenőrzésként működnek-e.
Az irányelv kérdéseket vet fel a kontextust megőrző AI-rendszerek tervezésével kapcsolatban is. A OpenAI szerint a memória segíthet észlelni a zavaró mintákat és elkerülni a káros minták megerősítését, miközben támogatja az oktatási munka folytonosságát is. Ez feszültséget teremt a biztonsági előnyök és a fiatalok beszélgetéseivel kapcsolatos információk érzékenysége között. A közlemény nem határozza meg, hogy milyen információkat, mennyi ideig őriznek meg, ki férhet hozzá, vagy hogy a szülői felügyelet hogyan befolyásolja a tizenévesek magánéletét.
A közlemény egy olyan cég érdekvédelmi nyilatkozata, amelyet a törvényjavaslat érintene. A OpenAI támogatása azt mutatja, hogy az intézkedés összhangban van a vállalat kinyilvánított politikai preferenciáival, de nem független bizonyíték arra, hogy a ChatGPT for Teens vagy a törvényjavaslatban javasolt biztosítékok hatékonyak. A forrás nem tartalmaz külső értékelést, felhasználói adatokat, végrehajtási elemzést vagy családok, oktatók, gyermekbiztonsági szakértők vagy polgári jogi csoportok tanúvallomását.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
Az azonnali kérdés az, hogy a Newsom aláírja-e az SB 1119-et, és hogyan valósítják meg annak követelményeit. A fontos megoldatlan kérdések közé tartozik az életkor becslésének pontossága és adatvédelmi vonatkozásai, a független auditok hatóköre, a válságtámogatási kötelezettségek jelentése, valamint az, hogy a szabályozók hogyan értékelnék a védelmek gyakorlati működését.
A következő formális lépés a kormányzó döntése. A OpenAI arra kéri Newsomot, hogy írja alá az SB 1119-et, de a forrás nem közli, hogy a kormányzó kötelezettséget vállalt-e erre. Ha a törvényjavaslat törvény lesz, a későbbi ügynökségi útmutatások és a megfelelési határidők ugyanolyan fontosak lesznek, mint a főcím követelményei.
A megvalósításnak tisztáznia kell, hogy mi számít a felhasználó életkorának meghatározásának, és hogy a szolgáltatók támaszkodhatnak-e életkorbecslésre, meghatározott életkorra, személyazonosító okmányokra vagy egyéb módszerekre. Azt is meg kell mutatnia, hogy Kalifornia hogyan szándékozik minimalizálni az érzékeny információk gyűjtését, és megakadályozni, hogy az életkor ellenőrzése a profilalkotás, a kizárás vagy az adatok nyilvánosságának új forrásává váljon.
A független könyvvizsgálatra vonatkozó rendelkezések alapos vizsgálatot igényelnek. A kulcskérdések közé tartozik, hogy az auditoroknak milyen szabványokat kell használniuk, hogy közvetlenül tesztelhetik-e a rendszereket, fel kell-e tárniuk a vállalatoknak a hibákat, és mi történik, ha az audit során megoldatlan kockázatokat azonosítanak. A forrás egyik kérdésre sem válaszol.
A válságtámogatás követelményének is pontos határokra van szüksége. A OpenAI szerint a törvényjavaslat összekapcsolná a fiatalokat a válságtámogató erőforrásokkal, ha komoly biztonsági kockázatok merülnek fel, de nem határozza meg a beavatkozás küszöbét, és nem magyarázza meg, hogy a rendszerek hogyan kezelnék a bizonytalanságot, a hamis pozitív üzeneteket és a vészhelyzeteket a különböző joghatóságokban. Ezek a részletek a felhasználó biztonságát és a magánéletét egyaránt érintik.
A OpenAI azt állítja, hogy folyamatos tanulmányozást és együttműködést vár el a megvalósítás során, és saját, ifjúsági biztonsággal kapcsolatos munkája magában foglalja a szülői felügyeletet, az életkor előrejelzését, a tizenévesek biztonsági tervét és a 18 éven aluliak viselkedési elveit. Figyeljen a cégleírásokon túlmutató bizonyítékokra is: független értékelésekre, közzétett ellenőrzési megállapításokra, információkra a hibás életkor szerinti besorolásról, valamint mérhető eredményekről a káros tartalom megelőzésére és a támogatáshoz való hozzáférésre vonatkozóan.