Mi történt
A javasolt 2024-es szövetségi rendeletet, amely előírta volna az AI-cégeknek, hogy jelentést tegyenek határmodell-kísérleteikről és biztonsági protokolljaikról, kikerült az Egyesült Államok kormányának szabályalkotási jegyzékéből. A The Lever szerint ez a visszavonás azután történt, hogy a nagy mesterségesintelligencia-cégek lobbiztak a követelmények ellen, potenciális költségekre és adminisztratív terhekre hivatkozva, valamint azt követően, hogy a OpenAI egyik vezetője és házastársa 25 millió dollárt adományozott egy Trump-párti szuper PAC-nak.
2024 szeptemberében a szövetségi tisztviselők olyan szabályt kezdeményeztek, amely előírja a mesterséges intelligencia vállalatoknak, hogy tegyenek közzé részleteket a technológiai határon végzett kísérletekről. A kitűzött cél a veszélyes balesetek és az esetleges életveszteségek kockázatának csökkentése volt.
A The Lever jelentése szerint ez a kezdeményezés később kikerült a kormány szabályalkotási listájából. Az üzlet által áttekintett dokumentumok azt mutatják, hogy a mesterséges intelligencia vállalatok lobbiztak a szabály ellen, azzal érvelve, hogy a jelentéstételi követelmények túlságosan megterhelőek és költségesek.
A jelentés kiemeli, hogy a szabály visszavonását a OpenAI egyik vezetője és felesége 25 millió dolláros hozzájárulása követte a MAGA, Inc. szuper PAC-hoz. Jelenleg nincs olyan általános szövetségi felhatalmazás, amely előírná a vállalatoknak, hogy rendszeresen jelentést tegyenek a határmodellek biztonságáról, fejlesztéséről vagy váratlan viselkedéséről.
A közelmúltban a OpenAI és Anthropic-t érintő nagy horderejű hackelési incidensek nyomán a szabványosított jelentés hiánya miatt a szabályozók nem rendelkeznek az MI-vel kapcsolatos fenyegetések természetének ellenőrzéséhez szükséges eszközökkel.
Forrás részletei: levernews.com ↗
Miért számít
A jelentéstételi kötelezettség hiánya miatt a szövetségi szabályozó hatóságok és a nemzetbiztonsági tisztviselők korlátozott rálátást kapnak a legmodernebb mesterségesintelligencia-modellek fejlesztésére és biztonsági infrastruktúrájára. A The Lever által idézett szakértők azt sugallják, hogy a kötelező közzététel ahelyett, hogy az iparági önszabályozásra hagyatkozna, megfontoltabb fejlesztési gyakorlatokat kényszerített volna ki, és a hatóságok rendelkezésére bocsátotta volna a valós kockázatok felméréséhez szükséges adatokat, például a közelmúltbeli kiberbiztonsági incidenseket, amelyekben nagy mesterségesintelligencia-cégek is érintettek.
A szövetségi felügyelet hiánya „vakfoltot” teremt a nemzetbiztonsági tisztviselők számára. Vishal Misra, a Columbia Egyetem munkatársa szerint a jelenlegi környezet „sokkal lazább”, mint amit javasoltak, ami megakadályozza, hogy a szakértők különbséget tegyenek a valódi biztonsági fenyegetések és a nyilvános „végítéleti” félelmek között.
A kötelező jelentéstétel elrettentő a meggondolatlan fejlesztéssel szemben. Calli Schroeder, az Elektronikus Adatvédelmi Információs Központ munkatársa megjegyezte, hogy ha a vállalatok tudják, hogy fejlesztési folyamataikat igazolniuk kell egy hatóság előtt, nagyobb valószínűséggel kezelik a biztonsági hiányosságokat, és elkerülik a hanyag gyakorlatokat.
A jelentés szembeállítja a jelenlegi iparági álláspontot – ahol a vállalatok nyilvánosan azt állítják, hogy támogatják a szabályozást – a magánlobbi erőfeszítéseikkel, amelyek célja a konkrét közzétételi követelmények gyengítése vagy megszüntetése, kiemelve a nyilvános retorika és a magánpolitika befolyása közötti jelentős szakadékot.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
Jelenleg folynak a jogalkotási erőfeszítések egy mesterséges intelligencia felügyeletére szolgáló szövetségi ügynökség létrehozására. A törvényhozók, köztük Bernie Sanders szenátor és Peter Welch szenátor olyan törvényjavaslatokat nyújtottak be, amelyek előírják a 2024-es szabályban korábban javasolt közzétételi típusokat. A szövetségi felügyelet visszaállítására irányuló jogalkotási kísérletek hatékonysága továbbra is kulcsfontosságú vitapont, mivel az iparág továbbra is a biztonság és a védelem nyilvános ellenőrzése alatt áll.
Az új jogalkotási javaslatok, mint például a Peter Welch szenátor által társszerzők, egy független szakértői ügynökség létrehozását célozzák, amely felügyeli a mesterséges intelligencia biztonságát és előírja az incidensek jelentését.
Az arról szóló vita, hogy az Egyesült Államok kormánya hatékonyan szabályozhatja-e az AI-t az iparági együttműködés nélkül, továbbra is központi szerepet játszik a közelgő politikai megbeszélésekben.
A megfigyelők azt fogják figyelni, hogy ezek az új törvényjavaslatok képesek-e legyőzni ugyanazt a lobbinyomást, amely a 2024-es jelentéstételi szabály feladásához vezetett.