Mi történt
Az olyan nagy cégeknél, mint a OpenAI, a Meta és a DeepMind, sok mesterséges intelligencia dolgozó szkeptikus azzal az elképzeléssel kapcsolatban, hogy a mesterséges intelligencia egzisztenciális veszélyt jelent az emberiségre. Kételyeiket humorral fejezik ki, és rámutatnak az állításokat alátámasztó konkrét bizonyítékok hiányára. Noha aggodalomra ad okot az olyan azonnali kockázatok, mint a mesterséges intelligencia biztonsága és az etikus használat, különösen katonai környezetben, a dolgozók úgy érzik, hogy a beszélgetés árnyaltabb, mint a közelmúltban megjelent nagy horderejű figyelmeztetések.
A cikk megosztja a OpenAI, a Meta és a DeepMind cégek AI dolgozóinak reakcióit, akik szkeptikusak az MI által jelentett egzisztenciális fenyegetésekkel kapcsolatban. Szórakozást és kételyt fejeznek ki amiatt, hogy egyes iparági szereplők állításaiban hiányzik a konkrét bizonyíték.
Jacob Coxon, a Anthropic egykori alkalmazottja azt állította, hogy a jövőbeni mesterséges intelligencia eszközök veszélyeztethetik az embereket, de sok dolgozó homályosnak és alátámasztatlannak találja ezeket az állításokat.
Rishub Jain, a Sampura Research alapítója megjegyzi, hogy a mesterséges intelligencia dolgozóinak hangneme „kissé vicc” az AI-val kapcsolatos új félelmekkel kapcsolatban. Colin Fraser, a Meta adatkutatója azt állítja, hogy nincs valódi bizonyíték arra, hogy az AI-modellek elkerülhetetlenül emberi halálhoz vezető célokat követnének.
A szkepticizmus ellenére a mesterséges intelligencia dolgozói egyetértenek a különféle kockázatok mérséklésének fontosságában, ideértve a mesterséges intelligencia védőkorlátjainak meghibásodásának megelőzését és a katonai környezetben az MI-vel kapcsolatos etikai aggályok kezelését.
Egyre nagyobb támogatottság övezi a külső értékelők bevonását az új AI-modellek biztonságának értékelésére, és olyan vezetők is támogatják ezt a megközelítést, mint a Anthropic-től Dario Amodei és a OpenAI-től Sam Altman.
Miért számít
Ez azért fontos, mert rávilágít az AI-iparon belüli megosztottságra az AI lehetséges kockázatait illetően. Míg egyesek egzisztenciális fenyegetésekre figyelmeztetnek, sok dolgozó úgy érzi, hogy ezek az aggodalmak túlzóak, és nem támasztják alá bizonyítékokkal. Ez a szkepticizmus hatással lehet arra, hogy az iparág hogyan közelíti meg a mesterséges intelligencia biztonságát és szabályozását.
Az AI-dolgozók szkepticizmusa befolyásolhatja az iparág biztonsággal és szabályozással kapcsolatos megközelítését, ami árnyaltabb és bizonyítékokon alapuló vitákhoz vezethet.
A mesterséges intelligencia kockázataival kapcsolatos nézetek megosztottsága befolyásolhatja a közvéleményt és az AI fejlesztésével és bevezetésével kapcsolatos politikai döntéseket.
Az olyan azonnali kockázatok, mint a mesterséges intelligencia biztonsága és az etikus használat egyre nagyobb figyelmet kapnak, különös tekintettel az e kockázatok csökkentésére irányuló gyakorlati lépésekre.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Mit nézzünk ezután
Az AI-ipar biztonsági és szabályozási megközelítése, külső értékelők integrálása az AI-laboratóriumokba, valamint az olyan azonnali kockázatok kezelése, mint az AI-védőkorlátok meghibásodása.
Külső értékelők integrációja a fő mesterségesintelligencia-laboratóriumokba és azok hatása a mesterséges intelligencia biztonságára.
Hogyan kezeli az iparág az azonnali kockázatokat, például a mesterséges intelligencia korlátainak meghibásodását és az etikai aggályokat.
A mesterséges intelligencia kockázataival és biztonságával kapcsolatos nyilvános és szabályozási viták alakulása.