Mi történt
Bill Gates, a Microsoft társalapítója az NBC News-nak elmondta, hogy a fejlett mesterséges intelligencia rendszerek és a rosszindulatú szereplők kombinációja olyan kockázatokat jelenthet, amelyek tömeges baleseteket okozhatnak. Sürgette a kormányokat, a bűnüldöző szerveket és a jogalkotókat, hogy hozzanak létre kötelező biztosítékokat, felügyeletet és felügyeletet a mesterséges intelligencia fejlesztésére vonatkozóan. Gates hivatkozott az Alan Turing Intézet legutóbbi jelentésére, amely megjelöli a szuperintelligens mesterséges intelligencia öt éven belüli megjelenésének reális lehetőségét, és idézte a Anthropic vezetőinek megjegyzéseit, amelyekben harmadik felek biztonsági értékelését és nemzetközi együttműködést kértek. Gates elismerte, hogy a szabályozás költségekkel járna, de azzal érvelt, hogy ennek nem kell jelentősen lassítania az iparág általános fejlődését.
Az NBC Newsnak adott televíziós interjújában Bill Gates arra figyelmeztetett, hogy a hatékony mesterséges intelligencia eszközök és a káros szándékú egyének konvergenciája olyan eseményeket tesz lehetővé, amelyek katasztrofális emberéleteket okoznak, és ezt a kockázatot a korábbi technológiákhoz képest példátlannak minősítette.
Gates felszólította a kormányokat, a bűnüldöző szerveket és a politikusokat, hogy hozzanak létre kötelező biztosítékokat és folyamatos felügyeletet az AI-rendszerek számára, hangsúlyozva, hogy a szabályozást nem szabad kizárólag az AI-cégekre bízni.
Hivatkozott az Alan Turing Intézet legutóbbi jelentésére, amely reális lehetőséget mutatott arra, hogy a szuperintelligens mesterséges intelligencia öt éven belül megjelenhet, és meghaladja az emberi képességeket a főbb kognitív feladatok során. A jelentés arra figyelmeztet, hogy a nem megfelelő felügyelet vegyi és biológiai fegyverekkel, félretájékoztatással és demokratikus intézmények elleni támadásokkal kapcsolatos fenyegetésekhez vezethet.
Gates kiemelte a Anthropic vezérigazgatójának, Dario Amodeinak és a Anthropic más kutatóinak nyilatkozatait is, akik a határ menti mesterséges intelligencia fejlesztésének lassítása, harmadik felek által végzett értékelések végrehajtása és közös nemzetközi biztonsági referenciaértékek megállapítása mellett szorgalmazták.
Gates elismerte, hogy a szabályozási intézkedések bizonyos költségeket rónának a mesterséges intelligencia fejlesztőire, de azzal érvelt, hogy ezeknek a költségeknek nem kell jelentősen akadályozniuk az iparág fejlődésének általános ütemét.
Forrás részletei: newsmobile.in ↗
Miért számít
Gates figyelmeztetése nagy horderejű hangot ad a határ menti mesterséges intelligencia biztonságával kapcsolatos növekvő aggodalmaknak, megerősítve a konkrét szakpolitikai lépésekre való felhívást. Ha nem ellenőrzik, a fejlett mesterséges intelligencia felfegyverezhető a kémiai, biológiai vagy félretájékoztatási fenyegetések felerősítésére, ami nagyszabású emberéletek elvesztéséhez vezethet. Az Alan Turing Intézet szuperintelligens mesterséges intelligencia egy évtizeden belüli előrejelzése megnöveli az ilyen rendszerek bevezetése előtti felügyeleti mechanizmusok sürgősségét. Gates álláspontja, miszerint a szabályozás együtt létezhet a folyamatos innovációval, ellentmond az iparági narratíváknak, miszerint a biztonsági intézkedések elkerülhetetlenül leállítják az előrehaladást, és alakítja a politikai vitát az Egyesült Államokban és külföldön készülő jogalkotási javaslatok előtt.
A globálisan elismert technológiai vezető figyelmeztetése felerősíti a mesterséges intelligencia biztonságával kapcsolatos aggodalmakat, potenciálisan befolyásolva azokat a döntéshozókat, akik tétováztak, hogy kiemelt érdekképviselet nélkül cselekedjenek.
Az Alan Turing Intézet szuperintelligens mesterséges intelligencia rövid horizonton belüli előrejelzése aláhúzza azt a szűk ablakot, amely lehetővé teszi a hatékony felügyelet létrehozását, mielőtt az ilyen rendszerek működésbe lépnének.
Gates azon kijelentése, miszerint a szabályozás együtt létezhet a folyamatos innovációval, megkérdőjelezi azt a narratívát, miszerint a biztonsági követelmények elkerülhetetlenül lassítják a fejlődést, kiegyensúlyozottabb nézetet kínálva, amely elősegítheti az AI-jogszabályok kétoldalú támogatását.
A Anthropic harmadik felek értékelésére és nemzetközi együttműködésre vonatkozó felhívásai összhangban vannak az együttműködésen alapuló biztonsági szabványok irányába mutató tágabb iparági trendekkel, ami az átláthatóbb és elszámoltathatóbb mesterségesintelligencia-fejlesztési gyakorlatok felé történő lehetséges elmozdulást sugallja.
Ha a kormányok elfogadják a Gates által javasolt biztosítékokat, akkor a mesterséges intelligencia által kiváltott tömeges balesetek kockázata mérsékelhető, védve a közegészséget, a nemzetbiztonságot és a demokratikus folyamatokat.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Mit nézzünk ezután
Figyelje az Egyesült Államok Kongresszusának jogalkotási javaslatait, amelyek hivatkoznak Gates megjegyzéseire, valamint az Európai Unió vagy más nemzeti szervek által bevezetett új szabályozási keretekre. Kövesse nyomon, hogy a mesterséges intelligencia cégek önkéntes biztonsági szabványokat vagy harmadik fél által végzett auditokat fogadnak-e el a megnövekedett politikai nyomásra válaszul. Kövesse az Alan Turing Intézet közelgő részletes jelentését a műszaki kockázatértékelésekhez, amelyek megalapozhatják a jövőbeli szabványokat. Végezetül figyelje meg, hogy a Anthropic javasolt biztonsági referenciaértékei nyernek-e teret a többi határ menti AI fejlesztők körében.
Az Egyesült Államok Kongresszusában folyó jogalkotási tevékenység, különösen minden olyan törvényjavaslat, amely Gates nyilatkozataira vagy az Alan Turing Intézet jelentésére hivatkozik, megmutatja, milyen gyorsan haladnak a döntéshozók a formális szabályozás felé.
Az Európai Unió mesterséges intelligencia-törvényének felülvizsgálatai és más joghatóságok hasonló kezdeményezései tartalmazhatják a Anthropic által szorgalmazott biztonsági referenciaértékeket, jelezve a nemzetközi harmonizáció felé való elmozdulást.
A vállalati válaszok, például a harmadik felek biztonsági auditjainak önkéntes elfogadása vagy belső felügyeleti testületek létrehozása megmutatják, hogy az ipar alkalmazkodik-e a szabályozási nyomáshoz.
Az Alan Turing Intézet további publikációi, különösen a részletes technikai kockázatértékelések biztosíthatják a konkrét politikai intézkedésekhez szükséges empirikus alapot.
A Gates interjújára adott közvélemény és média reakciója, ideértve más mesterségesintelligencia-szakértők kommentárjait is, alakítani fogja a mesterségesintelligencia-kockázatról és a javasolt biztosítékok politikai megvalósíthatóságáról szóló szélesebb diskurzust.