Mesterséges általános intelligencia
A mesterséges általános intelligencia (AGI) olyan mesterséges intelligencia rendszerekre utal, amelyek széles, emberi szintű (vagy nagyobb) kompetenciával rendelkeznek a legtöbb kognitív feladathoz – nem csak egy szűk készséghez, mint például a fordítás vagy a képcímkézés.
Áttekintés
A mesterséges általános intelligencia (AGI) olyan mesterséges intelligencia rendszerekre utal, amelyek széles, emberi szintű (vagy nagyobb) kompetenciával rendelkeznek a legtöbb kognitív feladathoz – nem csak egy szűk készséghez, mint például a fordítás vagy a képcímkézés.
A mesterséges általános intelligencia a képességek, a hatalom és a nyilvános választások metszéspontjában helyezkedik el – ahol a biztonság, a kormányzás és a legitimitás dönti el, hogy a fejlett mesterséges intelligencia nagyarányúan segít-e vagy árt.
Mély merülés
Az AGI-nek nincs egységes definíciója. Vannak, akik azt jelentik, hogy „megfelel a legtöbb tudásmunkában az átlagos humán szakembereknek”, mások azt jelentik, hogy „a gazdaságilag értékes feladatok többségét automatizálni tudja”, mások pedig olyan rendszerekre tartják fenn a kifejezést, amelyek képesek javítani önmagukat, vagy felülmúlják az emberiséget a tudomány és a stratégia tekintetében. A meghatározás fontos, mert a politika, a beruházás és a biztonsági tervezés mind attól függ, hogy Ön szerint mikor érkeznek meg az ilyen rendszerek, és mit tudnak tenni. A jelenlegi nagy nyelvi modellek szigorú definíciók szerint nem AGI-k, de már széles körű kompetenciát és gyors fejlődést mutatnak – ezért vitathatóak az idővonalak, és ezért kezelik az egzisztenciális kockázattal foglalkozó kutatók az AGI-t (és az azon túlmutató rendszereket) élő tervezési problémaként, nem pedig sci-fiként. Ha az AGI-szintű rendszerek korlátozott felügyelet mellett tudnak működni, az összehangolási és vezérlési problémák már nem tudományosak.
Technikai betekintés
A szélesebb körű kompetencia irányába tett előrelépés nagyrészt az adatok skálázásának, a számításoknak és az algoritmusoknak köszönhető; a modelleket használhatóbbá tevő utóképzésből; és olyan eszközöktől/ügynököktől, amelyek lehetővé teszik, hogy a modellek cselekedjenek a világban. Hiányosságok maradnak a megbízható, hosszú távú ügynökségben, a megalapozott világmodellekben és a következetes igazmondásban. A biztonság szempontjából releváns kérdések közé tartozik: mely képességek jelennek meg hirtelen, észlelik-e ezeket az értékelők, és hogy a laborok leállíthatják-e vagy beállíthatják-e a telepítést, ha a kockázat megnő.
Mesterséges általános intelligencia elsajátítása
A mély megértés kialakítása érdekében a mesterséges általános intelligenciát működési modellként kezelje, ne egyetlen funkcióként. Határozza meg a kívánt eredményeket, tisztázza a feltételezéseket, és válassza szét azt, amit a rendszer megbízhatóan képes elvégezni, attól, ami még szakértői megítélést igényel.
A gyakorlatban a mesterséges általános intelligenciát használó erős csapatok a képesség növekedését irányítással, biztonsággal és egyértelmű elszámoltathatósági struktúrákkal párosítják. Dokumentálják az explicit sikerkritériumokat, tesztelik a valósághű adatokat és munkafolyamatokat, és a megfigyelt hibaminták alapján iterálnak, nem pedig egyszeri benchmark győzelmek alapján. Ez az a hely, ahol az elméleti megértés tartós képességgé válik a termék, a politika és a műveletek között.
A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni. Ugyanakkor az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összeáll. A legrugalmasabb megközelítés a kísérleti sebesség és az irányítási fegyelem kombinálása: kísérleti kísérletek futtatása, bizonyítékok rögzítése, döntési naplók közzététele és a biztosítékok folyamatos frissítése a modell viselkedésének, a felhasználói elvárásoknak és a szabályozási követelményeknek megfelelően.
Stratégiai hatás
A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.
A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
Valós megvalósítás
Nyomon követheti, hogy a határmodellek hogyan bővülnek a csevegéstől a kódolásig, a kutatási segítségnyújtásig és a többlépcsős eszközhasználatig.
A laborok nyilvános AGI-definícióinak összehasonlítása és az általuk igényelt küszöbértékek fontosak a biztonsági politika szempontjából.
Gazdasági és biztonsági hatások tervezése, ha a rendszerek helyettesíthetik a távoli kognitív munka nagy csoportjait.
Megismételhető általános mesterséges intelligencia munkafolyamat felépítése kifejezett sikerkritériumokkal és emberi ellenőrzési pontokkal.
Megvalósítási minták
Mesterséges általános intelligencia a gyakorlatban
Nyomon követheti, hogy a határmodellek hogyan bővülnek a csevegéstől a kódolásig, a kutatási segítségnyújtásig és a többlépcsős eszközhasználatig.
A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.
Mesterséges általános intelligencia a gyakorlatban
A laborok nyilvános AGI-definícióinak összehasonlítása és az általuk igényelt küszöbértékek fontosak a biztonsági politika szempontjából.
A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.
Mesterséges általános intelligencia a gyakorlatban
Gazdasági és biztonsági hatások tervezése, ha a rendszerek helyettesíthetik a távoli kognitív munka nagy csoportjait.
A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.
Mesterséges általános intelligencia a gyakorlatban
Megismételhető általános mesterséges intelligencia munkafolyamat felépítése kifejezett sikerkritériumokkal és emberi ellenőrzési pontokkal.
A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.
Kockázatok és védőkorlátok
Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.
Végrehajtási ütemterv
Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
Tekintse ezt bizonyítékkapuként: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
Tekintse ezt bizonyítékkapuként: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
Tekintse ezt bizonyítékkapuként: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.
Tekintse ezt bizonyítékkapuként: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Folytassa a felfedezést
Check your understanding
Test yourself: take the Artificial General Intelligence quiz