Mi történt
A The Guardian beszámolója szerint Bill Gates azt javasolta, hogy a mesterséges intelligencia és a robotok fejlődésével bizonyos munkákat félretessenek az emberek számára. Egy 6000 szavas esszében Gates ezeket a szerepeket a természetvédelmi területekkel hasonlította össze, és az emberközpontú ellátást, beleértve a súlyos orvosi diagnózisok közlését, olyan munkaként említette, amelyet a gépek nem helyettesíthetnek. Arra is figyelmeztetett, hogy a kormányok nincsenek felkészülve a mesterséges intelligencia foglalkoztatási, oktatási, adózási, választási, közegészségügyi, pénzügyi és egyéb rendszerekre gyakorolt hatásaira.
A The Guardian jelentése szerint Bill Gates egy 6000 szavas esszében javasolta az „embernek fenntartott” alkotások kategóriáját: „Itt a viharos mesterséges intelligencia korszaka. A döntéseink kritikusak.” Gates azzal érvelt, hogy a mesterséges intelligencia rendszerek és a robotok fejlődésével a társadalmak úgy dönthetnek, hogy bizonyos tevékenységeket megtartanak az embereknek, még akkor is, ha a gépek technikailag el tudják végezni azokat. Ezt a választást a természetvédelmi területekkel hasonlította össze: olyan helyekkel, ahol lehetséges az építkezés, de elutasították, mert túl nagynak ítélnék a veszteséget.
Gates used health care as his clearest example. A The Guardian beszámolója szerint olyan szakemberekre hivatkozott, akik hat éve Alzheimer-kórban meghalt édesapját gondozták, és azt mondta, hogy az ellátásban valami pótolhatatlanul emberi. Kifejezetten megkérdőjelezte, hogy egy robotnak kell-e hírt adnia arról, hogy a betegnek gyógyíthatatlan betegsége van, ugyanakkor elismerte, hogy nincs technikai oka annak, hogy ezt egy robot ne tudná megtenni. A jelentés ezt Gates ítéleteként mutatja be arról, hogy minek kell maradnia az emberi irányításnak, nem pedig annak bizonyítékaként, hogy a jelenlegi rendszerek függetlenül képesek ellátni az orvosi vagy gondozási feladatok teljes körét.
A The Guardian jelentése szerint Gates figyelmeztette, hogy a kormányok nincsenek felkészülve az AI hatásának mértékére. Azt írta, hogy egy hazai és nemzetközi keretnek nemcsak a nemzetbiztonsággal kell foglalkoznia, hanem a foglalkoztatással, az oktatással, az adózással, az energiával, a választásokkal, a levegővel és vízzel, a közegészséggel, a pénzügyekkel, a rendvédelemmel, a közlekedéssel, a közterületekkel és az információs technológiai rendszerekkel is. Gates a kihívást a szeptember 11-i támadások utáni jelentős amerikai kormányzati átszervezéssel hasonlította össze, mondván, az AI sokkal szélesebb körű választ igényel.
A jelentés azt is elmondja, hogy Gates együttműködésre szólított fel az Egyesült Államok és Kína között az AI-val kapcsolatos kockázatok csökkentésére irányuló globális erőfeszítés részeként. A The Guardian szerint munkatársai azon dolgoznak, hogy novemberben találkozót szervezzenek Hszi Csin-ping kínai elnökkel. A forrás szerint Gates utoljára három éve találkozott Xi-vel, de nem erősíti meg, hogy új találkozót tűztek volna ki, vagy hogy bármely kormány elfogadta volna a konkrét keretet.
Az oktatással kapcsolatban a The Guardian arról számol be, hogy Gates arra figyelmeztetett, hogy az AI-nak ellentmondásos hatásai lehetnek: segíthet az embereknek többet tanulni, miközben egyesek kevesebbet tanulnak. Idézett egy előzetes felmérést, amely a súlyosabb AI-használatot a kevésbé kritikus gondolkodással társította, ami erősebb hatással volt a fiatalok körében. A forrás nem azonosítja részletesen a felmérést, és nem állapít meg ok-okozati összefüggést.
Forrás részletei: theguardian.com ↗
Miért számít
A javaslat a mesterséges intelligencia elfogadását nem csak a technikai képességek, hanem a társadalmi választás kérdéseként fogalmazza meg. A Guardian jelentése rávilágít a feszültségre a között, hogy a mesterséges intelligencia a hozzáférést és a termelékenységet bővíti, miközben megőrzi a bizalomtól, felelősségvállalástól és emberi jelenléttől függő munkaformákat. Gates a mesterséges intelligencia irányítását is összekapcsolta a nemzetközi együttműködéssel, mondván, hogy szükség lenne némi együttműködésre az Egyesült Államok és Kína között.
A javaslat azért fontos, mert áthelyezi a vitát arról, hogy a mesterséges intelligencia képes-e ellátni egy feladatot, arra, hogy az emberek leváltása károsítana-e valamit, amit a társadalom értékes. Gates példájában a lényeges tulajdonságok nem egyszerűen a pontosság vagy a gyorsaság. Ide tartozik az empátia, a bizalom, az elszámoltathatóság és az a tapasztalat, hogy egy másik személy gondoskodik róla. Ezeket a tulajdonságokat nehéz technikai teljesítményre vonatkozó referenciaértékre csökkenteni, és a jelentés nem utal arra, hogy a kormányok megállapodtak volna ezek méréséről vagy védelméről.
A The Guardian fiókja emellett a mesterséges intelligencia irányítását egyszerre több szakpolitikai területen is áthelyezi. Ha a mesterséges intelligencia hatással van a foglalkoztatásra, az oktatásra, az adózásra, a választásokra, a közegészségügyre, a pénzügyi rendszerekre és a bűnüldözésre, az egyik területen hozott döntések hatással lehetnek a többire is. Például a munkahelyi automatizálás változásai befolyásolhatják az adóbevételeket és az oktatási igényeket, míg a mesterséges intelligencia közszolgáltatásokban való használata kérdéseket vethet fel az elszámoltathatóság és a hozzáférés tekintetében. A forrás közli Gates figyelmeztetését ezzel kapcsolatban, de nem dokumentál kormányzati választ vagy konkrét intézményi tervet.
A foglalkoztatás kérdése annak ellenére is következmény, hogy az esszé nem ad előrejelzést a munkahelyek elvesztésével kapcsolatban, nem sorolja fel a védett foglalkozásokat, és nem tartalmazza az elköltözés ütemezését. Gates szerint sok munkahely örökre megszűnik a The Guardian szerint, de a jelentés önállóan nem igazolja ezt a jóslatot. Az olvasóknak ezért különbséget kell tenniük egy prominens technológiai személyiség figyelmeztetése és a jövő munkaerőpiacára vonatkozó mért bizonyítékok között. A cikk nem közöl új foglalkoztatási adatokat, gazdasági modellt vagy értékelést arról, hogy mely feladatok várhatóan változnak.
The education argument has a similar limitation. Egy előzetes felmérés, amely a súlyosabb MI-használatot a kevésbé kritikus gondolkodással összekapcsolja, további kutatásokat indokolhat, de önmagában nem bizonyítja, hogy a mesterséges intelligencia okozta a jelentett összefüggést, vagy hogy az eredmény korcsoportokra, alanyokra vagy felhasználási módokra vonatkozik. A Guardian jelentése nem ad tájékoztatást a felmérés mintájáról, felépítéséről, méréseiről vagy a szakértői értékelés állapotáról. Ez a bizonytalanság fontos az iskolák és a családok számára annak eldöntésében, hogy az AI-t korlátozni kell-e, eszközként kell-e tanítani, vagy be kell-e építeni a tanulásba.
A javasolt, embernek fenntartott kategória a közrend szempontjából relevánssá válhat, ha a kormányok vagy szakmai testületek elkezdik meghatározni az automatizálás határait. Az ilyen szabályok megvédhetik a kiszolgáltatott személyeket és megőrizhetik a szolgáltatás értékes formáit, de nehéz kérdéseket vethetnek fel a költségekkel, a személyzettel, a hozzáféréssel és az egyenlőtlen bánásmóddal kapcsolatban. A forrás nem állítja, hogy Gates jogszabályt javasolt volna, vagy hogy bármely hatóság fontolóra venné az ötletét.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A központi megválaszolatlan kérdések az, hogy mely munkakörök kapnának formális védelmet, ha vannak ilyenek, ki döntene, és hogyan érvényesül a védelem. A The Guardian jelentése szerint Gates munkatársai azon dolgoznak, hogy egy novemberi találkozót szervezzenek Hszi Csin-ping kínai elnökkel, de a találkozót a forrás nem erősíti meg. A mesterséges intelligencia kritikus gondolkodásra gyakorolt hatására hivatkozott bizonyítékok szintén előzetesek, és a forrás nem közöl részletes módszertant vagy eredményeket.
Az első kérdés, amelyet meg kell figyelni, hogy az „emberi fenntartás” elv marad-e, vagy konkrét politikai javaslattá válik. A The Guardian jelentése példákat ad a gondozásból, de nem tartalmaz jogi definíciót, végrehajtási mechanizmust, finanszírozási modellt vagy foglalkozások listáját. Minden komoly politikai vitában foglalkozni kell azzal, hogy a védelem egész szakmákra, meghatározott feladatokra vagy kiszolgáltatott személyeket érintő helyzetekre és nagy tétet jelentő döntésekre vonatkozik-e.
A másik kérdés a nemzetközi mesterségesintelligencia-irányítás fejlesztése. A The Guardian jelentése szerint Gates úgy véli, hogy szükség lesz bizonyos amerikai-kínai együttműködésre, és munkatársai azon dolgoznak, hogy novemberben találkozót szervezzenek Hszi Csin-pinggel. Az ülést a forrás önállóan nem erősíti meg, napirendet vagy tárgyalásos eredményt nem közölnek. A későbbi jelentéseknek meg kell állapítaniuk, hogy a találkozóra sor kerül-e, és hogy konkrét javaslatot hoz-e létre, nem pedig általános együttműködési felhívást.
A harmadik probléma a mesterséges intelligencia és a kritikus gondolkodásra vonatkozó állítások mögött meghúzódó bizonyítékok. A Gates által idézett felmérés csak előzetesnek tekinthető. A hasznos nyomon követés magában foglalná a tanulmány módszereit, a korreláció és az ok-okozati összefüggés közötti különbségtételt, a vizsgált mesterségesintelligencia-használat fajtáit, és azt, hogy független kutatók reprodukálják-e az eredményt. Ezen információk hiányában a leletet nem szabad úgy kezelni, mint egy rendezett beszámolót arról, hogy a mesterséges intelligencia hogyan hat a fiatalokra.
A kormányok és a munkaadók a munkaerő-tervezés, átképzés, oktatáspolitika és az automatizált döntéshozatal szabályai révén is reagálhatnak. A The Guardian jelentése szerint Gates úgy látja, hogy a mesterséges intelligencia ezeken a területeken releváns, de az esszéhez kapcsolódó új hivatalos intézkedéseket nem azonosítja. A gyakorlati kérdés az, hogy az intézmények képesek-e elég egyértelműen meghatározni az emberi felelősséget ahhoz, hogy megőrizzék azt, amikor az AI-eszközök beépülnek a hétköznapi szolgáltatásokba.
Végül az olvasóknak figyelniük kell a képesség és a legitimitás egyértelműbb elválasztására. Egy rendszer információszolgáltatási, gondozási vagy adminisztratív munkavégzésre való képessége nem dönti el, hogy ezt meg kell-e tennie, milyen felügyelet mellett, vagy milyen tévedések esetén. Gates esszéje felveti ezeket a kérdéseket, de a forrás nem ad választ, és nem teszteli önállóan egyetlen MI-rendszer képességeit sem.