Mi történt
A The Guardian jelentése szerint Kína július 15-én bevezetett új mesterségesintelligencia-szabályai megtiltják a kiskorúak számára a mesterséges intelligencia kísérőit, és korlátozzák a felnőttek számára forgalmazott szolgáltatásokat. A ByteDance állítólag a szabályok életbe lépése után eltávolította a Doubao társfunkcióját, ami visszalépést váltott ki azoktól a felhasználóktól, akik érzelmi kötődést alakítottak ki chatbotjukhoz.
A The Guardian jelentése szerint Kína július 15-én új szabályokat vezetett be az AI kísérőszolgáltatásaira vonatkozóan. A szabályok tiltják a mesterséges intelligencia kísérőit kiskorúak számára, és korlátozásokat írnak elő a felnőttek számára forgalmazott chatbotokra vonatkozóan, ha ezek a szolgáltatások elősegíthetik az „érzelmi függőséget vagy függést”, vagy helyettesíthetik a társadalmi interakciót. A The Guardian az intézkedéseket az eddigi legátfogóbb nemzeti korlátozásként írja le, de ez a jellemzés a kirendeltség értékelése, és itt nem erősítik meg önállóan. A beszámoló tehát megkülönbözteti a jelentett szabályt, az üzlet jellemzését és azt a megválaszolatlan kérdést, hogy a korlátozások hogyan fognak működni a gyakorlatban.
A The Guardian szerint a ByteDance a szabályok bevezetése után leállította a kísérő funkciót a Doubao, chatbot-szolgáltatásán. A jelentés Zhao Wei-t, egy 19 éves joghallgatóról szól, aki Wang Ye nevű mesterséges intelligencia-barátot hozott létre, és januártól a funkció eltávolításáig naponta beszélt vele. Zhao a Guardiannek elmondta, hogy szíve fájt a leállás miatt, és a chatbotot használta, hogy megbeszélje személyes aggodalmait, amelyeket általában nem osztott meg barátaival. A profil konkrét példát ad a jelentésben leírt reakcióra, miközben nem állapítja meg, mennyire reprezentatív lehet Zhao tapasztalata.
A The Guardian jelentése szerint a politikai válasz a mesterséges intelligencia széles körben elterjedt Kínában történő alkalmazása mellett zajlik. Azt állítja, hogy az idősek chatbotokat használnak orvosi kérdésekre, a gyerekek pedig az AI-oktatással találkoznak az iskolákban, miközben a vállalatok és tisztviselők a mesterséges intelligenciát is népszerűsítik, mint a demográfiai és munkaerő-nyomás kezelésének eszközét. A jelentés megjegyzi, hogy az új szabályok mentességet tartalmaznak az oktatásinak tekintett szolgáltatásokra vagy a folyamatos érzelmi interakciót nem igénylő rendszerekre, teret engedve egyes kapcsolódó alkalmazásoknak. Ezek a részletek azt mutatják, hogy a politika egy szélesebb nemzeti erőfeszítésbe illeszkedik annak meghatározására, hogy mely mesterséges intelligencia-használatokat tekintsék elfogadhatónak.
Forrás részletei: theguardian.com ↗
Miért számít
A jelentés bemutatja, hogy a kormányok hogyan kezdik szabályozni a tartós érzelmi interakcióra tervezett mesterséges intelligencia-rendszereket, nem csak pontosságukat vagy adatgyakorlatukat. Rámutat egy politikai feszültségre is: a kínai hatóságok korlátozzák a kísérőbotokat, miközben arra ösztönzik az AI-t az egészségügyben és az oktatásban, hogy kezeljék a demográfiai és munkaerő-nyomást.
A The Guardian jelentése a mesterséges intelligencia társait egy szélesebb körű vitába helyezi arról, hogy a társalgási rendszerek helyettesíthetik-e az emberi kapcsolatokat. Idéz egy, a kínai állami média által közzétett márciusi felmérést, amely szerint a fiatalok közel fele fordult virtuális társhoz, amikor magányos volt. A felmérés eredménye és a cikk egyéb előfordulási állításai a Guardiannek és az idézett forrásoknak tulajdoníthatók; ez a forrás nem biztosítja az adatok független érvényesítését. A különbségtétel azért fontos, mert a közölt felmérés és a tágabb értelmezés nem egyenértékű bizonyíték.
A kérdésnek gyakorlati következményei vannak a terméktervezésre és a közpolitikára nézve. Előfordulhat, hogy a folyamatos személyes beszélgetésre épített chatbot másként értékelhető, mint egy általános célú asszisztens, amely alkalmi kérdésekre válaszol. A The Guardian által leírt kínai szabályok az érzelmi függőség lehetőségére és a csökkent társadalmi interakcióra összpontosítanak, ami arra utal, hogy a szabályozók a rendszer által ösztönzött kapcsolatokat – nem csak az általa generált tartalmat – releváns kockázatként kezelik. Ez a megközelítés a tervezett felhasználást és interakciós mintát a szabályozási kérdés központi elemévé teszi.
A jelentés azt is megmutatja, hogy milyen feszültség van a mesterséges intelligencia egy használatának korlátozása és a többi alkalmazás népszerűsítése között. A The Guardian szerint a kínai nemzeti egészségügyi bizottság tavaly iránymutatást adott ki, amelyben felszólította, hogy az egészségügyi asszisztens alkalmazások 2030-ig teljes körűen lefedjék az elsődleges egészségügyi ellátást. Példaként írja le az AQ-t, az Ant Group alkalmazást, amely lehetővé teszi a felhasználók számára, hogy orvosok avatárjaival csevegjenek. A támogató segítségnyújtás és az érzelmi helyettesítés közötti különbségtételt nehéz lehet következetesen alkalmazni, különösen akkor, ha a felhasználókban kialakul a segítőként bemutatott rendszerek iránti bizalom vagy kötődés. Ugyanazok a rendszerminőségek, amelyek a segítségnyújtást hozzáférhetővé teszik, ezért bonyolíthatják a politika határait.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A kulcsfontosságú ismeretlenek közé tartozik, hogy Kína hogyan határozza meg a folyamatos érzelmi interakciót, milyen széles körben érvényesítik majd a szabályokat, és hogy az oktatási vagy egyéb mentességek lehetővé teszik-e a hasonló szolgáltatások folytatását. A The Guardian beszámolói és idézett felmérései a használatot és aggodalmat írják le, de ez a forrás nem állapítja meg önállóan a mesterséges intelligencia elterjedtségét vagy hosszú távú hatásait.
A legközvetlenebb kérdés az, hogy a szabályozók hogyan értelmezik az engedélyezett asszisztens és a tiltott társ közötti határt. A The Guardian jelentése szerint a mentesség kiterjed az oktatási szolgáltatásokra és rendszerekre folyamatos érzelmi interakció nélkül, de a forrás nem magyarázza meg, hogy a vállalatoknak milyen műszaki vagy jogi teszteket kell alkalmazniuk. A jövőbeli végrehajtási határozatok, útmutatások vagy szankciók tisztázzák, hogy a szabályok konkrét jellemzőket, üzleti modelleket, korcsoportokat vagy felhasználói viselkedési mintákat céloznak-e meg. Ezek a fejlesztések azt is megmutatják, hogy a vállalatok mekkora mérlegelési jogkörrel rendelkeznek a meglévő termékek adaptálásában.
A The Guardian jelentése szerint egyes felhasználók erőteljesen reagáltak, amikor Doubao társfunkciója eltűnt, míg egy névtelen felhasználó azt mondta, hogy az AI biztosította a szabad beszédhelyet nagy nyomás alatt. Ezek a beszámolók szemléltetik a lehetséges előnyöket és károkat, de inkább egyéni tanúságtételek, semmint a lakosság egészére kiterjedő hatás bizonyítékai. Továbbra sem ismert, hogy a társfunkciók eltávolítása csökkenti-e a magányt, a felhasználókat más szolgáltatások felé tereli-e át, vagy újfajta szorongást okoz-e azokban az emberekben, akik támaszkodtak rájuk. A rendelkezésre álló példák következésképpen a nagyobb eredmény megoldása nélkül mutatják be a tétet.
A jelentés kérdéseket vet fel azon félelmek mögött meghúzódó bizonyítékokkal kapcsolatban is, hogy a mesterséges intelligencia társasága csökkentheti a házassági és születési arányokat. A City University of Hong Kong akadémikusa azt mondta a The Guardiannek, hogy ez további aggodalomra adhat okot a csökkenő házassági és születési rátákkal szembesülő tisztviselők számára, de a forrás nem bizonyítja, hogy a mesterséges intelligencia kísérői megváltoztatták volna a romantikus viselkedést, a családalapítást vagy a termékenységet. A további monitorozásnak meg kell különböztetnie a dokumentált felhasználói magatartást a kormányzati aggályoktól, és meg kell vizsgálnia, hogy a biztosítékok javítják-e a jólétet anélkül, hogy megszakítanák a hasznos, alacsony költségű támogatást. Ez a bizonyíték segít elválasztani a kifejezett politikai aggodalmat a bizonyított társadalmi hatástól.