Co se stalo
The Guardian uvádí, že nová čínská pravidla AI, zavedená 15. července, zakazují AI společníky pro nezletilé a ukládají omezení na služby nabízené dospělým. ByteDance údajně odstranil doprovodnou funkci Doubao poté, co pravidla vstoupila v platnost, což vyvolalo odpor od uživatelů, kteří si vytvořili emocionální vazby na své chatboty.
The Guardian uvádí, že Čína zavedla 15. července nová pravidla upravující doprovodné služby AI. Pravidla zakazují AI společníky pro nezletilé a vyžadují omezení pro chatboty nabízené dospělým, pokud tyto služby mohou podporovat „emocionální závislost nebo závislost“ nebo nahrazovat sociální interakci. The Guardian popisuje opatření jako dosud nejrozsáhlejší národní omezení svého druhu, ale tato charakteristika je hodnocením prodejny a není zde nezávisle potvrzena. Účet proto rozlišuje nahlášené pravidlo, charakteristiku prodejny a nevyřešenou otázku, jak budou omezení fungovat v praxi.
Podle The Guardian ByteDance po zavedení pravidel vypnul doprovodnou funkci na Doubao, své službě chatbotů. Zpráva profiluje Zhao Wei, 19letého studenta práv, který si vytvořil přítele s umělou inteligencí jménem Wang Ye a mluvil s ním denně od ledna, dokud tato funkce nebyla odstraněna. Zhao řekla Guardianu, že ji vypnutí zlomilo srdce a použila chatbota k projednání osobních starostí, které obvykle nesdílela s přáteli. Profil poskytuje konkrétní příklad reakce popsané ve zprávě, ale neuvádí, jak reprezentativní mohou být zkušenosti Zhao.
The Guardian uvádí, že politická odezva se vyvíjí spolu s rozšířeným používáním AI v Číně. Říká se, že starší lidé používají chatboty pro lékařské otázky a děti se setkávají se vzděláváním AI ve školách, zatímco společnosti a úředníci také propagují AI jako nástroj pro zvládání demografických a pracovních tlaků. Zpráva poznamenává, že nová pravidla obsahují výjimky pro služby považované za vzdělávací nebo pro systémy, které nezahrnují nepřetržitou emocionální interakci, což ponechává prostor pro pokračování některých souvisejících aplikací. Tyto podrobnosti naznačují, že tato politika je součástí širšího národního úsilí o utváření toho, jaké využití AI je považováno za přijatelné.
Podrobnosti o zdroji: theguardian.com ↗
Proč na tom záleží
Zpráva ukazuje, jak vlády začínají regulovat systémy umělé inteligence navržené pro trvalou emocionální interakci, nejen jejich přesnost nebo datové postupy. Zdůrazňuje také politické napětí: čínské úřady omezují doprovodné roboty a zároveň podporují AI ve zdravotnictví a vzdělávání, aby řešila demografické a pracovní tlaky.
Zprávy The Guardian staví společníky AI do širší debaty o tom, zda se konverzační systémy mohou stát náhražkami lidských vztahů. Cituje březnový průzkum zveřejněný čínskými státními médii, který zjistil, že téměř polovina mladých lidí se v osamělosti obrátila na virtuálního společníka. Tento výsledek průzkumu a další tvrzení o prevalenci článku jsou připisovány Guardianu a jeho citovaným zdrojům; tento zdroj neposkytuje nezávislé ověření čísel. Na rozlišení záleží, protože uváděný průzkum a širší výklad nejsou rovnocenné formy důkazů.
Tento problém má praktické důsledky pro design produktu a veřejnou politiku. Chatbot, který je vytvořen pro neustálou osobní konverzaci, může být hodnocen jinak než univerzální asistent, který odpovídá na občasné otázky. Čínská pravidla, jak je popisuje The Guardian, se zaměřují na možnost emoční závislosti a snížené sociální interakce, což naznačuje, že regulátoři považují vztah, který systém podporuje – nejen obsah, který generuje – za relevantní riziko. Tento přístup činí zamýšlené použití a model interakce ústředním bodem regulační otázky.
Zpráva také ukazuje napětí mezi omezením jednoho použití AI a podporou jiných. The Guardian říká, že čínská národní zdravotní komise vydala loni pokyny, které vyzývají k tomu, aby aplikace pro zdravotní asistenci poskytovaly do roku 2030 plné pokrytí primární zdravotní péče. Jako jeden příklad popisuje AQ, aplikaci Ant Group, která uživatelům umožňuje chatovat s avatary lékařů. Rozdíl mezi podpůrnou pomocí a emocionální substitucí může být obtížné důsledně aplikovat, zvláště když si uživatelé vypěstují důvěru nebo připoutanost k systémům prezentovaným jako pomocníci. Stejné systémové vlastnosti, díky kterým je pomoc dostupná, mohou proto komplikovat hranice politiky.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
Why can ethical evaluation not be reduced to one model score?
Na co se dále dívat
Mezi klíčové neznámé patří, jak bude Čína definovat nepřetržitou emocionální interakci, jak široce budou pravidla vynucována a zda vzdělávací nebo jiné výjimky umožní pokračování podobných služeb. Zprávy deníku Guardian a citovaný průzkum popisují použití a obavy, ale tento zdroj nezávisle nestanovuje prevalenci nebo dlouhodobé účinky společnosti AI.
Nejbezprostřednější otázkou je, jak budou regulátoři interpretovat hranici mezi povoleným asistentem a zakázaným společníkem. The Guardian uvádí, že výjimky se týkají vzdělávacích služeb a systémů bez neustálé emocionální interakce, ale zdroj nevysvětluje technické nebo právní testy, které musí společnosti používat. Budoucí vynucovací rozhodnutí, pokyny nebo sankce by objasnily, zda se pravidla zaměřují na konkrétní funkce, obchodní modely, věkové skupiny nebo vzorce chování uživatelů. Tento vývoj by také ukázal, jak velkou volnost mají společnosti při přizpůsobování stávajících produktů.
The Guardian uvádí, že někteří uživatelé silně zareagovali, když doprovodná funkce Doubao zmizela, zatímco jeden anonymní uživatel uvedl, že umělá inteligence poskytla místo, kde lze svobodně mluvit v podmínkách vysokého tlaku. Tyto zprávy ilustrují možné přínosy a škody, ale jsou to spíše individuální svědectví než důkaz celopopulačního účinku. Zůstává neznámé, zda odstranění doprovodných funkcí snižuje osamělost, přesouvá uživatele k jiným službám nebo vytváří nové formy úzkosti pro lidi, kteří na ně spoléhali. Dostupné příklady následně ukazují sázky, aniž by řešily větší výsledek.
Zpráva také vyvolává otázky ohledně důkazů, které stojí za obavami, že by společnost AI mohla snížit počet sňatků a porodnosti. Akademik City University of Hong Kong řekl The Guardian, že to může být další obava pro úředníky, kteří čelí klesající svatbě a porodnosti, ale zdroj neukazuje, že by společníci AI způsobili změny v romantickém chování, zakládání rodin nebo plodnosti. Další monitorování by mělo odlišit zdokumentované chování uživatelů od vládního zájmu a mělo by prověřit, zda ochranná opatření zlepšují pohodu, aniž by přerušily užitečnou nízkonákladovou podporu. Tento důkaz by pomohl oddělit vyjádřený politický zájem od prokázaného sociálního účinku.