DalšíDalší průvodce
Etické revizní opatření Číny pro výzkum AI
Společnost
PRŮVODCE společností
Čínská prozatímní opatření pro správu služeb generativní umělé inteligence, platná od 15. srpna 2023, stanoví pravidla pro chatboty, generátory obrázků a další generativní umělou inteligenci nabízenou veřejnosti v pevninské Číně.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Zahrnují standardy obsahu, školicí data, označování a ochranu uživatelů a vyžadují, aby poskytovatelé s vlivem veřejného mínění dokončili hodnocení bezpečnosti a archivaci algoritmů. Záleží na nich, protože udělali z Číny jednu z prvních velkých ekonomik se závaznými pravidly napsanými speciálně pro generativní umělou inteligenci.
Čínská správa kyberprostoru (CAC) vydala prozatímní opatření v červenci 2023 spolu s dalšími šesti agenturami, včetně Národní komise pro rozvoj a reformy, ministerstva školství, ministerstva pro vědu a technologie, ministerstva průmyslu a informačních technologií a ministerstva veřejné bezpečnosti. Vztahují se na generativní služby AI nabízené veřejnosti v pevninské Číně. Výzkum a vývoj, který není nabízen veřejnosti, je z velké části vyloučen. Pravidla pro obsah vyžadují, aby poskytovatelé prosazovali „základní socialistické hodnoty“ a nevytvářeli obsah, který podkopává státní moc, národní jednotu nebo sociální stabilitu nebo šíří nepravdivé nebo škodlivé informace. Poskytovatelé musí také podniknout kroky proti diskriminaci, chránit duševní vlastnictví a obchodní tajemství a respektovat osobní práva, jako je soukromí a pověst. Pokud jde o údaje o školení, poskytovatelé musí používat zákonné zdroje, vyhýbat se porušování duševního vlastnictví, mít právní základ, jako je souhlas s osobními informacemi, a zlepšovat kvalitu, pravdivost, přesnost, objektivitu a rozmanitost svých údajů. Označování lidských údajů se musí řídit jasnými pravidly a musí být kontrolováno z hlediska kvality. Opatření navazují na dřívější předpisy. Služby s „atributy veřejného mínění nebo kapacitou sociální mobilizace“ musí projít bezpečnostním hodnocením a zařadit své algoritmy podle pravidel doporučení algoritmů z roku 2022 a generovaný obsah musí být označen podle pravidel hluboké syntézy. ČAK vede spisový systém a zveřejňuje seznamy podávaných služeb. Návrh z dubna 2023 byl přísnější. Vyžadovalo to, aby generovaný obsah byl pravdivý a přesný, což by bylo téměř nemožné pro jazykové modely, které mohou halucinovat. Konečný text to zmírnil na povinnost přijmout účinná opatření ke zlepšení přesnosti a spolehlivosti a přidal jazyk podporující inovace. Opatření nezakazují veškerou zahraniční umělou inteligenci. Místo toho nechali CAC přijmout technická opatření proti službám mimo Čínu, které porušují pravidla.
Než může čínská společnost otevřít svého chatbota veřejnosti, obvykle dokončí hodnocení zabezpečení a předloží svůj algoritmus Čínské správě kyberprostoru. Teprve po přijetí jeho podání se spustí široce.
Poskytovatel, který vytváří školicí korpus, musí před použitím osobních údajů prověřovat nelegální obsah, používat legálně získaná data, respektovat duševní vlastnictví a získat souhlas nebo jiný právní základ.
Spotřebitelská aplikace umělé inteligence musí nastavit kanály pro stížnosti a hlášení, označovat obrázky a videa vytvořené umělou inteligencí podle čínských pravidel hluboké syntézy a podniknout kroky, aby se nezletilí nestali příliš závislými na službě.
Společnost, která používá velký model pouze interně pro výzkum, aniž by jej nabídla veřejnosti v Číně, obecně nespadá do hlavních povinností opatření.
Opatření jsou označena jako prozatímní. Komplexní zákon o umělé inteligenci se objevil v plánech legislativní práce Státní rady, ale žádný nebyl přijat. Mezitím Čína neustále přidává cílená pravidla, jako jsou povinné požadavky na označování a nové národní normy, takže celkový systém roste ve vrstvách. To, jak striktně jsou uplatňována pravidla obsahu, se může změnit s politickými prioritami a kampaněmi na prosazování CAC. Pro globální společnosti je klíčovou otevřenou otázkou, jak bude čínský přístup založený na evidenci spolupracovat s pravidly umělé inteligence v jiných zemích, zejména tam, kde školicí data a přístup k modelům překračuje hranice.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Čínská prozatímní opatření pro správu služeb generativní umělé inteligence, platná od 15. srpna 2023, stanoví pravidla pro chatboty, generátory obrázků a další generativní umělou inteligenci nabízenou veřejnosti v pevninské Číně. Zahrnují standardy obsahu, školicí data, označování a ochranu uživatelů a vyžadují, aby poskytovatelé s vlivem veřejného mínění dokončili hodnocení bezpečnosti a archivaci algoritmů. Záleží na nich, protože udělali z Číny jednu z prvních velkých ekonomik se závaznými pravidly napsanými speciálně pro generativní umělou inteligenci.
CAC a šest dalších agentur vydalo opatření v červenci 2023 a vstoupilo v platnost 15. srpna 2023.
Opatření se vztahují na generativní služby umělé inteligence poskytované veřejnosti v pevninské Číně. Výzkum a vývoj, který není nabízen veřejnosti, je z velké části vyloučen.
Opatření vyžadují, aby služby s vlastnostmi veřejného mínění nebo schopností sociální mobilizace dokončily hodnocení bezpečnosti a archivaci algoritmů podle dřívějších pravidel doporučení algoritmů.
Čínská správa kyberprostoru vydala opatření s dalšími agenturami, provozuje systém evidence a vede vymáhání.
Návrh vyžadoval, aby generovaný obsah byl pravdivý a přesný, což je nepraktické pro modely, které mohou halucinovat. Konečný text to změnil na povinnost přijmout účinná opatření ke zlepšení přesnosti a spolehlivosti.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Etické revizní opatření Číny pro výzkum AI
Společnost