Gids voor de samenleving

China's tussentijdse maatregelen op het gebied van generatieve AI

De Chinese interimmaatregelen voor het beheer van generatieve kunstmatige intelligentiediensten, die sinds 15 augustus 2023 van kracht zijn, stellen de regels vast voor chatbots, beeldgeneratoren en andere generatieve AI die aan het publiek op het vasteland van China worden aangeboden.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van China's tussentijdse maatregelen op het gebied van generatieve AI
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Ze hebben betrekking op inhoudsnormen, trainingsgegevens, etikettering en gebruikersbescherming, en vereisen van aanbieders met invloed op de publieke opinie dat ze de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien. Ze zijn van belang omdat ze van China een van de eerste grote economieën hebben gemaakt met bindende regels die specifiek zijn geschreven voor generatieve AI.

Diepe duik

De Cyberspace Administration of China (CAC) heeft de tussentijdse maatregelen in juli 2023 uitgevaardigd, samen met zes andere instanties, waaronder de Nationale Commissie voor Ontwikkeling en Hervorming, het Ministerie van Onderwijs, het Ministerie van Wetenschap en Technologie, het Ministerie van Industrie en Informatietechnologie en het Ministerie van Openbare Veiligheid. Ze zijn van toepassing op generatieve AI-diensten die op het vasteland van China aan het publiek worden aangeboden. Onderzoek en ontwikkeling die niet aan het publiek worden aangeboden, worden grotendeels uitgesloten. De inhoudsregels vereisen dat aanbieders de “socialistische kernwaarden” hooghouden en geen inhoud genereren die de staatsmacht, de nationale eenheid of de sociale stabiliteit ondermijnt, of die valse of schadelijke informatie verspreidt. Aanbieders moeten ook stappen ondernemen tegen discriminatie, intellectueel eigendom en bedrijfsgeheimen beschermen en persoonlijke rechten zoals privacy en reputatie respecteren. Wat trainingsgegevens betreft, moeten aanbieders wettige bronnen gebruiken, inbreuk op intellectueel eigendom vermijden, een wettelijke basis hebben zoals toestemming voor persoonlijke informatie, en de kwaliteit, waarheidsgetrouwheid, nauwkeurigheid, objectiviteit en diversiteit van hun gegevens verbeteren. Het labelen van menselijke gegevens moet aan duidelijke regels voldoen en op kwaliteit worden gecontroleerd. De maatregelen sluiten aan bij eerdere regelgeving. Diensten met ‘attributen van de publieke opinie of capaciteit voor sociale mobilisatie’ moeten veiligheidsbeoordelingen ondergaan en hun algoritmen indienen volgens de algoritme-aanbevelingsregels van 2022, en gegenereerde inhoud moet worden gelabeld volgens de regels voor diepgaande synthese. De CAC onderhoudt het archiefsysteem en publiceert lijsten met ingediende diensten. Het ontwerp van april 2023 was strenger. Het vereiste dat de gegenereerde inhoud waar en accuraat was, wat vrijwel onmogelijk zou zijn geweest voor taalmodellen die kunnen hallucineren. De definitieve tekst verzachtte dit tot een plicht om effectieve maatregelen te nemen om de nauwkeurigheid en betrouwbaarheid te verbeteren, en voegde taal toe die innovatie ondersteunde. De maatregelen verbieden niet alle buitenlandse AI. In plaats daarvan lieten ze de CAC technische maatregelen nemen tegen diensten van buiten China die de regels overtreden.

Implementatie in de echte wereld

Voordat een Chinees bedrijf zijn chatbot voor het publiek kan openstellen, voltooit het doorgaans een veiligheidsbeoordeling en dient het zijn algoritme in bij de Cyberspace Administration van China. Pas nadat de aanvraag is geaccepteerd, wordt het op grote schaal gelanceerd.

Een aanbieder die een trainingscorpus opbouwt, moet screenen op illegale inhoud, rechtmatig verkregen gegevens gebruiken, intellectueel eigendom respecteren en toestemming of een andere wettelijke basis verkrijgen voordat hij persoonlijke informatie gebruikt.

Een AI-app voor consumenten moet klachten- en rapportagekanalen opzetten, door AI gegenereerde afbeeldingen en video's labelen volgens de Chinese regels voor diepgaande synthese, en stappen ondernemen om te voorkomen dat minderjarigen al te afhankelijk worden van de dienst.

Een bedrijf dat een groot model alleen intern voor onderzoek gebruikt, zonder het in China aan het publiek aan te bieden, valt doorgaans buiten de belangrijkste verplichtingen van de maatregelen.

De toekomst van China's tussentijdse maatregelen op het gebied van generatieve AI

De maatregelen worden als interim bestempeld. Er is een alomvattende AI-wet verschenen in de wetgevende werkplannen van de Staatsraad, maar er is er geen enkele aangenomen. Ondertussen blijft China gerichte regels toevoegen, zoals verplichte etiketteringsvereisten en nieuwe nationale normen, zodat het algehele systeem in lagen groeit. Hoe strikt de inhoudsregels worden toegepast, kan veranderen afhankelijk van de politieke prioriteiten en de CAC-handhavingscampagnes. Voor mondiale bedrijven is een belangrijke open vraag hoe China's op archivering gebaseerde aanpak zal interageren met de AI-regels van andere landen, vooral waar trainingsgegevens en toegang tot modellen grensoverschrijdend zijn.

Het in de praktijk brengen

Waarom het ertoe doet

  • Risico en veiligheid. Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
  • Duidelijkere beslissingen. Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
  • Door de hype heen snijden. Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.

Pas op voor

  • Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
  • De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
  • Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.

Volgende stappen

  1. Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
  2. Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
  3. Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
  4. Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the China's Generative AI Interim Measures quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat zijn de voorlopige maatregelen van China op het gebied van generatieve AI?

De Chinese interimmaatregelen voor het beheer van generatieve kunstmatige intelligentiediensten, die sinds 15 augustus 2023 van kracht zijn, stellen de regels vast voor chatbots, beeldgeneratoren en andere generatieve AI die aan het publiek op het vasteland van China worden aangeboden. Ze hebben betrekking op inhoudsnormen, trainingsgegevens, etikettering en gebruikersbescherming, en vereisen van aanbieders met invloed op de publieke opinie dat ze de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien. Ze zijn van belang omdat ze van China een van de eerste grote economieën hebben gemaakt met bindende regels die specifiek zijn geschreven voor generatieve AI.

Wanneer zijn de voorlopige maatregelen van China voor generatieve AI-diensten van kracht geworden?

De CAC en zes andere instanties hebben de maatregelen in juli 2023 uitgevaardigd en zijn op 15 augustus 2023 in werking getreden.

Welke activiteit valt doorgaans buiten de belangrijkste verplichtingen van de maatregelen?

De maatregelen zijn van toepassing op generatieve AI-diensten die aan het publiek op het Chinese vasteland worden aangeboden. Onderzoek en ontwikkeling die niet aan het publiek worden aangeboden, worden grotendeels uitgesloten.

Welke diensten moeten een veiligheidsbeoordeling en algoritmeregistratie ondergaan?

De maatregelen vereisen dat diensten met publieke opinie-attributen of sociale mobilisatiecapaciteit de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien onder de eerdere regels voor algoritme-aanbevelingen.

Welke instantie leidt de handhaving van de maatregelen?

De Cyberspace Administration of China heeft de maatregelen samen met andere instanties uitgevaardigd, beheert het archiefsysteem en leidt de handhaving.

Hoe hebben de definitieve maatregelen de nauwkeurigheidsvereiste uit het ontwerp van april 2023 veranderd?

Het concept vereiste dat de gegenereerde inhoud waar en accuraat was, wat onpraktisch is voor modellen die kunnen hallucineren. De definitieve tekst veranderde dit in een plicht om effectieve maatregelen te nemen om de nauwkeurigheid en betrouwbaarheid te verbeteren.