VolgendeVolgende gids
China’s Ethics Review Measures for AI Research
Samenleving
Gids voor de samenleving
De Chinese interimmaatregelen voor het beheer van generatieve kunstmatige intelligentiediensten, die sinds 15 augustus 2023 van kracht zijn, stellen de regels vast voor chatbots, beeldgeneratoren en andere generatieve AI die aan het publiek op het vasteland van China worden aangeboden.
Luister naar deze gidsAI-verteld · ~3 min
Ze hebben betrekking op inhoudsnormen, trainingsgegevens, etikettering en gebruikersbescherming, en vereisen van aanbieders met invloed op de publieke opinie dat ze de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien. Ze zijn van belang omdat ze van China een van de eerste grote economieën hebben gemaakt met bindende regels die specifiek zijn geschreven voor generatieve AI.
De Cyberspace Administration of China (CAC) heeft de tussentijdse maatregelen in juli 2023 uitgevaardigd, samen met zes andere instanties, waaronder de Nationale Commissie voor Ontwikkeling en Hervorming, het Ministerie van Onderwijs, het Ministerie van Wetenschap en Technologie, het Ministerie van Industrie en Informatietechnologie en het Ministerie van Openbare Veiligheid. Ze zijn van toepassing op generatieve AI-diensten die op het vasteland van China aan het publiek worden aangeboden. Onderzoek en ontwikkeling die niet aan het publiek worden aangeboden, worden grotendeels uitgesloten. De inhoudsregels vereisen dat aanbieders de “socialistische kernwaarden” hooghouden en geen inhoud genereren die de staatsmacht, de nationale eenheid of de sociale stabiliteit ondermijnt, of die valse of schadelijke informatie verspreidt. Aanbieders moeten ook stappen ondernemen tegen discriminatie, intellectueel eigendom en bedrijfsgeheimen beschermen en persoonlijke rechten zoals privacy en reputatie respecteren. Wat trainingsgegevens betreft, moeten aanbieders wettige bronnen gebruiken, inbreuk op intellectueel eigendom vermijden, een wettelijke basis hebben zoals toestemming voor persoonlijke informatie, en de kwaliteit, waarheidsgetrouwheid, nauwkeurigheid, objectiviteit en diversiteit van hun gegevens verbeteren. Het labelen van menselijke gegevens moet aan duidelijke regels voldoen en op kwaliteit worden gecontroleerd. De maatregelen sluiten aan bij eerdere regelgeving. Diensten met ‘attributen van de publieke opinie of capaciteit voor sociale mobilisatie’ moeten veiligheidsbeoordelingen ondergaan en hun algoritmen indienen volgens de algoritme-aanbevelingsregels van 2022, en gegenereerde inhoud moet worden gelabeld volgens de regels voor diepgaande synthese. De CAC onderhoudt het archiefsysteem en publiceert lijsten met ingediende diensten. Het ontwerp van april 2023 was strenger. Het vereiste dat de gegenereerde inhoud waar en accuraat was, wat vrijwel onmogelijk zou zijn geweest voor taalmodellen die kunnen hallucineren. De definitieve tekst verzachtte dit tot een plicht om effectieve maatregelen te nemen om de nauwkeurigheid en betrouwbaarheid te verbeteren, en voegde taal toe die innovatie ondersteunde. De maatregelen verbieden niet alle buitenlandse AI. In plaats daarvan lieten ze de CAC technische maatregelen nemen tegen diensten van buiten China die de regels overtreden.
Voordat een Chinees bedrijf zijn chatbot voor het publiek kan openstellen, voltooit het doorgaans een veiligheidsbeoordeling en dient het zijn algoritme in bij de Cyberspace Administration van China. Pas nadat de aanvraag is geaccepteerd, wordt het op grote schaal gelanceerd.
Een aanbieder die een trainingscorpus opbouwt, moet screenen op illegale inhoud, rechtmatig verkregen gegevens gebruiken, intellectueel eigendom respecteren en toestemming of een andere wettelijke basis verkrijgen voordat hij persoonlijke informatie gebruikt.
Een AI-app voor consumenten moet klachten- en rapportagekanalen opzetten, door AI gegenereerde afbeeldingen en video's labelen volgens de Chinese regels voor diepgaande synthese, en stappen ondernemen om te voorkomen dat minderjarigen al te afhankelijk worden van de dienst.
Een bedrijf dat een groot model alleen intern voor onderzoek gebruikt, zonder het in China aan het publiek aan te bieden, valt doorgaans buiten de belangrijkste verplichtingen van de maatregelen.
De maatregelen worden als interim bestempeld. Er is een alomvattende AI-wet verschenen in de wetgevende werkplannen van de Staatsraad, maar er is er geen enkele aangenomen. Ondertussen blijft China gerichte regels toevoegen, zoals verplichte etiketteringsvereisten en nieuwe nationale normen, zodat het algehele systeem in lagen groeit. Hoe strikt de inhoudsregels worden toegepast, kan veranderen afhankelijk van de politieke prioriteiten en de CAC-handhavingscampagnes. Voor mondiale bedrijven is een belangrijke open vraag hoe China's op archivering gebaseerde aanpak zal interageren met de AI-regels van andere landen, vooral waar trainingsgegevens en toegang tot modellen grensoverschrijdend zijn.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
De Chinese interimmaatregelen voor het beheer van generatieve kunstmatige intelligentiediensten, die sinds 15 augustus 2023 van kracht zijn, stellen de regels vast voor chatbots, beeldgeneratoren en andere generatieve AI die aan het publiek op het vasteland van China worden aangeboden. Ze hebben betrekking op inhoudsnormen, trainingsgegevens, etikettering en gebruikersbescherming, en vereisen van aanbieders met invloed op de publieke opinie dat ze de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien. Ze zijn van belang omdat ze van China een van de eerste grote economieën hebben gemaakt met bindende regels die specifiek zijn geschreven voor generatieve AI.
De CAC en zes andere instanties hebben de maatregelen in juli 2023 uitgevaardigd en zijn op 15 augustus 2023 in werking getreden.
De maatregelen zijn van toepassing op generatieve AI-diensten die aan het publiek op het Chinese vasteland worden aangeboden. Onderzoek en ontwikkeling die niet aan het publiek worden aangeboden, worden grotendeels uitgesloten.
De maatregelen vereisen dat diensten met publieke opinie-attributen of sociale mobilisatiecapaciteit de veiligheidsbeoordelingen en het archiveren van algoritmen voltooien onder de eerdere regels voor algoritme-aanbevelingen.
De Cyberspace Administration of China heeft de maatregelen samen met andere instanties uitgevaardigd, beheert het archiefsysteem en leidt de handhaving.
Het concept vereiste dat de gegenereerde inhoud waar en accuraat was, wat onpraktisch is voor modellen die kunnen hallucineren. De definitieve tekst veranderde dit in een plicht om effectieve maatregelen te nemen om de nauwkeurigheid en betrouwbaarheid te verbeteren.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
China’s Ethics Review Measures for AI Research
Samenleving