NastępnyNastępny poradnik
Środki przeglądu etycznego Chin dotyczące badań nad sztuczną inteligencją
Społeczeństwo
PRZEWODNIK Społeczny
Chińskie środki tymczasowe dotyczące generatywnej sztucznej inteligencji
China's Interim Measures for the Management of Generative Artificial Intelligence Services, in force since August 15, 2023, set the rules for chatbots, image generators and other generative AI offered to the public in mainland China.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
They cover content standards, training data, labeling and user protection, and they require providers with public opinion influence to complete security assessments and algorithm filing. They matter because they made China one of the first major economies with binding rules written specifically for generative AI.
Głębokie nurkowanie
The Cyberspace Administration of China (CAC) issued the Interim Measures in July 2023 together with six other agencies, including the National Development and Reform Commission, the Ministry of Education, the Ministry of Science and Technology, the Ministry of Industry and Information Technology, and the Ministry of Public Security. They apply to generative AI services offered to the public within mainland China. Research and development that is not offered to the public is largely excluded. The content rules require providers to uphold "core socialist values" and not generate content that undermines state power, national unity or social stability, or that spreads false or harmful information. Providers must also take steps against discrimination, protect intellectual property and trade secrets, and respect personal rights such as privacy and reputation. On training data, providers must use lawful sources, avoid infringing intellectual property, have a legal basis such as consent for personal information, and improve the quality, truthfulness, accuracy, objectivity and diversity of their data. Human data labeling must follow clear rules and be checked for quality. The measures connect to earlier regulations. Services with "public opinion attributes or social mobilization capacity" must undergo security assessments and file their algorithms under the 2022 algorithm recommendation rules, and generated content must be labeled under the deep synthesis rules. The CAC maintains the filing system and publishes lists of filed services. The April 2023 draft was stricter. It required generated content to be true and accurate, which would have been nearly impossible for language models that can hallucinate. The final text softened this to a duty to take effective measures to improve accuracy and reliability, and it added language supporting innovation. The measures do not ban all foreign AI. Instead, they let the CAC take technical measures against services from outside China that violate the rules.
Implementacja w świecie rzeczywistym
Before a Chinese company can open its chatbot to the public, it typically completes a security assessment and files its algorithm with the Cyberspace Administration of China. Only after its filing is accepted does it launch widely.
A provider building a training corpus has to screen for illegal content, use lawfully sourced data, respect intellectual property, and get consent or another legal basis before using personal information.
A consumer AI app must set up complaint and reporting channels, label AI-generated images and video under China's deep synthesis rules, and take steps to keep minors from becoming overly dependent on the service.
A company using a large model only internally for research, without offering it to the public in China, generally falls outside the measures' main obligations.
The Future of China's Generative AI Interim Measures
The measures are labeled interim. A comprehensive AI law has appeared on the State Council's legislative work plans, but none has been adopted. Meanwhile, China keeps adding targeted rules, such as mandatory labeling requirements and new national standards, so the overall system grows in layers. How strictly content rules are applied can shift with political priorities and with CAC enforcement campaigns. For global companies, a key open question is how China's filing-based approach will interact with other countries' AI rules, especially where training data and model access cross borders.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Ryzyko i bezpieczeństwo. Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
- Jaśniejsze decyzje. Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
- Przebijanie się przez szum. Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Uważaj na
- Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
- Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
- Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Kolejne kroki
- Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
- Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
- Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
- Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the China's Generative AI Interim Measures quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
What is China's Generative AI Interim Measures?
China's Interim Measures for the Management of Generative Artificial Intelligence Services, in force since August 15, 2023, set the rules for chatbots, image generators and other generative AI offered to the public in mainland China. They cover content standards, training data, labeling and user protection, and they require providers with public opinion influence to complete security assessments and algorithm filing. They matter because they made China one of the first major economies with binding rules written specifically for generative AI.
Kiedy weszły w życie chińskie środki tymczasowe dotyczące generatywnych usług AI?
CAC i sześć innych agencji wydały te środki w lipcu 2023 r., a weszły one w życie 15 sierpnia 2023 r.
Która działalność zasadniczo nie wchodzi w zakres głównych obowiązków w ramach środków?
Środki mają zastosowanie do usług związanych z generatywną sztuczną inteligencją świadczonych społeczeństwu w Chinach kontynentalnych. Badania i rozwój, które nie są oferowane społeczeństwu, są w dużej mierze wykluczone.
Które usługi muszą przejść ocenę bezpieczeństwa i zapisanie algorytmów?
Środki te wymagają, aby służby posiadające opinię publiczną lub zdolność do mobilizacji społecznej przeprowadziły oceny bezpieczeństwa i złożenie algorytmów zgodnie z wcześniejszymi zasadami rekomendacji algorytmów.
Która agencja kieruje egzekwowaniem środków?
Chińska Administracja Cyberprzestrzeni wydała odpowiednie środki wraz z innymi agencjami, prowadzi system archiwizacji i prowadzi egzekwowanie przepisów.
W jaki sposób ostateczne środki zmieniły wymogi dotyczące dokładności zawarte w projekcie z kwietnia 2023 r.?
Projekt wymagał, aby wygenerowana treść była prawdziwa i dokładna, co jest niepraktyczne w przypadku modeli, które mogą mieć halucynacje. W ostatecznym tekście zmieniono to na obowiązek podjęcia skutecznych środków w celu poprawy dokładności i niezawodności.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat