Zákon EU o umělé inteligenci
Zákon EU o umělé inteligenci je prvním komplexním zákonem na světě, který reguluje umělou inteligenci a řadí systémy umělé inteligence do rizikových úrovní s pravidly, která se zvyšují s rostoucím nebezpečím.
Přehled
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
Hluboký ponor
Zákon EU o AI, který byl přijat v roce 2024, zaujímá přístup založený na riziku. Přímo zakazuje hrstku praktik „nepřijatelného rizika“, jako je vládní sociální bodování, manipulativní podprahové techniky a necílené škrábání tváří za účelem vytváření databází rozpoznávání. „Vysoce rizikové“ systémy, jako je umělá inteligence používaná při najímání zaměstnanců, hodnocení úvěrů, lékařské přístroje nebo kritická infrastruktura, čelí přísným povinnostem: řízení rizik, vysoce kvalitní data, lidský dohled, protokolování a posuzování shody před vstupem na trh. Nástroje pro „omezené riziko“, jako jsou chatboti, musí jednoduše odhalit, že uživatelé interagují s umělou inteligencí. Univerzální modely umělé inteligence, včetně velkých jazykových modelů, mají své vlastní povinnosti v oblasti transparentnosti a dokumentace, s extra kontrolou pro nejschopnější modely „systémového rizika“. Sankce dosahují až 35 milionů eur nebo 7 procent celosvětového obratu.
Technický přehled
Zákon upravuje případ užití, nikoli algoritmus. Stejný model může být u jednoho produktu nízkorizikový a u jiného vysoce rizikový v závislosti na kontextu. Poskytovatelé s vysokým rizikem musí uchovávat technickou dokumentaci, uchovávat automatické protokoly událostí pro sledovatelnost, zajistit, aby datové soubory byly relevantní a reprezentativní, aby se omezilo zkreslení, a zabudovat smysluplný lidský dohled. U modelů pro obecné účely poskytovatelé zveřejňují souhrny školicích dat a nad výpočetním prahem (10^25 FLOP) provádějí hodnocení modelů a testování protivníků.
Strategický dopad
Riziko a bezpečnost
Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
Jasnější rozhodnutí
Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
Prorážením humbuku
Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.
Zákon o budoucnosti EU o umělé inteligenci
Zákon bude postupně fungovat několik let: zákazy zakázaných praktik byly poprvé uplatněny počátkem roku 2025, následovala obecná modelová pravidla a většina vysoce rizikových závazků přibyla do roku 2026 až 2027. Očekávejte harmonizované technické normy od CEN-CENELEC, které přesně definují, jak se měří soulad, plus regulační sandboxy pro startupy. Stejně jako dříve GDPR bude zákon pravděpodobně utvářet zákony o AI po celém světě, protože si ostatní jurisdikce půjčují jeho strukturu na úrovni rizik, i když kritici diskutují o tom, zda zpomaluje evropské inovace.
Real-World Implementace
Banka, která nasazuje nástroj pro hodnocení kreditů AI, musí zdokumentovat svá školicí data, otestovat zkreslení a zajistit, aby lidé mohli kontrolovat a potlačovat automatizovaná zamítnutí půjček.
Nemocnice využívající umělou inteligenci k třídění lékařských skenů musí před klinickým použitím projít posouzením shody a zaregistrovat vysoce rizikový systém v databázi EU.
Chatbot pro zákaznické služby musí uživatelům jasně sdělit, že mluví s umělou inteligencí, nikoli s lidským agentem, podle pravidla transparentnosti omezeného rizika.
Tvůrce velkého jazykového modelu nad výpočetním prahem musí provést test protivníka v červeném týmu a hlásit závažné incidenty úřadu EU pro umělou inteligenci.
Rizika a zábradlí
Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.
Plán implementace
Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.
Pokračujte v objevování
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Další průvodce
Správa AI ISO/IEC 42001
Často kladené otázky
What is EU AI Act?
Zákon EU o umělé inteligenci je prvním komplexním zákonem na světě, který reguluje umělou inteligenci a řadí systémy umělé inteligence do rizikových úrovní s pravidly, která se zvyšují s rostoucím nebezpečím. Je to důležité, protože de facto stanovuje globální standard, který musí dodržovat každá společnost prodávající umělou inteligenci do EU.
Jaký organizační princip používá zákon EU AI Act ke stanovení svých pravidel?
Zákon třídí AI do úrovní rizika (nepřijatelné, vysoké, omezené, minimální) na základě případu použití a potenciální škody, nikoli podle velikosti společnosti nebo typu algoritmu.
Která z těchto praktik je „nepřijatelným rizikem“, kterou zákon přímo zakazuje?
Vládní sociální bodování je jednou ze zakázaných praktik spolu s manipulativními podprahovými technikami a necíleným seškrabáváním obličeje.
Jaká je hlavní povinnost pro systém s „omezeným rizikem“, jako je chatbot?
Systémy s omezeným rizikem nesou především povinnosti transparentnosti, jako je například informování uživatelů, že mají co do činění s umělou inteligencí, nikoli s člověkem.
Jaká je maximální finanční sankce podle zákona EU o umělé inteligenci?
Nejstrmější pokuty dosahují 35 milionů eur nebo 7 procent celosvětového ročního obratu, podle toho, která je vyšší, za nejzávažnější porušení.
Jak zákon nakládá se stejným modelem umělé inteligence používaným ve dvou různých produktech?
Protože zákon upravuje případ použití, jeden model může být vysoce rizikový v náborovém nástroji, ale nízkorizikový v jiné aplikaci.