PRŮVODCE společností

Etika AI

Etika umělé inteligence je studie a praxe, jejímž cílem je zajistit, aby systémy umělé inteligence jednaly s lidmi spravedlivě, respektovaly soukromí, zůstaly odpovědné vůči lidem a nezpůsobovaly škody, které převažují nad jejich výhodami.

Poslechněte si tento návodAI-vyprávěný · ~8 min

Na této stránce9 min čtení
  1. Přehled
  2. Klíčové věci
  3. Hluboký ponor
  4. Podívejte se, proč se dvě definice spravedlnosti mohou střetávat
  5. Real-World Implementace
  6. Budoucnost etiky umělé inteligence
  7. Uvedení do praxe
  8. Zdroje a další čtení
  9. Pokračujte v objevování
  10. Často kladené otázky

Přehled

Je to důležité, protože umělá inteligence nyní pomáhá rozhodovat o tom, kdo bude najat, označen, schválen nebo sledován, a zdokumentované případy ukazují, že chyby a předsudky v těchto systémech dopadají na různé skupiny nerovnoměrně.

Klíčové věci

  1. Etika umělé inteligence zahrnuje spravedlnost, soukromí, transparentnost, odpovědnost, bezpečnost a širší sociální dopady, jako je spotřeba energie a koncentrace moci.
  2. Gender Shades zjistil, že komerční klasifikátory pohlaví chybovaly až v 34,7 % případů u žen s tmavší pletí, ale maximálně 0,8 % u mužů se světlejší pletí.
  3. Analýza COMPAS společnosti ProPublica z roku 2016 zjistila, že černí obžalovaní, kteří se nedopustili recidivy, byli označeni jako vysoce rizikoví na úrovni 44,9 % oproti 23,5 % u bílých obžalovaných.
  4. Důkaz z roku 2016 od Kleinberga a kolegů ukazuje, že běžné definice spravedlnosti jsou v rozporu, když skupiny mají různé základní sazby, takže spravedlnost vyžaduje volbu hodnoty.
  5. Zákon EU o umělé inteligenci zakázal od 2. února 2025 sociální bodování, necílené škrábání obličeje a rozpoznávání emocí na pracovišti, zatímco rámec NIST je dobrovolný.
  6. Testujte každý systém umělé inteligence zvlášť pro každou postiženou skupinu, protože vysoká průměrná přesnost může u menšiny skrýt velké poruchy.

Hluboký ponor

AI ethics asks a practical question: when a machine helps make a decision about people, how should it be built, tested and governed so that it is fair, safe and accountable? The topic covers several recurring concerns. Fairness asks whether a system works equally well for different groups. Privacy asks what personal data is collected and how it is used. Transparency and explainability ask whether people can find out that AI is involved and why it reached a result. Accountability asks who is responsible when it goes wrong. Safety asks whether the system can cause physical, financial or psychological harm. Wider questions include effects on jobs, the environment and the concentration of power. AI ethics is not only philosophy; it shows up as design decisions, test results, documentation, audits and laws.

In practice, ethical review follows a repeatable process. First, define the system's purpose and the people it affects, including people who never use it directly, such as the subjects of a risk score. Second, map what could go wrong in that specific context. Third, measure: test accuracy not just overall but separately for each relevant group, and test for misuse. Fourth, mitigate: change the data, the model, the decision threshold or the human process around it, or decide not to deploy. Fifth, assign accountability and keep monitoring after launch. The NIST AI Risk Management Framework 1.0, released by the US National Institute of Standards and Technology in January 2023 for voluntary use, names these activities govern, map, measure and manage. It lists the traits of trustworthy AI as valid and reliable, safe, secure and resilient, accountable and transparent, explainable and interpretable, privacy-enhanced, and fair with harmful bias managed, and it notes that these must be balanced against one another depending on context.

The case for measuring by group comes from documented failures. In 2018 Joy Buolamwini and Timnit Gebru published Gender Shades, which tested three commercial systems that guessed gender from face photos. The worst group, darker-skinned women, saw error rates up to 34.7%, while the best group, lighter-skinned men, saw a maximum error of 0.8%. Part of the explanation was the data used to build and judge such systems: two widely used face benchmarks they examined were 79.6% and 86.2% lighter-skinned. A system can report high average accuracy while failing badly for a group that was underrepresented in its data.

The second landmark case shows that fairness itself has more than one definition. In May 2016, ProPublica analyzed COMPAS, a commercial tool from Northpointe that scores how likely a defendant is to reoffend, using records for more than 7,000 people arrested in Broward County, Florida in 2013 and 2014. About 61% of people labeled likely to reoffend were rearrested within two years, and only about 20% of those predicted to commit violent crimes did so. Among defendants who did not reoffend, Black defendants had been labeled higher risk 44.9% of the time and white defendants 23.5%. Northpointe disputed the analysis, arguing its scores were equally accurate for both groups. Months later, Jon Kleinberg, Sendhil Mullainathan and Manish Raghavan proved that, except in highly constrained special cases, no risk score can satisfy three common fairness conditions at once. Both sides could be right by their own definition. Choosing which kind of fairness matters is a value judgment that the math cannot make.

Law has begun to turn some ethical lines into rules. The European Union's AI Act takes a risk-based approach: a short list of uses is banned, high-risk uses face requirements for data quality, documentation and human oversight, and many low-risk uses face few or none. Its prohibitions, applying since 2 February 2025, cover manipulative techniques that cause significant harm, exploiting people's age, disability or economic situation, social scoring, predicting crime from profiling alone, building face recognition databases by untargeted scraping, inferring emotions in workplaces and schools, and most real-time remote biometric identification in public spaces by police. The NIST framework, by contrast, is voluntary guidance. The Stanford AI Index 2025 counted 59 AI-related regulations issued by US federal agencies in 2024, more than double the year before.

AI ethics is easy to confuse with neighboring ideas. Law sets minimum requirements that are enforced; ethics also covers what is permitted but still harmful or unfair. AI safety, in its narrow sense, focuses on preventing accidents and dangerous capabilities, often in powerful future systems, while ethics usually deals with harms to people from systems already in use. Responsible AI is the name many companies give to their internal ethics programs, which typically combine principles, review boards and testing. All three overlap, and the same audit can serve each.

The broader costs reach beyond individual decisions. The International Energy Agency's April 2025 report estimates that data centres consumed about 415 terawatt-hours in 2024, about 1.5% of global electricity, and projects consumption more than doubling to around 945 terawatt-hours by 2030, slightly more than Japan uses today, with AI the most important driver. Concentration is another concern: the Stanford AI Index 2025 found that nearly 90% of notable AI models released in 2024 came from industry, so a small number of companies make many of the design choices that affect everyone. Public opinion is divided as well: in the same report, optimism about AI ranged from 83% of people surveyed in China to 39% in the United States.

Doing ethics well has real costs and real limits. Measuring disparities requires knowing which group each person belongs to, which can conflict with privacy. Audits, documentation and human review take staff time. Principles written in general terms, such as fairness or transparency, can be adopted without changing any product, a pattern critics call ethics washing. Trade-offs are unavoidable: making a model more explainable can make it less accurate, and equalizing one error rate can unbalance another. The most useful habit is specific: name the decision, the affected people, the measured error rates for each group, who can appeal, and who is accountable.

04Zpracovaný příklad

Podívejte se, proč se dvě definice spravedlnosti mohou střetávat

  1. Představte si rizikový nástroj použitý u dvou skupin po 200 lidech. Ve skupině A se 100 lidí znovu dopustí; ve skupině B bude 50. Základní sazby jsou 50 % a 25 %.

  2. Ve skupině A nástroj označí 100 osob jako vysoce rizikové: 60, kteří se dopustí recidivy, a 40, kteří ne.

  3. Ve skupině B nástroj označí 50 osob jako vysoce rizikové: 30, kteří se dopustí recidivy, a 20, kteří ne.

  4. Zkontrolujte kalibraci: v obou skupinách se 60 % označených osob znovu dopustilo trestného činu (60 ze 100 a 30 z 50). Tímto opatřením nástroj zachází se skupinami stejně.

  5. Zkontrolujte četnost falešně pozitivních případů: skupina A má 40 chybně označených ze 100 recidivistů, což je 40 %; skupina B má 20 ze 150, asi 13,3 %.

  6. Pokuste se vyrovnat míru falešně pozitivních výsledků změnou toho, kdo je označen v jedné skupině, a poté přepočítejte podíl označených lidí, kteří se znovu dopustili trestného činu.

Co ukazuje

Student vidí, že stejný nástroj může být spravedlivý podle jedné definice a nespravedlivý podle jiné, a že vyrovnání obou není možné, když se základní sazby liší, jak dokázali Kleinberg a kolegové. Kontrola spočívá v tom, že aritmetika v krocích 4 a 5 používá stejné počty, ale dává opačné verdikty.

Real-World Implementace

Audity analýzy obličeje: Studie Gender Shades z roku 2018 testovala tři komerční klasifikátory pohlaví a zjistila chybovost až 34,7 % u žen s tmavší pletí a maximálně 0,8 % u mužů se světlejší pletí.

Trestní soudnictví: Analýza skóre rizik COMPAS z roku 2016 provedená společností ProPublica pro více než 7 000 lidí v okrese Broward na Floridě zjistila, že černí obvinění, kteří se nedopustili recidivy, byli označeni za vyšší riziko, a to téměř dvakrát rychleji než bílí obžalovaní.

Řízení rizik v organizacích: Americký Národní institut pro standardy a technologie zveřejnil v lednu 2023 svůj dobrovolný rámec AI Risk Management Framework 1.0, který práci organizuje do čtyř funkcí: řídit, mapovat, měřit a řídit.

Závazná pravidla: od 2. února 2025 zákon EU o umělé inteligenci zakazuje praktiky, jako je sociální bodování, necílené seškrabávání obrázků obličeje za účelem vytváření databází rozpoznávání a rozpoznávání emocí na pracovištích a ve školách.

Environmentální náklady: Mezinárodní energetická agentura odhaduje, že datová centra spotřebovala v roce 2024 asi 415 terawatthodin, což je zhruba 1,5 % světové elektřiny, a do roku 2030 předpokládá asi 945 terawatthodin, přičemž hlavní hnací silou je umělá inteligence.

Budoucnost etiky umělé inteligence

Pravidla stále přicházejí. Podle zveřejněného harmonogramu implementace zákona EU o umělé inteligenci mají povinnosti pro samostatná vysoce riziková použití uvedená v příloze III zákona platit od 2. prosince 2027, přičemž povinnosti týkající se umělé inteligence zabudované do produktů, na které se již vztahují právní předpisy EU o bezpečnosti výrobků, budou následovat 2. srpna 2028. To, jak regulační orgány vykládají pojmy jako vysoké riziko a přiměřený lidský dohled, bude mnohem více formovat praxi než samotný text. Měření zůstává otevřeným výzkumným problémem. Gender Shades v roce 2018 ukázal, že složení benchmarků může skrýt selhání, a stejná otázka nyní platí pro generátory jazyků a obrázků, kde je těžší spočítat škody, jako jsou stereotypní výstupy nebo vymyšlená tvrzení, než chyby klasifikace. Environmentální účetnictví se také dostává do popředí agendy. Analýza Mezinárodní energetické agentury pro rok 2025 předpokládá, že se spotřeba elektřiny v datových centrech do roku 2030 zhruba zdvojnásobí a její základní model má do roku 2035 nárůst emisí datových center ze 180 milionů na 300 milionů tun, přičemž uvádí, že aplikace umělé inteligence by mohly snížit emise i jinde. Zda se tyto úspory projeví, není jisté. Konečně pokračují debaty o tom, kdo určuje hodnoty. Vzhledem k tomu, že většinu hraničních modelů vytvořilo několik společností, otázky týkající se veřejných vstupů, nezávislých auditů a přístupu pro výzkumné pracovníky pravděpodobně zůstanou v této oblasti ústřední.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Zdroje a další čtení

  1. Proceedings of Machine Learning Research (FAT* 2018)Genderové odstíny: Mezisekční rozdíly v přesnosti v komerční klasifikaci pohlaví
  2. ProPublicaZkreslení stroje
  3. arXiv (Kleinberg, Mullainathan and Raghavan, 2016)Přirozené kompromisy při spravedlivém stanovení skóre rizika
  4. National Institute of Standards and TechnologyRámec pro řízení rizik umělé inteligence (AI RMF 1.0)
  5. Future of Life Institute (EU AI Act explorer)Článek 5: Zakázané praktiky umělé inteligence, zákon EU o umělé inteligenci
  6. Future of Life Institute (EU AI Act explorer)Harmonogram implementace, zákon EU o umělé inteligenci
  7. International Energy AgencyEnergie a AI: Shrnutí
  8. Stanford Institute for Human-Centered AIZpráva o indexu AI 2025

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Udělejte si kvíz AI Ethics

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je etika AI?

Etika umělé inteligence je studie a praxe, jejímž cílem je zajistit, aby systémy umělé inteligence jednaly s lidmi spravedlivě, respektovaly soukromí, zůstaly odpovědné vůči lidem a nezpůsobovaly škody, které převažují nad jejich výhodami. Je to důležité, protože umělá inteligence nyní pomáhá rozhodovat o tom, kdo bude najat, označen, schválen nebo sledován, a zdokumentované případy ukazují, že chyby a předsudky v těchto systémech dopadají na různé skupiny nerovnoměrně.

Proč nelze etické hodnocení zredukovat na jedno modelové skóre?

Průvodce říká, že etické hodnocení je kontextové a nelze jej redukovat na jednu metriku.

Služba je výhodná pro jejího provozovatele, ale zatěžuje lidi, kteří se nemohou odhlásit. Na co by se měl etický přezkum ptát?

Průvodce doporučuje identifikovat dotčené osoby a mít vliv na design.

Tým říká, že transparentnost je důležitá. Co by umožnilo princip uplatnit?

Průvodce říká, že zásady se musí promítnout do konkrétních rozhodnutí a informací.

Proč lidská účast není automaticky etickou zárukou?

Průvodce poznamenává, že lidské zapojení je neúčinné bez autority a zdrojů.

Co by měl proces odpovědnosti identifikovat?

Průvodce převádí odpovědnost do odpovědnosti a způsobů jednání.