PRŮVODCE společností

Rámcová úmluva Rady Evropy o AI

Rámcová úmluva Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu je první právně závaznou mezinárodní smlouvou o umělé inteligenci.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost Rámcové úmluvy Rady Evropy o AI
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Země, které jej ratifikují, se musí ujistit, že systémy umělé inteligence používané po celý jejich životní cyklus respektují lidská práva, demokratické procesy a právní stát. Je to důležité, protože stanoví sdílené právní povinnosti, které přesahují Evropu, a mohou se k ní připojit i země mimo Evropu.

Hluboký ponor

Úmluvu vyjednal Výbor pro umělou inteligenci Rady Evropy (CAI). Zúčastnilo se 46 členských států Rady Evropy, Evropská unie a pozorovatelské země jako Spojené státy, Kanada, Japonsko, Izrael a Austrálie. Výbor ministrů přijal text dne 17. května 2024 a k podpisu byl otevřen ve Vilniusu dne 5. září 2024. Mezi první signatáře patřily Spojené království, Spojené státy americké, EU, Norsko, Izrael, Island, Gruzie, Moldavsko, Andorra a San Marino a další státy podepsané později. V platnost vstoupí po pěti ratifikacích, z nichž alespoň tři musí být členskými státy Rady Evropy. Smlouva stanoví spíše obecné zásady než podrobná technická pravidla. Principy jsou lidská důstojnost a individuální autonomie, rovnost a nediskriminace, ochrana soukromí a osobních údajů, transparentnost a dohled, odpovědnost a odpovědnost, spolehlivost a bezpečné inovace. Strany musí rovněž poskytnout nápravu. To znamená dokumentovat relevantní informace o systémech umělé inteligence, umožnit lidem napadat rozhodnutí, nabízet procedurální záruky a říkat lidem, když mají co do činění se systémem umělé inteligence. Rozsah je kompromisem. Smlouva se plně vztahuje na veřejné orgány a soukromé subjekty jednající jejich jménem. Pro zbytek soukromého sektoru může každá strana uplatňovat závazky vyplývající ze smlouvy přímo nebo přijmout jiná vhodná opatření. Činnosti na ochranu národní bezpečnosti jsou vyloučeny, stejně jako záležitosti národní obrany a výzkumu a vývoje na systémech, které dosud nebyly zpřístupněny k použití. Obvyklá mylná představa je, že smlouva je kopií zákona EU o umělé inteligenci. Zákon o AI je nařízení EU, které třídí systémy do úrovní rizik a stanovuje povinnosti týkající se stylu bezpečnosti produktů. Úmluva je mezinárodním nástrojem pro lidská práva. EU jej podepsala a při plnění svých povinností spoléhá především na zákon o umělé inteligenci a stávající právo EU.

Real-World Implementace

Vládní agentura, která používá nástroj AI k označování podvodných výhod, by potřebovala posouzení rizik a dopadů, dokumentaci a způsob, jak mohou dotčení lidé napadnout rozhodnutí, která významně ovlivňují jejich práva.

Občan, který mluví s veřejným chatbotem, by měl být informován, že interaguje spíše se systémem AI než s člověkem.

Ratifikující země se může rozhodnout, že soukromé společnosti využívající umělou inteligenci při najímání zaměstnanců musí přímo splnit principy smlouvy, nebo může přijmout jiná vhodná opatření ke splnění stejných cílů.

Volební orgán, který se obává dezinformací řízených umělou inteligencí, může poukázat na povinnost smlouvy chránit integritu demokratických procesů, když navrhuje ochranná opatření.

Budoucnost Rámcové úmluvy Rady Evropy o AI

Jak moc na Úmluvě záleží, bude záležet na ratifikacích a na tom, jak přísně země zacházejí se soukromým sektorem. Země, které zvolí „jiná vhodná opatření“, jej mohou implementovat zcela odlišně od zemí, které je aplikují přímo na společnosti. Konference smluvních stran a nástroje jako HUDERIA by mohly pomalu budovat sdílená očekávání, stejně jako dřívější smlouvy Rady Evropy v oblasti ochrany údajů. Sledujte, které mimoevropské země jej ratifikovaly, jak jej vnitrostátní soudy používají a jak souvisí se zákonem EU o umělé inteligenci a vnitrostátními zákony o umělé inteligenci. Jeho dosah je široký, ale prosazování se spoléhá spíše na vnitrostátní systémy než na mezinárodní regulátor.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the Council of Europe Framework Convention on AI quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je Rámcová úmluva Rady Evropy o umělé inteligenci?

Rámcová úmluva Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu je první právně závaznou mezinárodní smlouvou o umělé inteligenci. Země, které jej ratifikují, se musí ujistit, že systémy umělé inteligence používané po celý jejich životní cyklus respektují lidská práva, demokratické procesy a právní stát. Je to důležité, protože stanoví sdílené právní povinnosti, které přesahují Evropu, a mohou se k ní připojit i země mimo Evropu.

Čím je Rámcová úmluva Rady Evropy o AI historicky pozoruhodná?

Úmluva je první mezinárodní smlouvou o umělé inteligenci, která zavazuje státy, které ji ratifikují. Dobrovolné kodexy a předpisy EU jsou různé druhy nástrojů.

Kde byla úmluva otevřena k podpisu v září 2024?

Byla otevřena k podpisu ve Vilniusu v Litvě dne 5. září 2024 během ministerské konference Rady Evropy.

Jak smlouva řeší soukromé společnosti, které nejednají za veřejné orgány?

To byl vyjednaný kompromis. Veřejný sektor je plně pokryt a každý stát si vybere, jak řešit další využití umělé inteligence v soukromém sektoru.

Které činnosti jsou vyloučeny z působnosti smlouvy?

Činnosti na ochranu národní bezpečnosti a národní obrany jsou vyloučeny. Stejně tak výzkum a vývoj systémů, které ještě nebyly zpřístupněny k použití.

Co je HUDERIA?

HUDERIA byla přijata CAI, aby pomohla posoudit dopady umělé inteligence na lidská práva, demokracii a právní stát. Je to vodítko, nikoli závazná část smlouvy.