PRŮVODCE společností

Systém řízení kvality podle zákona EU o umělé inteligenci (článek 17)

Article 17 of the EU AI Act requires providers of high-risk AI systems to document a quality management system in written policies, procedures, and instructions.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce3 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. The Future of EU AI Act Quality Management System (Article 17)
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

It spans the system lifecycle, and its implementation must be proportionate to provider size while retaining the rigor needed for compliance; the 2026 Omnibus also changed SME simplification and application timelines.

Hluboký ponor

Article 17 applies to providers of high-risk AI systems within the AI Act’s scope. It requires a quality management system (QMS) that ensures regulatory compliance and is documented systematically as written policies, procedures, and instructions. Its minimum topics cover regulatory compliance and change control; design and development; testing and validation; technical standards; data management; risk management; post-market monitoring; incident reporting; communications with authorities and customers; records; resources and supply; and accountability for management and staff. The 2026 AI Omnibus amended Article 17(2): implementation should be proportionate to the provider’s organization size, but providers must still meet the rigor and protection necessary for their high-risk systems to comply. It also amended Article 63 so eligible SMEs, including startups, may simplify certain QMS elements only if they have no partner or linked enterprises under the referenced EU definition. The Commission is to issue guidance; simplified documentation does not remove the underlying high-risk requirements. Existing sectoral systems may be integrated. Article 17(3) allows providers already subject to QMS obligations under relevant Union law to include the AI Act aspects within that system. For financial institutions subject to EU financial-services internal-governance rules, Article 17(4) deems the QMS obligation fulfilled through those rules except for Article 17(1)(g), (h), and (i): risk management, post-market monitoring, and serious-incident reporting. These exceptions still need coverage. ISO 9001 or ISO/IEC 42001 can provide useful management-system structure, but certification alone does not establish Article 17 compliance. High-risk obligations are phased: under the 2026 amendments, Annex III high-risk systems apply from 2 December 2027 and high-risk AI embedded in regulated products from 2 August 2028. Check the consolidated Regulation, system category, transitional rules, and conformity-assessment path for the specific product.

Real-World Implementace

A provider extends its existing ISO-based quality system with AI-specific data, risk, testing, monitoring, incident, and change-control procedures, then checks every Article 17 element.

A provider defines who approves model retraining, what tests must pass before release, and how a change is assessed under the Act.

A financial institution maps its internal-governance process to Article 17 but separately documents risk management, post-market monitoring, and serious-incident reporting requirements.

An SME checks whether it meets the Act’s size and independence conditions before using any simplified QMS elements, while maintaining the level of protection required for its high-risk system.

The Future of EU AI Act Quality Management System (Article 17)

The Commission is developing guidance on simplified QMS elements for eligible SMEs and SMCs, while the amended application schedule phases in high-risk requirements. Harmonized standards and conformity-assessment practice may evolve. Providers should maintain a change register, check official consolidated text and guidance, and update their system before the relevant application date. The Commission’s guidance may clarify which elements eligible smaller providers can simplify. Revisit the QMS when the system changes, new standards are harmonized, or the applicable timetable is amended.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the EU AI Act Quality Management System (Article 17) quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

What is EU AI Act Quality Management System (Article 17)?

Article 17 of the EU AI Act requires providers of high-risk AI systems to document a quality management system in written policies, procedures, and instructions. It spans the system lifecycle, and its implementation must be proportionate to provider size while retaining the rigor needed for compliance; the 2026 Omnibus also changed SME simplification and application timelines.

Kdo musí zavést systém řízení kvality podle článku 17?

Deep Dive uvádí, že článek 17 se vztahuje na poskytovatele vysoce rizikových systémů umělé inteligence v rozsahu působnosti.

Jak musí být QMS dokumentován?

Zaměření a Deep Dive specifikují systematickou písemnou dokumentaci.

Které oblasti životního cyklu patří mezi minimální témata článku 17?

Deep Dive uvádí tyto oblasti mezi minimální témata QMS podle článku 17.

Co pozměňovací návrh z roku 2026 k čl. 17 odst. 2 objasnil ohledně velikosti poskytovatele?

Průvodce uvádí implementaci změn proporcionality, nikoli však požadovanou úroveň ochrany.

Které oblasti zůstávají pro finanční instituci využívající čl. 17 odst. 4 vyloučeny z domnělého plnění podle vnitřních pravidel řízení?

Ustanovení čl. 17 odst. 4 vylučuje písmena g), h) ai), která průvodce uvádí.