Evropský parlament schválil nový zákon o umělé inteligenci

Ve středu 14. března 2024 Evropský parlament téměř jednomyslně (523 pro, 46 proti, 49 chybělo/zdrželo se) schválil nový zákon o umělé inteligenci (AI Act). Jeho cílem je zajistit bezpečnost a soulad s lidskými právy, zároveň ale podpořit inovace v oblasti AI a pomoci z Evropy vybudovat v této oblasti lídra. Zákon nyní čeká ještě formální schválení Radou. V mezidobí také proběhly další důležité kroky, před pár týdny tak byl například zřízen v zákoně řešený Úřad pro umělou inteligenci.

Vytvořil jsem také GPT asistenta EU AI Act Insight, kterého můžete využít pro dotazování se na detaily z plného znění zákona. Pro jeho využití musíte být uživatelé placené verze ChatGPT Plus, Team nebo Enterprise.

Tomuto zákonu jsem se věnoval v předchozích článcích:

• AI Act – Zákon o umělé inteligenci – konsolidované znění
• Aktualizace: plné znění návrhu AI Act – zákona o umělé inteligenci

Nyní tak jen přidám shrnutí, které pro vás připravil Anthropic Claude 3 (model Opus), o kterém jsem psal před pár dny. Mimochodem mimo téma – Anthropic dnes v noci zpřístupnil i jejich nejrychlejší model Haiku – ten dokáže za jednu vteřinu zpracovat 21 tisíc tokenů.

Zákon o umělé inteligenci byl připravován téměř tři roky od původního návrhu. Schválené znění má 258 stran a obsahuje řadu důležitých ustanovení:

Zakázané praktiky AI

• Systémy AI, které manipulují lidmi, zneužívají jejich zranitelnost nebo slouží k sociálnímu bodování, budou zcela zakázány.
• Zakázáno bude také používat necíleně sbírané obrázky pro rozpoznávání obličejů nebo rozpoznávat emoce na pracovišti či ve školách.

Přísná pravidla pro vysoce rizikové systémy

• Vysoce rizikové AI systémy budou podléhat přísným požadavkům a budou muset projít nezávislým auditem.
• Týká se to biometrických systémů, systémů ve vzdělávání, výběru zaměstnanců, přístupu k veřejným službám nebo například kreditních skóringů.

Omezené použití biometrické identifikace

• Vysoce kontroverzní téma používání dálkové biometrické identifikace (např. rozpoznávání obličejů kamerami) bude významně omezeno.
• Bezpečnostní složky ji budou moci využívat jen v přesně definovaných případech – např. pro hledání obětí únosů a obchodu s lidmi nebo pro prevenci teroristických útoků. Vždy bude nutné předchozí povolení soudu nebo nezávislého orgánu.

Právo na vysvětlení

• Pokud rozhodnutí systému významně ovlivní práva osoby, bude mít tato osoba právo na srozumitelné vysvětlení, na čem bylo rozhodnutí založeno.
• Občané budou moci podávat stížnosti na AI systémy, které porušují jejich práva.

Jedno označení pro celou EU

• Vysoce rizikové systémy AI budou muset nést speciální označení CE a budou zaregistrovány v databázi EU.
• Systémy střední rizikovosti budou muset jasně informovat uživatele, že komunikují s umělou inteligencí. Týká se to například chatbotů nebo deep-fake obsahu.

Regulace AI pro všeobecné účely (GPAI)

• Poskytovatelé modelů pro obecné užití (GPAI) budou mít zvláštní povinnosti, zejména zveřejnit podrobnosti o datech použitých pro trénink a dodržovat autorská práva.
• Nejsilnější GPAI modely s možnými systémovými riziky budou muset procházet zvláštním hodnocením rizik a incidentů.

Podpora pro evropské firmy a inovace

• Zákon počítá se zavedením tzv. regulatorních sandboxů, kde budou moci vývojáři bezpečně testovat nové systémy AI. Zvláštní podpora bude poskytována startupům a malým firmám.
• Cílem je podpořit evropské inovace a zamezit odlivu firem mimo EU.

Vysoké pokuty za porušení

• Za porušení pravidel budou hrozit pokuty až do výše 30 milionů eur nebo 6% celkového ročního obratu firmy.

Nová pravidla se budou postupně zavádět během 2 let od vstupu zákona v platnost. Zákazy rizikových praktik začnou platit už po půl roce, zatímco na přizpůsobení vysoce rizikových systémů budou mít firmy čas 2-3 roky.

Schválením AI Act dala EU jasně najevo směr, kterým se chce v oblasti umělé inteligence vydat. Zatímco USA a Čína zatím v tomto směru výrazněji neregulují, Evropa ukázala, že pro ni jsou klíčové hodnoty jako ochrana soukromí, transparentnost a lidská práva. Zároveň ale podá pomocnou ruku firmám a inovátorům, aby mohli vytvářet špičková AI řešení podle jasných pravidel.

Je to bezesporu přelomový moment nejen pro Evropu, ale pro celý svět a pro budoucnost umělé inteligence. Teď půjde hlavně o to, jak se podaří zákon uvést do praxe a zda se skutečně podaří skloubit ochranu občanů s rozvojem AI. Rozhodně to bude ještě dlouhá a složitá cesta, dnes jsme ale udělali zásadní první krok.

Schválené znění zákona

Zde je finální návrh, který byl schválen.

Co na nový AI Act říkáte?

Dejte mi vědět na sociálních sítích, co na nový zákon říkáte. Připomínám také, že mám vypsané nové termíny AI školení, nejbližší je už příští týden v Praze, tak se honem běžte přihlásit.