---
title: "Evropský parlament schválil nový zákon o umělé inteligenci"
id: "3923"
type: "post"
slug: "evropsky-parlament-schvalil-novy-zakon-o-umele-inteligenci"
published_at: "2024-03-14T09:33:28+00:00"
modified_at: "2024-03-14T09:33:32+00:00"
url: "https://www.kapler.cz/evropsky-parlament-schvalil-novy-zakon-o-umele-inteligenci/"
markdown_url: "https://www.kapler.cz/evropsky-parlament-schvalil-novy-zakon-o-umele-inteligenci.md"
excerpt: "Evropský parlament téměř jednomyslně schválil nový zákon o umělé inteligenci (AI Act). Jeho cílem je zajistit bezpečnost a soulad s lidskými právy, zároveň ale podpořit inovace v oblasti AI a pomoci z Evropy vybudovat v této oblasti lídra."
taxonomy_category:
  - "AI"
taxonomy_post_tag:
  - "AI novinky"
  - "EU"
  - "Zákony"
---

# Evropský parlament schválil nový zákon o umělé inteligenci

Evropský parlament téměř jednomyslně schválil nový zákon o umělé inteligenci (AI Act). Jeho cílem je zajistit bezpečnost a soulad s lidskými právy, zároveň ale podpořit inovace v oblasti AI a pomoci z Evropy vybudovat v této oblasti lídra.

Uveřejněno

14. 3. 2024

Rubrika

[AI](https://www.kapler.cz/category/ai/)

Autor

Tomáš Kapler

Značky:

[AI novinky](https://www.kapler.cz/tag/ai-novinky/)
, [EU](https://www.kapler.cz/tag/eu/)
, [Zákony](https://www.kapler.cz/tag/zakony/)

Ve středu 14. března 2024 Evropský parlament téměř jednomyslně (523 pro, 46 proti, 49 chybělo/zdrželo se) schválil nový zákon o umělé inteligenci (AI Act). Jeho cílem je zajistit bezpečnost a soulad s lidskými právy, zároveň ale podpořit inovace v oblasti AI a pomoci z Evropy vybudovat v této oblasti lídra. Zákon nyní čeká ještě formální schválení Radou. V mezidobí také proběhly další důležité kroky, před pár týdny tak byl například zřízen v zákoně řešený **Úřad pro umělou inteligenci**.

Vytvořil jsem také GPT asistenta [EU AI Act Insight](https://chat.openai.com/g/g-LCU7rkps5-eu-ai-act-insight)
, kterého můžete využít pro dotazování se na detaily z plného znění zákona. Pro jeho využití musíte být uživatelé placené verze ChatGPT Plus, Team nebo Enterprise.

Tomuto zákonu jsem se věnoval v předchozích článcích:

- [AI Act – Zákon o umělé inteligenci – konsolidované znění](https://www.kapler.cz/tldr-ai-act-zakon-o-umele-inteligenci/)
- [Aktualizace: plné znění návrhu AI Act – zákona o umělé inteligenci](https://www.kapler.cz/ai-act-dohoda/)

Nyní tak jen přidám shrnutí, které pro vás připravil [Anthropic Claude 3 (model Opus), o kterém jsem psal před pár dny](https://www.kapler.cz/anthropic-claude-3/)
. *Mimochodem mimo téma – Anthropic dnes v noci zpřístupnil i jejich nejrychlejší model Haiku – ten dokáže za jednu vteřinu zpracovat 21 tisíc tokenů.*

Zákon o umělé inteligenci byl připravován téměř tři roky od původního návrhu. Schválené znění má 258 stran a obsahuje řadu důležitých ustanovení:

## Zakázané praktiky AI

- Systémy AI, které manipulují lidmi, zneužívají jejich zranitelnost nebo slouží k sociálnímu bodování, budou zcela zakázány.
- Zakázáno bude také používat necíleně sbírané obrázky pro rozpoznávání obličejů nebo rozpoznávat emoce na pracovišti či ve školách.

## Přísná pravidla pro vysoce rizikové systémy

- Vysoce rizikové AI systémy budou podléhat přísným požadavkům a budou muset projít nezávislým auditem.
- Týká se to biometrických systémů, systémů ve vzdělávání, výběru zaměstnanců, přístupu k veřejným službám nebo například kreditních skóringů.

## Omezené použití biometrické identifikace

- Vysoce kontroverzní téma používání dálkové biometrické identifikace (např. rozpoznávání obličejů kamerami) bude významně omezeno.
- Bezpečnostní složky ji budou moci využívat jen v přesně definovaných případech – např. pro hledání obětí únosů a obchodu s lidmi nebo pro prevenci teroristických útoků. Vždy bude nutné předchozí povolení soudu nebo nezávislého orgánu.

## Právo na vysvětlení

- Pokud rozhodnutí systému významně ovlivní práva osoby, bude mít tato osoba právo na srozumitelné vysvětlení, na čem bylo rozhodnutí založeno.
- Občané budou moci podávat stížnosti na AI systémy, které porušují jejich práva.

## Jedno označení pro celou EU

- Vysoce rizikové systémy AI budou muset nést speciální označení CE a budou zaregistrovány v databázi EU.
- Systémy střední rizikovosti budou muset jasně informovat uživatele, že komunikují s umělou inteligencí. Týká se to například chatbotů nebo deep-fake obsahu.

## Regulace AI pro všeobecné účely (GPAI)

- Poskytovatelé modelů pro obecné užití (GPAI) budou mít zvláštní povinnosti, zejména zveřejnit podrobnosti o datech použitých pro trénink a dodržovat autorská práva.
- Nejsilnější GPAI modely s možnými systémovými riziky budou muset procházet zvláštním hodnocením rizik a incidentů.

## Podpora pro evropské firmy a inovace

- Zákon počítá se zavedením tzv. regulatorních sandboxů, kde budou moci vývojáři bezpečně testovat nové systémy AI. Zvláštní podpora bude poskytována startupům a malým firmám.
- Cílem je podpořit evropské inovace a zamezit odlivu firem mimo EU.

## Vysoké pokuty za porušení

- Za porušení pravidel budou hrozit pokuty až do výše 30 milionů eur nebo 6% celkového ročního obratu firmy.

Nová pravidla se budou postupně zavádět během 2 let od vstupu zákona v platnost. Zákazy rizikových praktik začnou platit už po půl roce, zatímco na přizpůsobení vysoce rizikových systémů budou mít firmy čas 2-3 roky.

Schválením AI Act dala EU jasně najevo směr, kterým se chce v oblasti umělé inteligence vydat. Zatímco USA a Čína zatím v tomto směru výrazněji neregulují, Evropa ukázala, že pro ni jsou klíčové hodnoty jako ochrana soukromí, transparentnost a lidská práva. Zároveň ale podá pomocnou ruku firmám a inovátorům, aby mohli vytvářet špičková AI řešení podle jasných pravidel.

Je to bezesporu přelomový moment nejen pro Evropu, ale pro celý svět a pro budoucnost umělé inteligence. Teď půjde hlavně o to, jak se podaří zákon uvést do praxe a zda se skutečně podaří skloubit ochranu občanů s rozvojem AI. Rozhodně to bude ještě dlouhá a složitá cesta, dnes jsme ale udělali zásadní první krok.

## Schválené znění zákona

Zde je finální návrh, který byl schválen.

[Proposal-for-a-Regulation-of-the-European-Parliament-and-of-the-Council](https://www.kapler.cz/wp-content/uploads/Proposal-for-a-Regulation-of-the-European-Parliament-and-of-the-Council.pdf)
[Stáhnout](https://www.kapler.cz/wp-content/uploads/Proposal-for-a-Regulation-of-the-European-Parliament-and-of-the-Council.pdf)

## Co na nový AI Act říkáte?

Dejte mi vědět na sociálních sítích, co na nový zákon říkáte. Připomínám také, že mám vypsané nové termíny [AI školení, nejbližší je už příští týden v Praze, tak se honem běžte přihlásit](https://www.kapler.cz/ai-skoleni/)
.