EU „na dosah“ prvních zákonů na světě regulujících umělou inteligenci

Originál dnešního článku je na The Guardian – EU ‘in touching distance’ of world’s first laws regulating artificial intelligence, snad se nebudou zlobit, že jsem je vzhledem k důležitosti a aktuálnosti pro místní čtenáře takto přeložil (s pomocí Deepl).

Dragoș Tudorache, poslanec Evropského parlamentu, který strávil čtyři roky přípravou legislativy o umělé inteligenci, je optimistický a věří, že konečné znění bude schváleno do středy (zítra, 25. 10. 2023, poznámka TK).

Evropská unie je na „dotek“ od přijetí prvních zákonů o umělé inteligenci na světě, které dají Bruselu pravomoc odstavit služby, jež škodí společnosti, říká car (poznámka TK: fakt napsali „tsar“) umělé inteligence, který strávil poslední čtyři roky přípravou legislativy.

Připravovaný zákon EU o umělé inteligenci by mohl zavést pravidla pro vše od podomácku vyrobených chemických zbraní až po krádeže autorských práv k hudbě, umění a literatuře, přičemž jednání mezi poslanci Evropského parlamentu, členskými státy EU a Evropskou komisí o konečném znění vrcholí ve středu.

„Umělá inteligence má skutečně hluboký dopad na vše, co děláme, a proto bylo na čase zavést určité záruky a ochranné prvky pro to, jak se tato technologie bude vyvíjet ve prospěch našich občanů,“ uvedl v exkluzivním rozhovoru pro deník Guardian Dragoș Tudorache, rumunský europoslanec a spoluzpravodaj parlamentního výboru, který legislativu řídí.

Tudorache ve své bruselské parlamentní kanceláři uvedl: „V této souvislosti jsem se chtěl zeptat, jaká je situace v Bruselu: „V otázce umělé inteligence jsem spíše optimistou než pesimistou. Pesimistou bych byl, kdybychom s ní nic nedělali.“

Tudorache uvedl, že existuje šance, že se mu do středy podaří dohodnout konečné znění Aktu o umělé inteligenci. Poté by byl formálně přijat parlamentem a, pokud nedojde k žádným zádrhelům, stal by se zákonem na začátku příštího roku.

„Jsme na dosah ruky,“ řekl. „Dobrých 60-70 % textu je již dohodnuto.“

Jednou ze zbývajících sporných oblastí je používání „živého“ rozpoznávání obličejů pomocí AI. Členské státy si chtějí toto právo ponechat a argumentují tím, že je nezbytné pro bezpečnost na hranicích, ale také pro předcházení veřejným nepokojům. Poslanci Evropského parlamentu se však domnívali, že kamery pro rozpoznávání obličejů v reálném čase na ulicích a veřejných prostranstvích představují zásah do soukromí, a hlasovali pro odstranění těchto ustanovení.

Hlasovali také pro zrušení práva úřadů nebo zaměstnavatelů používat technologii rozpoznávání emocí pomocí umělé inteligence, která se již používá v Číně a pomocí níž se sledují výrazy obličeje vyjadřující hněv, smutek, štěstí a nudu, jakož i další biometrické údaje, aby bylo možné odhalit unavené řidiče nebo pracovníky.

Tudorache naznačil, že se připravuje kompromis ve všech zbývajících sporných oblastech.

„Existuje pravděpodobný scénář, že budeme jednat až do noci a 25. října spis uzavřeme,“ řekl.

Hrstka témat, která ještě nebyla dohodnuta, byla všechna „vnitřně propojena“, takže by nebyla příležitost k prostému obchodování s textem mezi politickými zájmy, řekl. Každý by musel v něčem ustoupit, aby se klauzule o dohledu dostaly přes čáru v balíčku.

Kromě obav ze sledování v reálném čase jsou jedním z nejžhavějších témat, která zaměstnávají regulační orgány, neznámé hrozby, které by umělá inteligence mohla představovat, hrozby, o nichž vývojáři ani nevědí, jako je schopnost vytvářet patogeny a jiná biologická nebezpečí.

„Můžete si vypěstovat vlastní malou příšeru ve své kuchyni,“ řekl Tudorache o schopnosti AI poskytnout členům veřejnosti nástroje k vytváření biologických nebezpečí.

Osoba, která bombu vyrobí, může být podle stávajících zákonů ve všech zemích zadržena policií. Podle zákona o umělé inteligenci se však bude zodpovídat i vývojář nebo vlastník nástrojů umělé inteligence, který může být pokutován až do výše 6 % svých příjmů nebo mu může být zcela zakázán vstup na území EU.

„Znamená to, že společnosti zabývající se umělou inteligencí se nemohou zbavit své odpovědnosti. Nebudou moci říci: ‚No, to uživatel je zodpovědný za to, že vzal můj model a udělal s ním něco špatného‘. Pokud je jejich model umělé inteligence schopen vytvořit něco, co je nezákonné, pak za to budou mít právní odpovědnost,“ řekl Tudorache.

Moje poznámka: tohle je značně nepatřičná a potenciálně nebezpečná formulace. Každý člověk je schopen spáchat něco nezákonného s propiskou, cihlou či nožem, a ani v jednom případě za to nehrozí jejich výrobci žádný postih (za předpokladu, že to k takovému účelu neinzerují atp.) AI je nástroj a stejně jako mohu napsat / najít něco na počítači či použít kalkulačku pro výpočet materiálu potřebného k výrobě atomovky, může i AI být zneužita. Neznám formulace, které chtějí v zákoně mít, chápal bych, aby měli AI výrobci povinnost třeba vyvinout maximum snahy pro omezení některých nežádoucích jevů (viz například OpenAI přístup k bezpečnosti nebo Anthropic a jejich trénováním s využitím vlastní AI ústavy), ale jinak jakýkoliv pokus činit právně odpovědnými tvůrce AI modelů z důsledků trestných činů jejich uživatelů by téměř jistě zastavila veškeré využití AI v EU a následkem by byl ještě větší úpadek (ostatně důsledky této obavy vidíme už dnes, kdy některé AI modely a nástroje nejsou v Evropě dostupné).

Podle něj by to byl silný odstrašující prostředek proti možným negativním stránkám umělé inteligence. Dodal, že pravidla by „těmto společnostem také pomohla“.

„Samotné společnosti zabývající se umělou inteligencí říkají, že jejich modely vytvářejí velmi vážná rizika, některá z nich i pro lidstvo. A používám jejich vlastní slova, ne svá,“ řekl.

„Nyní se konají summity o bezpečnosti umělé inteligence nalevo, napravo i uprostřed, jeden z nich se bude konat v Londýně v příštích dvou, třech týdnech,“ řekl s odkazem na mezinárodní summit o bezpečnosti umělé inteligence, který příští týden svolá britský premiér Rishi Sunak a na němž se organizátoři plánují zabývat výzvou regulace neznámých hrozeb.

Zvýšená odpovědnost a transparentnost, která bude vyžadována podle zákona o umělé inteligenci, „není jen povinností, která je zatěžuje, ale vidím v ní také dobrou příležitost, jak si vybudovat důvěru ve své modely“ a ve veřejnost, dodal Tudorache.

Mezi další prvky zákona, které pravděpodobně nebudou závěrečným kolem jednání dotčeny, patří ochrana kreativního sektoru.

Společnosti zabývající se umělou inteligencí budou muset Evropské komisi předkládat seznamy zdrojů dat v rámci povinnosti pravidelného podávání zpráv, což by podle Tudoracheho mělo působit jako odrazující prvek pro využívání dat a kreativního obsahu bez náhrady.

Cílem je umožnit hudebníkům, vědeckým výzkumníkům nebo autorům snadno zjistit, zda jejich dílo nebylo bez souhlasu využito, a poskytnout jim právní ochranu.

Zákon o umělé inteligenci bude rovněž zahrnovat povinnost technologických společností pravidelně zveřejňovat údaje o množství spotřebované elektrické energie v souvislosti se zprávami, že trénink ChatGPT trval tisícům počítačů šest měsíců.

„Trénování modelů spotřebuje spoustu energie a je k dispozici jen velmi málo veřejných údajů, které by ukázaly, jaká je celková daň,“ řekl Tudorache.

Irsko, jedna ze zemí, která spotřebu energie sleduje, uvedlo, že spotřeba elektřiny datovými centry vzrostla z 5 % celkové spotřeby v zemi v roce 2015 na 18 % v roce 2022.

„Chci transparentnost v oblasti energií. Energie je otevřený trh, takže zákon o AI spotřebu energie nezastaví, ale pokud bude existovat povinnost společností zveřejňovat údaje o spotřebě energie, můžete tak budovat povědomí a formovat veřejnou politiku,“ řekl.

Jaký je váš názor?

Co si o tom myslíte? Sdílejte článek, dejte vědět na sociálních sítích. Kontaktuji své známé europoslance, kteří se digitálním otázkám věnují, až získám jejich názor, doplním jej do článku a dám vám vědět na sociálních sítích, tak mě nezapomeňte sledovat (případně se zdarma registrujte a budete dostávat novinky do mailu).