EU znovu upravila regulaci AI. Jak se bude vymáhat? Koubský a Kudláčková: Složitě

Český telekomunikační úřad (ČTÚ) by měl Česku dohlížet nad tím, jak systémy s umělou inteligencí fungují. „Zároveň jsme v takovém bodě, kdy čekáme na to, abychom měli platný a účinný český prováděcí zákon. To ještě možná bude chvíli trvat,“ vysvětluje Kudláčková. Podobně se čeká i u dalších evropských regulací, jako je třeba Akt o digitálních službách (DSA).

Čtěte také

Pokuta až 35 milionů eur. AI Act se týká především firem a úřadů, vysvětluje vládní zmocněnec

Už teď ale má ČTÚ svou roli. Kudláčková ji rozděluje na tři části. První je spolupráce na evropské úrovni a koordinace budoucích orgánů dozoru napříč úřady. Druhou je kontakt s byznysem a tou třetí mediální komunikace vůči široké veřejnosti, hlavně vůči zranitelným skupinám, jako jsou děti nebo senioři.

Akt o umělé inteligenci je ale nařízení, takže alespoň ty jeho části, které už vstoupily v účinnost, platí bez ohledu na to, jestli je český zákon schválen, nebo ne. Proto nastávají situace, ve kterých nemůže ČTÚ ještě plně reagovat na stížnosti.

„Samozřejmě se na nás veřejnost obrací. Můžeme se vyjádřit v nějaké poradenské a metodické činnosti, třeba kdybyste chtěli využívat nějaký AI systém v rámci zpravodajské činnosti a obrátíte se na nás s tím, že si nejste jisti, jestli to splňuje všechny podmínky AI Actu třeba co se týče transparentnosti. Nezahájíme ani tu kontrolu, ale můžeme vám poradit. Jsme spíš průvodci, kteří zatím můžou vysvětlit, co se v té věci dá dělat, ale nejsme drábové, co rozhodnou o pokutě,“ vysvětluje Kudláčková.

Ivana Kudláčková a Petr Koubský|foto:Kateřina Cibulka, Český rozhlas Plus

AI omnibus

Než AI Act stihl plně vstoupit v účinnost, Evropská unie přijala další úpravy: takzvaný AI omnibus. Ten má podle Kudláčkové vést ke zjednodušování legislativy. „Česká republika byla jedním z hlavních hlasů, který po tom volal,“ vysvětluje a dodává, že úpravy mají vést „k tomu, že nebudeme brzdit vývoj a nasazování AI v rámci Evropské unie, a zároveň, že pořád zachováme ochranu lidských práv.“

Podle Koubského jsou úpravy nařízení ještě před jeho úplnou platností efektem rychlého vývoje AI. „U zákonů, které regulují jakoukoliv technologii, většinou bývá dobrým a rozumným zvykem chvíli počkat, nechat odstup, aby se do toho nezanášela konkrétní technická řešení, aby to bylo dostatečně obecné. Všechny dobré zákony regulující digitální prostor vznikly tímhle způsobem,“ říká Koubský.

Čtěte také

Co vytvořil člověk, co AI? Od srpna to musí firmy označit vodoznakem. Koubský: Nebývá to jednoznačné

AI je podle něj specifická tím, že se moc čekat nedá. „Má příliš velký dopad, příliš mění společnost a právní řád na to musí reagovat. Nemáme na spoustu věcí ani etickou reakci, která by měla právo trochu předcházet a ukázat cestu, co se pokládá za správné a přijatelné.“ To podle něj nemáme proto, že se to nedá stihnout.

Původní AI Act zakázal určité způsoby použití umělé inteligence a nastavil, co firmy musí udělat, aby mohly některé systémy používat. Úpravy v rámci omnibusu byly spíše byrokratického rázu.

Podle Kudláčkové bylo například pro firmy zásadní, aby se odložila účinnost některých nových povinností. „Firmy potřebovaly víc času na přípravu, protože jim chyběly věci, které jim má poskytnout Evropská unie: Nějaké technické standardy, aby bylo zřejmé, jakým způsobem se ty povinnosti mají dodržovat. Zároveň to pomohlo i státům a orgánům dozoru,“ říká pro Český rozhlas Plus.

Konec svlékacích aplikací

Došlo ale i k podstatnějším změnám. „Za mě byla ta velká hodnotová změna rozšíření zakázaných systémů. To se dotýká oblasti sexuální integrity a ochrany dětí,“ říká Kudláčková.

Nově jsou zakázané AI systémy, které mají vytvářet obsah týkající se sexuálního zneužívání dětí. „Druhá věc se týká zákazu takových systémů, které budou generovat nekonsensuální sexuální obsah, ať by se to týkalo toho, že to bude generovat intimní partie, nebo třeba osobu zapojenou do nějaké sexuální aktivity,“ říká Kudláčková.

Čtěte také

Meta poškozuje společnost, nechrání děti, rozhodl soud. Koubský: Líbí se mi opatření, která nařídil

Jak budou kontroly zákazu probíhat, podle ní ukáže praxe. „Za poskytovatelem jde povinnost nastavit taková technická opatření, aby to jednoduše nebylo možné vygenerovat,“ vysvětluje a zdůrazňuje, že bude záležet na zabezpečení AI tak, aby nešly tyto limity překročit.

Když jsou mantinely AI dobře nastaveny, mohou být podle Koubského velice účinné, nikdy ale stoprocentně. „Tady vzniká v právním posuzování otázka míry odpovědnosti i za tyto okrajové situace, kdy je nerealistické vyžadovat stoprocentní spolehlivost. Většinou to u právních úprav bylo tak, že se na tuhle věc bral ohled. Předpokládám, že je to tak i teď,“ míní Koubský.

S tím souhlasí i Kudláčková. „Orgán dozoru nad trhem má vždy možnost a povinnost vzít veškeré okolnosti do hry a na základě toho případně rozhodnout,“ říká o případném udělování sankcí.

Dají se postihnout AI generátory sídlící mimo EU? A do jaké míry spadá odpovědnost na člověka, který si nevhodnou fotku nechá od AI vygenerovat? A jak to vše bude fungovat v praxi? Poslechněte si celé Online Plus.