Co vytvořil člověk, co AI? Od srpna to musí firmy označit vodoznakem. Koubský: Nebývá to jednoznačné
Povinný vodoznak u obsahu vytvořeného AI, identifikace chat botů nebo označování uměle vytvořeného obsahu, který by mohl uživatele splést. Od 2. srpna začínají v Evropské unii platit další části nařízení o umělé inteligenci. Opatření směřují na firmy a organizace a nové povinnosti se tak netýkají čistě osobního a neprofesionálního používání AI. „Doba se ale změnila, dnes je AI běžná,“ poukazuje v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
Pokud uživatel třeba komunikuje s AI, musí o tom podle nových pravidel dostat informaci. Provozovatelé AI systémů také musí nově označovat všechny texty, fotky, zvuky nebo videa, která s jejich pomocí uživatelé vytvoří, a to strojově čitelným vodoznakem.
Čtěte také
Pokud použijí AI systém k vygenerování a zveřejnění tak zvaných deep fake – obrázků, zvuku nebo videa, které se podobá existujícím lidem, místům nebo událostem a v uživateli může vyvolat falešný dojem, že jde o autentické zobrazení.
Označovat se musí také texty, které byly upraveny nebo vytvořeny umělou inteligencí, pokud byly zveřejněny za účelem informování ve věci veřejného zájmu. Podle Evropské komise může jít například o umělou inteligencí generovaný souhrn novinového článku nebo třeba o AI generovaný příspěvek na sociálních sítích meteorologické služby, který varuje před bouřkovým počasím.
Za porušení povinností hrozí pokuta do výše 15 milionů eur, v případě firmy do tří procent jejího celoročního obratu
Čtěte také
Má jít tedy o ochranu uživatele, aby se nenechal splést a aby dokázal rozpoznat, že obsah, který konzumuje, byl vytvořen nebo upraven pomocí umělé inteligence. Podle Koubského je ale těžké říci, zda toto opatření opravdu lidem pomůže.
„Je vidět, že tato pravidla vznikla ve chvíli, kdy se AI nepoužívala ještě tak masivně jako nyní. Teď to vypadá, jako bych mluvil o dávné minulosti, ale vývoj je tak rychlý, že i třeba rok nebo dva, po který se připravují právní normy, změní hodně. Dnes je umělá inteligence natolik běžná a všudypřítomná, že by se možná jednodušeji mělo označovat to, čeho se nijak nezúčastnila, než to, do čeho zasahuje,“ glosuje Koubský.
I proto podle něj bude složité tento zákon uplatňovat. „Jakým způsobem se budou všichni, koho se to týká, řídit přesně jeho ustanovením, jak hodně se bude vymáhat... Mně to připadá jako právní norma pro trochu jinou dobu. Doba se změnila.“
Černobílý přístup
Například téma vodoznaků se v oblasti AI objevuje již déle. Na první pohled by nemusel být viditelný, strojem ale ano. Vodoznak se ale pravděpodobně bude dát i odstranit, takže jeho nepřítomnost nebude nejspíše zaručovat, že to dílo není vytvořené umělou inteligencí.
Čtěte také
„Myslím, že je to relativně jednoduché tam – a to se netýká jen obrázků a videa, ale i textů – kde je to černobílé: Kde je to buď výtvor člověka bez zásahu umělé inteligence, anebo naopak výtvor AI plně automatizovaný. Jenomže dnešní typická situace je taková, že vznikají díla ve spolupráci mezi člověkem a AI,“ upozorňuje Koubský.
Někdy se podle něj dá těžko stanovit, jaký je mezi nimi podíl: „Drobné zásahy do textů, třeba na úrovni jazykové úpravy, odstranění překlepů a podobně, se pomocí umělé inteligence dělají dnes snad úplně všude. Totéž automatické překlady u obrázků, vylepšování fotek, retušování pozadí... To všechno byla dřív ruční práce a dnes je to vysoce automatizované.“
Čtěte také
„Zákon jako by tohle pomíjel, jako by viděl opravdu jen černou a bílou práci člověka nebo práci stroje,“ kritizuje Koubský.
V současnosti již některé sociální sítě detekují samy automaticky příspěvky, které mohly být vytvořeny umělou inteligencí. Často se ale dostávají do sporu s tím, že dnešní fotoaparáty v chytřejších mobilech s umělou inteligencí nějakým způsobem pracují již téměř automaticky, aniž by o tom uživatel věděl. Pak takové obrázky bývají na sociálních sítích označeny za vytvořené umělou inteligencí.
Veřejný zájem
Jde také o texty. Pokud byly zveřejněny za účelem informování ve věci veřejného zájmu a za použití AI, má se to uživatel dozvědět. Jako příklad uvádí Evropská komise generovaný souhrn novinového článku o rozhodnutí místní radnice nebo vygenerovaný post meteorologické služby.
Čtěte také
Jak se ale takové texty budou rozlišovat a jak se potom budou posuzovat?
„Tam je problém vůbec s pojmem veřejný zájem. Kde začíná a kde končí mainstreamová média, včetně takových, v jakých oba dva pracujeme? V zásadě všechno, co dělají, dělají s ohledem na veřejný zájem. Nic jiného v podstatě ani nemá smysl publikovat,“ poukazuje novinář a usuzuje:
„Tady vůbec nejde o literu zákona, ale o to, jakým způsobem se ten zákon bude vykládat. Výkladem zákona je pověřen soud. Čili budeme asi muset počkat, až dojde na právní spory ve věci těchto ustanovení. Pak se uvidí, jak to bude vypadat.“
Profesionální redakce nebo texty, které jsou člověkem zredigované a publikoval je vydavatel, který za ně má zodpovědnost, jsou z nových pravidel vyňaty.
Jaké jsou dozvuky útěku AI agentů firmy OpenAI? Jaké další potíže má TikTok v Evropě? A jak proběhl veřejný test eDokladů? Poslechněte si celé Online Plus.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Závěr příběhu staré Karviné, který měl zůstat pod zemí
Karin Lednická, spisovatelka
Šikmý kostel 3
Románová kronika ztraceného města - léta 1945–1961. Karin Lednická předkládá do značné míry převratný, dosavadní paradigma měnící obraz hornického regionu, jehož zahlazenou historii stále překrývá tlustá vrstva mýtů a zakořeněných stereotypů o „černé zemi a rudém kraji“.
