Kdo musí označovat obsah vytvořený AI? Expertka Kudláčková: Obrázky poskytovatelé, deep fake tvůrci

Na začátku srpna vstoupily v platnost další části Aktu o umělé inteligenci (EU AI Act), které hlavně mluví o transparentnosti – tedy o tom, že se musí označovat, když něco vytvořila umělá inteligence. A to proto, aby lidé věděli, jestli konzumují výtvor reálného člověka, anebo AI.

Koho se vlastně tahle ta pravidla pro transparentní označování výtvorů AI týkají a kdo všechno tedy musí obsah označovat?

Čtěte také

EU znovu upravila regulaci AI. Jak se bude vymáhat? Koubský a Kudláčková: Složitě

Kudláčková upozorňuje, že se označování netýká všech.

„Nemusíme se bát toho, že každý výstup AI musíme označovat. Tohle je opravdu až nepravdivá informace, která se rozšířila. Musíte si na začátku říct, jestli jste ten takzvaný poskytovatel, to znamená vývojář AI systému, anebo jestli jste jenom ten zavádějící subjekt,“ říká s tím, že v tomto případě jde třeba o firmy, instituce, úřady nebo zpravodajské agentury, které v rámci své profesionální činnosti využívají AI.

Co tedy dopadá na vývojáře? „V první řadě jsou to všichni chatboti a voiceboti,“ tvrdí Kudláčková. Poskytovatel těchto chatbotů je musí nastavit tak, aby byli návštěvníci webu informováni, že komunikují s AI.

„Máme k tomu pokyny i takzvaný kodex, který pomáhá firmám porozumět, jak se to dá dělat,“ dodává. „Nemůže to tam třeba být schované někde v obchodních podnikách a tak dále,“ uvádí příklad.

Ivana Kudláčková a Petr Koubský|foto:Kateřina Cibulka, Český rozhlas Plus

AI obrázky

Kdo ale takové označení implementuje – jestli model sám, nebo firma, která ho poté používá – ale není jasné.

Čtěte také

Co vytvořil člověk, co AI? Od srpna to musí firmy označit vodoznakem. Koubský: Nebývá to jednoznačné

„Vždycky musíme podívat na záměr: Když už ten chatbot bude veřejný, tak to tam prostě musí být. Pak se můžeme bavit o tom, na jaké úrovni to dává smysl. Není to o tom, kdo konkrétně, ale spíš aby tahle povinnost byla naplněna,“ říká Kudláčková.

V případě generování obrázků jde hlavní povinnost označit to jako AI za poskytovatelem.

„Je to na té jako technické úrovni, vy jako uživatel to ani nemusíte vidět. To může být třeba digitální stopa v metadatech, nebo to může být vodoznak, který nemusí být na první dobrou viditelný lidským okem,“ popisuje možná řešení Kudláčková.

Aby byla tato povinnost splněna, musí na obrázku být nějaký typ označení, které bude schopné ověření.

Deep fake a my

Jinak je tomu ale u deep fake, upozorňuje Kudláčková: „Když si budete dělat deep fake, tak jeho označení už jde za tím, kdo si ho vytvořil.“

Co tedy deepfake je, když spadá pod zodpovědnost uživatele? Podle expertky splňuje čtyři podmínky, které musí platit zároveň:

„První podmínka je, že to musí být vizuální nebi audio obsah. Druhá podmínka je, že to musí být buď vytvořené, nebo změněné za pomocí umělé inteligence. Třetí podmínka je, že výsledek se podobá nějaké osobě, skutečnosti nebo události. Čtvrtá podmínka je, že to může vyvolat dojem pravdivosti nebo autentičnosti,“ vyjmenovává.

Čtěte také

New York zakázal generativní AI na základních školách. Středoškoláky čekají speciální kurzy

A ilustruje: „Deep fake by byl, kdybych si z tohoto rozhovoru Českého rozhlasu Plus udělala fotku a za moderátora nechala vygenerovat pět asistentů, kteří mu podávají poznámky a reagují, na to, co říkám.“

Naopak o deep fake by nešlo, kdyby vygenerované video nevyvolávalo dojem autenticity. „Kdybych místo pěti asistentů vygenerovala vedle moderátora třeba animovaného Shreka, tak by to dojem autentičnosti nevyvolávalo,“ vysvětluje Kudláčková.

Vědecký redaktor Deníku N dodává, že toto nastavení stojí na tenkém ledu: „Musíš zvažovat publikum a to, co pro něj je normální a přijatelné, a co není. To je tenký led a spousta práce pro právníky, kteří to budou interpretovat.“

Jak se má rozhodovat o této hranici přijatelnosti? A platí stejná pravidla například pro satiru? A zůstanou legální nástroje, které umí vodoznak odebrat? Poslechněte si celý Online Plus.