Označování obrázků generovaných AI? Jako kdyby se k vylhaným zprávám muselo psát, že jde o lež, hodnotí Koubský

Firma ale přiznává, že nejde o neprůstřelné řešení. Metadata lze z obrázku snadno odstranit, stačí třeba fotku vyfotit telefonem anebo pořídit její screenshot. Některé sociální sítě také metadata při nahrávání automaticky odstraňují, protože v nich lidé někdy neúmyslně sdílí své osobní údaje.

Čtěte také

Umělá inteligence je riziková. Regulace je na místě, shodují se experti Koubský i Lesch

Přidávání informací do metadat se také zatím týká jen obrázků, ale už ne třeba zvuků nebo videa. Společnost Meta proto oznámila, že po uživatelích zveřejňujících na Facebooku či Instagramu fotorealistická videa nebo audia začne přiznání tohoto faktu požadovat.

Pokud tak uživatelé neučiní, budou služby neoznačené výtvory AI označovat samy a jejich autory penalizovat, oznámila Meta.

Podle Petra Koubského z Deníku N by šlo o dobrou věc, pokud by bylo možné ji vyřešit spolehlivě. „Zatím se ale zdá, že to spolehlivé nebude a že je to trochu alibismus.“

Zbraň proti deepfake videím?

Dá se předpokládat, že metadata jsou spíše určena pro to, aby třeba právě služby jako Facebook nebo Instagram dokázaly při nahrávání fotky z metadat poznat, že pochází z nějakého AI zdroje, a následně ji třeba určitým způsobem označit.

Metadata se totiž dají snadno upravit a odstranit. A jedním z hlavních argumentů, proč podobná metadata přidávat nebo proč označovat výtvory AI, je, že takové opatření by mělo pomoci proti šíření různých deepfake videí zobrazujících třeba falešné záběry politiků nebo jiných známých osobností.

Čtěte také

Lidstvo má k dispozici řadu jiných způsobů, jak se vyhubit, než že se nám z rukou vymkne AI, glosuje Koubský

„Tato úvaha mi připadá trochu legrační. To je, jako kdyby se uložila povinnost k vylhaným zprávám připisovat, že jde o lež. Pokud někdo dovede vytvořit deepfake video, což ani s nástroji současné umělé inteligence není úplně triviální, tak určitě dovede taky odstranit metadata, která poukazují na to, jak to bylo vytvořeno,“ nastiňuje Koubský.

„Jestli cílem toho deepfake videa je oklamat, což nejspíš bude, tak autor samozřejmě ta metadata odstraní anebo upraví. Čili pro tento účel to má nulový význam,“ míní.

Nejúčinnějším nástrojem v boji proti deepfake videím je tak podle něj naučit lidi, aby nedůvěřovali v podstatě žádnému videu. „Což samozřejmě taky není úplně žádoucí situace, ale neumím si představit, že to dopadne jinak, než že přejdeme do implicitního nastavení: Tohle je fake, pokud mi nedokážete opak.“

„Nebude se dokazovat umělost, ale pravost. Jinak to asi nepůjde,“ dodává Petr Koubský.

20 let s Facebookem, potíže se spuštěním online přihlášek na střední školy a sociální síť Bluesky bez pozvánek. To jsou další témata pravidelného přehledu dění ve světě počítačů a internetu, kterými provází David Slížek.