Označování obrázků generovaných AI? Jako kdyby se k vylhaným zprávám muselo psát, že jde o lež, hodnotí Koubský
Výtvory generativních AI modelů budou obsahovat informace o tom, že jde o uměle vytvořené nebo upravené dílo. Společnost OpenAI oznámila, že je začíná připojovat k obrázkům generovaným nástrojem DALL-E. Soubory nově obsahují skrytá metadata, která uvádějí, že jde o dílo AI. Uživatelé si mohou informaci zobrazit v různých specializovaných nástrojích.
Firma ale přiznává, že nejde o neprůstřelné řešení. Metadata lze z obrázku snadno odstranit, stačí třeba fotku vyfotit telefonem anebo pořídit její screenshot. Některé sociální sítě také metadata při nahrávání automaticky odstraňují, protože v nich lidé někdy neúmyslně sdílí své osobní údaje.
Čtěte také
Přidávání informací do metadat se také zatím týká jen obrázků, ale už ne třeba zvuků nebo videa. Společnost Meta proto oznámila, že po uživatelích zveřejňujících na Facebooku či Instagramu fotorealistická videa nebo audia začne přiznání tohoto faktu požadovat.
Pokud tak uživatelé neučiní, budou služby neoznačené výtvory AI označovat samy a jejich autory penalizovat, oznámila Meta.
Podle Petra Koubského z Deníku N by šlo o dobrou věc, pokud by bylo možné ji vyřešit spolehlivě. „Zatím se ale zdá, že to spolehlivé nebude a že je to trochu alibismus.“
Zbraň proti deepfake videím?
Dá se předpokládat, že metadata jsou spíše určena pro to, aby třeba právě služby jako Facebook nebo Instagram dokázaly při nahrávání fotky z metadat poznat, že pochází z nějakého AI zdroje, a následně ji třeba určitým způsobem označit.
Metadata se totiž dají snadno upravit a odstranit. A jedním z hlavních argumentů, proč podobná metadata přidávat nebo proč označovat výtvory AI, je, že takové opatření by mělo pomoci proti šíření různých deepfake videí zobrazujících třeba falešné záběry politiků nebo jiných známých osobností.
Čtěte také
„Tato úvaha mi připadá trochu legrační. To je, jako kdyby se uložila povinnost k vylhaným zprávám připisovat, že jde o lež. Pokud někdo dovede vytvořit deepfake video, což ani s nástroji současné umělé inteligence není úplně triviální, tak určitě dovede taky odstranit metadata, která poukazují na to, jak to bylo vytvořeno,“ nastiňuje Koubský.
„Jestli cílem toho deepfake videa je oklamat, což nejspíš bude, tak autor samozřejmě ta metadata odstraní anebo upraví. Čili pro tento účel to má nulový význam,“ míní.
Nejúčinnějším nástrojem v boji proti deepfake videím je tak podle něj naučit lidi, aby nedůvěřovali v podstatě žádnému videu. „Což samozřejmě taky není úplně žádoucí situace, ale neumím si představit, že to dopadne jinak, než že přejdeme do implicitního nastavení: Tohle je fake, pokud mi nedokážete opak.“
„Nebude se dokazovat umělost, ale pravost. Jinak to asi nepůjde,“ dodává Petr Koubský.
20 let s Facebookem, potíže se spuštěním online přihlášek na střední školy a sociální síť Bluesky bez pozvánek. To jsou další témata pravidelného přehledu dění ve světě počítačů a internetu, kterými provází David Slížek.
Související
-
Podvodná reklama je od té skutečné k nerozeznání. Na YouTube se šíří lavinovou rychlostí
Na YouTube se šíří podvodné reklamy zneužívající tváře veřejně známých lidí a firem. Proč je jejich odstraňování problematické a dá se vůbec takový podvod odhalit?
-
Vědci vyzývají politiky k regulaci AI. „Naděje na úspěch je velice malá,“ myslí si Koubský
Ještě nedávno umělá inteligence stěží napočítala do desíti. Dnes vytváří realisticky vypadající obrázky, software, nebo dokonce řídí roboty. Je na místě její regulace?
-
Texty vytvořené AI nelze bezpečně odlišit od výtvorů lidí, tvrdí výzkumníci
Podle jejich testů při detekci zklamaly všechny dnes nejpoužívanější metody od zkoumání textů jinou neuronovou sítí až po tzv. watermarking.
Více z pořadu
E-shop Českého rozhlasu
Starosvětské příběhy lesníků z časů, kdy se na Šumavě ještě žilo podle staletých tradic.
Václav Žmolík, moderátor
3x Karel Klostermann
Komplet obsahuje dva šumavské romány Ze světa lesních samot, V ráji šumavském a povídkový soubor Mrtví se nevracejí z pera klasika české literatury Karla Klostermanna (1848 - 1923), který tomuto kraji zasvětil celé své dílo.