„Finanční úspory v lese Řáholci pod kořenem.“ Syntetické hlasy jsou k nerozeznání od těch skutečných

10. listopad 2023

AI technologie se neustále vyvíjí a na internetu přibývají kromě uměle vygenerovaných obrázků a textů třeba i syntetické hlasy. Jejich podoba s těmi skutečnými je zarážející a poznat, že se nejedná o skutečný hlas, je téměř nemožné. Jaká rizika se se syntetickými hlasy pojí a mělo by se jejich generování omezit?

„Prosím, vyberte veškeré své finanční úspory a za úplňku jděte do lesa Řáholce, kde najdete pařezovou chaloupku. A tam ty vaše úspory vložte v igelitové tašce pod kořen. Křemílek s Vochomůrkou vám pak do týdne pošlou 1000 Bitcoinů,“ zaznělo v pořadu České televize hlasem moderátorky Jany Peroutkové. Nešlo ale o její skutečný hlas, nýbrž o ukázku možností současných AI systémů na generování syntetických hlasů.

Čtěte také

Výzkumník Jan Kulveit z Centra pro teoretická studia Univerzity Karlovy uvedl, že tato ukázka skvěle demonstruje problém, kterým se mohou syntetické hlasy v budoucnu stát. Podle něj by jedním řešením mohlo být, že budou výstupy z AI generátorů povinně kryté kryptografickým vodoznakem, pomocí kterého bude možné dohledat, kdo je vytvořil.

Petr Koubský z Deníku N ale zdůrazňuje, že by vodoznaky sice byly elegantním řešením, ale že bude možnost je nějakým způsobem obejít a že je tedy potřeba najít propracovanější cestu k tomu, jak bojovat proti rizikům těchto technologií.

Vzestup umělé inteligence by ale mohl i pozitivně ovlivnit digitální gramotnost široké populace, která by byla nucena informace začít ověřovat. Větší tlak by byl i na média, která jsou dost často pod tlakem, aby vydávala co nejrychleji.

Užitečná facka médiím

„Tohle je možná užitečná facka médiím k tomu, aby se vrátila k velice solidnímu prověřování všeho a aby nasadila apriorní nedůvěru vůči všemu, co k nim přichází jako vstup,“ komentuje Koubský to, jaký vliv by mohl mít další rozvoj umělé inteligence na práci médií.

Čtěte také

Otázkou je, jestli by nebylo možné vytvořit jakýsi protipól, který by měl za cíl rozpoznat skutečné hlasy od těch syntetických.

„Dovedu si zhruba představit, že nějaká analýza na matematické úrovni toho digitalizovaného zvuku by mohla ledacos prozradit. Možná tam je víc skrytých stop, té umělé manipulace, než je u textu,“ dodává Petr Koubský.

Jedno malé výročí, vtipný AI chatbot od firmy xAI Elona Muska a vytváření vlastních chatbotů jsou další témata pořadu Online Plus, který moderuje David Slížek.

autoři: David Slížek , aste
Spustit audio

Související

Více z pořadu

E-shop Českého rozhlasu

Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!

Jan Rosák, moderátor

slovo_nad_zlato.jpg

Slovo nad zlato

Koupit

Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.