„Finanční úspory v lese Řáholci pod kořenem.“ Syntetické hlasy jsou k nerozeznání od těch skutečných

„Prosím, vyberte veškeré své finanční úspory a za úplňku jděte do lesa Řáholce, kde najdete pařezovou chaloupku. A tam ty vaše úspory vložte v igelitové tašce pod kořen. Křemílek s Vochomůrkou vám pak do týdne pošlou 1000 Bitcoinů,“ zaznělo v pořadu České televize hlasem moderátorky Jany Peroutkové. Nešlo ale o její skutečný hlas, nýbrž o ukázku možností současných AI systémů na generování syntetických hlasů.

Čtěte také

Vědci vyzývají politiky k regulaci AI. „Naděje na úspěch je velice malá,“ myslí si Koubský

Výzkumník Jan Kulveit z Centra pro teoretická studia Univerzity Karlovy uvedl, že tato ukázka skvěle demonstruje problém, kterým se mohou syntetické hlasy v budoucnu stát. Podle něj by jedním řešením mohlo být, že budou výstupy z AI generátorů povinně kryté kryptografickým vodoznakem, pomocí kterého bude možné dohledat, kdo je vytvořil.

Petr Koubský z Deníku N ale zdůrazňuje, že by vodoznaky sice byly elegantním řešením, ale že bude možnost je nějakým způsobem obejít a že je tedy potřeba najít propracovanější cestu k tomu, jak bojovat proti rizikům těchto technologií.

Vzestup umělé inteligence by ale mohl i pozitivně ovlivnit digitální gramotnost široké populace, která by byla nucena informace začít ověřovat. Větší tlak by byl i na média, která jsou dost často pod tlakem, aby vydávala co nejrychleji.

Užitečná facka médiím

„Tohle je možná užitečná facka médiím k tomu, aby se vrátila k velice solidnímu prověřování všeho a aby nasadila apriorní nedůvěru vůči všemu, co k nim přichází jako vstup,“ komentuje Koubský to, jaký vliv by mohl mít další rozvoj umělé inteligence na práci médií.

Čtěte také

České školství je v přístupu k AI liberální. Učitelé myslí realisticky, chválí pedagogy Koubský

Otázkou je, jestli by nebylo možné vytvořit jakýsi protipól, který by měl za cíl rozpoznat skutečné hlasy od těch syntetických.

„Dovedu si zhruba představit, že nějaká analýza na matematické úrovni toho digitalizovaného zvuku by mohla ledacos prozradit. Možná tam je víc skrytých stop, té umělé manipulace, než je u textu,“ dodává Petr Koubský.

Jedno malé výročí, vtipný AI chatbot od firmy xAI Elona Muska a vytváření vlastních chatbotů jsou další témata pořadu Online Plus, který moderuje David Slížek.