Mediální obsah generovaný umělou inteligencí musíme zakázat. Jinak jsme v háji, varuje datový analytik Vrabel
Datový analytik František Vrabel tvrdí, že pokud brzy nezajistíme, aby digitální platformy nesly odpovědnost za obsah, který šíří, může to znamenat náš konec. „V posledních týdnech, kdy došlo k explozi ve vývoji umělé inteligence (AI), tak jsme do té mnou zmiňované blízké doby doslova vtrhli,“ říká.
Poslechněte si celou Osobnost Plus Barbory Tachecí
A v Osobnosti Plus pokračuje: „A pokud jde o náš konec, tak ten může být v časové ose dvojí: skončí společenský systém tak, jak ho známe a jak ho preferujeme, tedy demokracie. A vzdálená dystopická vize je, že si to tady AI může převzít úplně sama.“
Tvůrci umělé inteligence musí vymyslet i systémy, které ji budou kontrolovat.
Umělá inteligence už dávno sociální sítě ovládá. „Ale vývoj v posledních měsících a týdnech se týká obsahu sociálních sítí a vůbec mediálního prostoru. Už teď umí AI vytvořit jakýkoli obsah. Když se jí řekne: ‚Napiš nejhorší dezinformační článek, který bude rozkládat společnost, respektive vytvoř sérii článků, kampaně‘, tak to udělá. Navíc dokáže zacílit a personalizovat na každého z nás.“
Čtěte také
Analytik tak nabádá, aby došlo k regulaci sociálních sítí, ale hlavně samotné umělé inteligence. „Podle mého silného přesvědčení – cítím to jako pevnou jistotu – je potřeba se zamyslet nad regulací umělé inteligence jako takové.“
„Musíme především apelovat na společenskou zodpovědnost samotných tvůrců a velkých firem, které to mají v rukou, aby stejné úsilí, jako vyvinuli na bezbřehý rozvoj umělé inteligence, zaměřili i na vytváření systémů, které ji budou kontrolovat. A to se zatím vůbec neděje,“ nabádá.
Vláda tomu nerozumí
Dalším krokem by tak podle něj mělo být velmi rychlé prozření české vlády i Evropské komise. „Ta zdaleka nedělá, co by dělat mohla a měla. Měla by se zasadit o daleko tvrdší regulaci sociálních sítí a začít tím, že by spadaly pod mediální zákony,“ tvrdí s tím, že by pak totiž sítě nesly odpovědnost i za svůj obsah.
Čtěte také
„Ale abychom všechno neházeli na Evropskou komisi nebo Unii, protože jsme přece její součástí, tak česká vláda si to neuvědomuje vůbec a nic v tom nedělá. Bohužel musím být velmi kritický, ale ono se do toho vládě nechce a jsou v zajetí už neplatícího myšlenkového konceptu, podle kterého by regulace sítí znamenala cenzuru, respektive omezení svobody slova.“
Tato teze podle analytika ale neplatila dřív a neplatí ani po vpádu umělé inteligence. „Nejsou totiž schopni rozlišit rozdíly mezi rozšiřováním zpráv, tedy takzvanou diseminací a amplifikací, což je zveličování dosahu zpráv. A regulace by měla jít pouze do amplifikace, do zveličování obsahu, kterou ty algoritmy dělají proto, aby maximalizovaly zisk. O cenzuře tedy nemůže být řeč.“
Čtěte také
„Navíc argument svobody slova přece vůbec nemůže platit na umělou inteligenci. Navíc ve chvíli, kdy už přebírá celý informační prostor. A když ji nebudeme regulovat, tak ho celý převezme,“ varuje Vrabel.
Jako příklad uvádí českou dezinformační scénu, kde je zhruba 30 „tvrdých pisatelů“ a dalších asi 300 měkčích. „S umělou inteligencí bude těch tvrdých 30 tisíc, pak 300 tisíc a pak miliony až zcela ovládnou informační prostor. A proti tomu se musíme bránit.“
TikTok je velká hrozba
Demokracii podle něj ale nerozkládají jen dezinformace nebo nepřátelská propaganda, ale jde to hlouběji, do obsahu, který společnosti poškozuje. „Můžeme sem zařadit nenávistný obsah, rasismus apod. Nejlíp je to vidět na příkladu TikToku, o kterém se teď hodně mluví v souvislosti s dopadem na západní společnost.“
Čtěte také
„TikTok existuje ve dvou verzích: čínské a exportní, která je určena pro strategické protivníky Číny. A jeho algoritmy fungují odlišně. Zatímco v čínské verzi TikToku je podprahově propagována silná maskulinita a feminita, aby muži byli muži a ženy ženami, aby rodily více dětí a taky bylo víc vojáků pro ochranu společnosti. Na straně západní, které jsme součástí i my, je algoritmus nastaven tak, aby společnost rozkládal. Takže dramaticky a disproporčně propaguje trans genderovou otázku.“
„Výsledkem je, že teenageři dnes nejsou spokojeni s tím, jak vypadají, jak myslí a chtějí měnit například pohlaví,“ uvádí. Číňané tak prý už mají dávno „přečtenou“ celou mladou generaci a vědí, jak je manipulovat.
„A už jen to riziko, že to jednou čínská komunistická strana, která chce převzít vládu nad světem, provede, je něco tak strašidelného, že bychom se toho měli bát a něco proti tomu také dělat.“
„Musí to jít tím směrem, že se zakáže mediální obsah generovaný umělou inteligencí. Když to neuděláme, jsme v háji,“ uzavírá.
Celou Osobnost Plus Barbory Tachecí najdete v audiozáznamu.
Související
-
Počítač nikdy nedokáže to, co člověk. Mozek je postavený na úplně jiných principech, tvrdí neurolog
Společnost Median pro Český rozhlas připravila průzkum o umělé inteligenci. Jeho výsledkům se věnoval Jan Pokorný se svými hosty ve speciálním vysílání.
-
Umělá inteligence může pomoct i v dluhovém poradenství, předvídá sociolog. Nahradí AI práci lidí?
Na pracovním trhu se umělá inteligence bude využívat k pomocným úkolů, práci lidí nenahradí, odhaduje sociolog Daniel Prokop.
-
Chatbot neví, co mluví. Není to umělá inteligence, jen generuje naučené texty, vysvětluje expert
„Může se jevit, že vám vrátí velice smysluplný text, ale je to jen výsledek velice sofistikované statistiky. A i tyto stroje dělají velké chyby,“ říká Josef Holý.
Více z pořadu
E-shop Českého rozhlasu
Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!
Jan Rosák, moderátor


Slovo nad zlato
Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.