Neregulovaná umělá inteligence může internet zcela zahltit. Vznikne totální chaos, kde se ztratí úplně každý, varuje publicista Kartous
Podle vysokoškolského pedagoga a publicisty Bohumila Kartouse roste i u nás skupina lidí, kteří věří úplným bludům. S umělou inteligencí (AI) to může dosáhnout až fáze neřešitelnosti. „Nedávná bezpečnostní konference v Mnichově ukázala, že je to vážný problém. Také se reprezentace korporací, které ovládají velké sociální sítě a platformy, deklaratorně zavázala, že bude hledat cestu, jak zamezit zneužívání nástrojů umělé inteligence,“ říká v Osobnosti Plus.
„V tomto směru jde určitě o hrozbu, která je zcela emergentní, protože nástroje AI jsou dnes tak dostupné a levné, že můžou zahltit internet něčím, co vytvoří totální chaos. A v něm se pak společnost naprosto ztratí. Je tak velmi důležité si uvědomit, že toto není otázka racionality, ale hodnot, které společnosti zastávají,“ doplňuje prorektor pro strategii a rozvoj Vysoké školy ekonomie a managementu (VŠEM) a mluvčí Českých elfů.
Čtěte také
Jako příklad uvádí Finsko, kde také mají populisty, ale jsou velmi proevropští, pro řešení klimatické krize, naplno podporují i pomoc Ukrajině.
„Takže mají málo styčných bodů s tím, čemu tady říkáme populismus. Ten náš je totiž mnohem radikálnější, extrémnější – to celé ukazuje na to, že hodnotové rozpětí finské společnosti je mnohem menší než to naše.“
„Jsem ale optimista a věřím, že česká společnost je na dobré cestě, že není tak rozviklaná, polarizovaná a tak vnitřně slabá, jako je v Maďarsku i na Slovensku. My jsme tomu schopni odolat, ale je důležité zamezit zneužití různých technologických nástrojů,“ nabádá pedagog a publicista.
Vše stojí na majitelích, ne na státu
U umělé inteligence a jejího zneužívání například na sociálních sítích je to podle něj o to složitější, stát a společnost totiž hrají až druhé housle.
Čtěte také
„I technologický vývoj v digitálním prostoru mají v rukou soukromí investoři. A tím, že tady nad ním nemáme zatím žádnou kontrolu, je to ještě horší,“ dodává s tím, že proto tak nutně potřebujeme nějakou regulaci, tlačit ale musíme hlavně na Evropskou unii, protože jen ta může něčeho dosáhnout.
„A je to v současnosti jediná cesta, jak dosáhnout toho, abychom si udrželi kontrolu nad veřejným zájmem,“ zdůrazňuje Kartous.
„Pokud nechceme dospět do situace, že se z internetu stane místo totálního informačního chaosu, ve kterém se všichni ztratíme, ve kterém nebude možné vůbec posoudit, co je pravda, nebo co není, musíme to uhlídat.“
Čtěte také
„Už jen existence deepfake znamená, že když někdo nachytá nějakého politika, tak on bude moct říct, že to neřekl a je to deepfake – a už nikdo nerozliší, jestli to tak je. Je tak opravdu nutné snažit se vynutit odpovědnost od těch stran, které tento prostor vysloveně ovládají.“
Deepfakes a jedy
Kartous rád používá příměry, hrozbu AI a deepfakes tak přirovnává k intenzifikaci průmyslové výroby, u které se nakonec způsob regulace našel, takže provozovatelé byli donuceni nevypouštět jedy do vody, vzduchu, půdy.
„V krizových situacích, jakou byl začátek války na Ukrajině, došlo k tomu, že byly některé zdroje informací na čas eliminovány, a to proto, že by mohly šířit nepřátelskou propagandu. To je stejné jako s tím jedem zamořujícím vzduch. Měli bychom jít stejnou cestou.“
Čtěte také
„A stanovení hranice, která se musí otestovat, zamezí tomu, aby byl náš svobodný prostor zneužíván těmi, kteří si rozhodně nepřejí podporu hodnotově založené demokracie. To je cesta. Vedle toho jsou tady i dlouhodobé cíle v podobě udržování hodnotové homogenity společnosti. A to se dá dělat nejlépe ve vzdělávacím systému.“
„Už dnes také existují technologie, které dokážou označovat produkty softwaru postaveného na AI tak, aby bylo jasné, že jde o produkt umělé inteligence. Když to pak firmy implementují do svých nástrojů, tak to je to, čemu říkám regulace. A je to stejné jako ten filtr na komínu, kterým chráníme vzduch před jedem.“
Víc si poslechněte v audiozáznamu pořadu Osobnost Plus Barbory Tachecí.
Související
-
První AI malware? Červ Morris 2 se dokáže šířit sám pomocí chatbota
Skupina výzkumníků otestovala prvního AI červa, který se dokáže šířit prostřednictvím aplikací založených na generativní umělé inteligenci. Jaká rizika přináší?
-
AI ovlivní podobu náboženství. S digitálními technologiemi pracujeme jako šamani s magií, říká vědec
Dnešní Vertikála se zeptá, proč Pravoslavná církev Ukrajiny ze svého kalendáře vyškrtla jednoho ze světců.
-
Označování AI obrázků? Jako kdyby se k vylhaným zprávám muselo psát, že jde o lež, hodnotí Koubský
Výtvory generativních AI modelů budou obsahovat informace o tom, že jde o uměle vytvořené nebo upravené dílo.
Více z pořadu
E-shop Českého rozhlasu
Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!
Jan Rosák, moderátor
Slovo nad zlato
Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.
