Kdo nás ochrání před AI? Velké firmy mají jen omezenou motivaci napravovat škody, varuje expert Holý
Američtí zákonodárci si minulý týden vyslechli svědectví rodičů, kteří tvrdí, že jejich děti dovedly k sebevraždě rozhovory s chatbotem, tedy s digitální technologií, která konverzuje jako člověk. „Je to stroj vytvořený tak, aby nám byl nápomocný, a v určitém ohledu se na vás naladí. Když se s ním začnete bavit o osobních problémech a že vám možná nastupuje deprese, tak hrozí, že vás povede dál pomyslnou králičí norou,“ vysvětluje odborník na umělou inteligenci Josef Holý.
Poukazuje na to, že náctiletým se teprve tvoří sociální inteligence, některým jedincům s určitými predispozicemi či dysfunkčních rodin ovšem může chatbot nahrazovat reálné vztahy.
„Když necháte teenagera, aby si několik hodin denně povídal s chatbotem, který mu ve všem vyhoví, tak to nemusí být úplně dobré,“ varuje a vysvětluje:
Čtěte také
„Říká se tomu parasociální vazba, bývá to třeba u fanoušků různých mediálních celebrit. Máte pocit, že tu osobnost dokonale znáte, jste s ním v nějakém vztahu, milujete ji. A ona ani neví, že existujete. Toto je stejné, ovšem do králičí nory mohou spadnout i dospělí.“
Holý, spoluautor podcastu Kanárci v síti, kritizuje už samotný pojem umělá inteligence, který naznačuje, že stroj má vlastní vědomí. Ve skutečnosti ale jen analyzuje komplexní data a generuje texty na základě pravděpodobnosti. Tedy i na základě toho, co už mu konkrétní uživatel řekl. A právě tak může člověka AI podpořit v jeho například depresivních pocitech.
Vydírání intimními snímky
Navíc se objevují případy vydírání nebo šikany dospívajících prostřednictvím erotických nebo pornografických snímků. I v těchto případech se využívá AI.
Čtěte také
Ve Španělsku se objevilo několik případů středoškoláků, kteří vytvářeli pomocí AI falešné nahé snímky svých spolužáků. A pak je vyrídali s tím, že jejich přátelům pošlou jejich nahé fotky, pokud jim nezaplatí. Výkupné přitom často není jednorázové, ale oběti jsou nuceny ho platit každý týden nebo měsíc.
„Neexistuje jedno řešení, jak tomu zabránit,“ obává se Holý a objasňuje:
„Například pokud se do modelů nasadí vodoznaky, tak nejširší populace sice nebude moci tvořit obrázky, na kterých bude nahota, to už mnohdy ani dnes nejde. Ale ti zlí aktéři si stáhnou nějaký alternativní model, který si natrénují tak, aby tam ten vodoznak nebyl. Ta ochrana nefunguje stoprocentně.“
Informační suverenita
Odhalovat generované, umělé obrázky a videa pomájí další technologie. Jejich vzájemný souboj Holý přirovnává k závodům ve zbrojení, jaké dříve probíhaly mezi tvůrci virů a antivirů, které se předháněly v tom, kdo bude dokonalejší.
Zároveň je ovšem pravděpodobné, že do několika let budou vygenerované obrázky jen těžko odhalitelné jakýmikoli detektory, uznává expert.
Čtěte také
„Technologie nám může v tomto pomoci, ale je otázka, kdo ji bude vytvářet. Protože dvacet let historie sociálních sítí nám ukazuje, že velké firmy mají omezenou motivaci napravovat škody a eliminovat rizika,“ poznamenává.
Zatímco Evropská unie schválila balík opatření regulujících umělou inteligenci, současná americká administrativa něco takového odmítá a hrozí cly všem státům, které by chtěli omezovat americké technologické firmy.
„Evropská unie je v tuto chvíli jediný celek schopný je omezit. A v rámci celkové suverenity, o které se dnes mluví v souvislosti s tanky, dělostřeleckými granáty a drony, by se Evropa měla snažit i o suverenitu v informační bezpečnosti. Tedy vlastní cloudy, servery, sociální sítě nebo umělá inteligence. Ale bohužel je pozdě,“ konstatuje Holý.
Poslechněte si celý rozhovor v Interview Plus.
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Vždycky jsem si přál ocitnout se v románu Julese Verna. Teď se mi to splnilo.
Václav Žmolík, moderátor
Tajuplný ostrov
Lincolnův ostrov nikdo nikdy na mapě nenašel, a přece ho znají lidé na celém světě. Už déle než sto třicet let na něm prožívají dobrodružství s pěticí trosečníků, kteří na něm našli útočiště, a hlavně nejedno tajemství.
