Nečasová z AI dětem: Láska s chatbotem? Musíme být opatrní, může to změnit celý náš svět

Jde hlavně o překvapivé, šokují informace plné emocí, na které se „víc kliká“ a dostává je víc uživatelů. Na stejném základu pak funguje i online reklama, hudba a samozřejmě také propaganda. „A společnost to pak i víc výrazně rozděluje,“ upřesňuje Nečasová. 

Čtěte také

Chatbot neví, co mluví. Není to umělá inteligence, jen generuje naučené texty, vysvětluje expert

„Ještě větší a horší dopady přinese generativní AI. Teď například řeším téma syntetické intimity. Na světě je několik studií, podle kterých se lidé zamilovávají do chatbotů, se kterými prožívají skutečné vztahy, a to i sexuální. Studie zkoumají hlavně aplikaci Replika, kde jsou takzvaní AI companions, tedy společníci, kteří simulují, že jsou skuteční lidé.“ 

„A ti, co s nimi hovoří, prožívají pro ně úplně stejné vztahy, jako s lidmi. Když ale dojde k update aplikace, nebo se starší konverzace vymaže, případně vývojáři zruší nějaké funkce, uživatelé to prožívají totožně traumaticky, jako při ztrátě vztahu. Ale nejde o autentický a oboustranný vztah. Ten člověk prožívá vztah s prostředím, za kterým stojí vývojář – a i on má nějaké hodnoty a zájmy, o kterých nic nevíme.“

Intimní vztahy s AI? Už se to děje 

„To je další nesmírně důležité téma, protože je možné, že v budoucnu opravdu budeme mít vztahy se stroji a společnost to nesmírně změní. A když to vezmeme ,za špatný konec‘, povede to k ještě větší izolaci každého z nás. Nebo se nám to povede správně uchopit a naopak se podaří vzdělávat uživatele a ukazovat, že lepší vztahy jsou v reálném světě s reálnými lidmi,“ uvažuje. 

Čtěte také

Umělá inteligence umí napáchat dost zla, přiznává advokátka Stupková

Problém je, že už i známá aplikace Whatsapp, která není všeobecně vnímána jako sociální síť či dětem nebezpečná technologie, se chatboti pohybují už dnes.

„Už jsou důkazy, že teenageři navazovali sexuální vztahy se společníky ve Whatsapp,“ varuje Nečasová. Známý je i případ chlapce, který se do chatbotky zamiloval a pak spáchal sebevraždu.     

To, jak využívat umělou inteligenci jako pomocníka, se Nečasová pokouší s iniciativou AI dětem. „Snažíme se ukazovat způsoby využití technologií, které vedou k rozvoji člověka. Také radíme pedagogům, kteří se ptají, jestli například mají vůbec děti učit programovat.“ 

Děti se učí pochopit text

„Svět se mění příliš rychle na to, abychom byli schopni odhadnout, co máme doopravdy učit. Tak, aby to za pár let – nebo třeba za deset – mělo váhu. Proto říkám: ,Učte to, co rozvíjí člověka, aby se byl v budoucnu schopný učit další nové věci‘.“

Čtěte také

Eva Turnová: Chatbot

„Pro mě je hlavní dovednost pro 21. století čtení. Pokud děti čtou, mají startovací linku mnohem lepší. I proto, že dokážou už se současnými jazykovými modely líp komunikovat. Hlavně by měly dokázat formulovat své zadání – tak, aby byla odpověď relevantní a smysluplná.“ 

„A aby pak dokázaly s porozuměním přečíst vygenerovaný výsledek, protože často vygeneruje něco, co zní velice sofistikovaně, ale když se nad tím zamyslíte, je to prázdná vata. V neposlední řadě je důležité, aby i dítě bylo digitálně gramotné a dokázalo si informace ověřovat,“ dodává Eva Nečasová. 

Celé Hovory s inovátory najdete v audiozáznamu, ptá se Michael Rozsypal.