AI chatboti si vymýšlí až v polovině případů. Koubský: Lidé jim věří, to je skutečně velký problém
AI asistenti nejsou příliš důvěryhodným zdrojem zpravodajských informací. Upozornila na to studie Evropské vysílací unie EBU, na které se podílela veřejnoprávní média v 22 zemích světa včetně Českého rozhlasu. „Potíž je v tom, že široká veřejnost nečte výsledky podobných studií. A i kdyby je četla, tak je velice rychle pustí z hlavy a bude dál chatbotům důvěřovat,“ stýská si v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
Ve studii dávali AI chatboti neúplné nebo nesprávné informace v průměru v 45 procentech případů. Nejčastěji šlo o problémy s uváděním zdrojů informací, které byly nesprávné skoro u třetiny odpovědí. „Je to hodně. Je to víc, než bych čekal,“ přiznává Koubský.
Čtěte také
Nejhorší byl v tomto ohledu chatbot Gemini od firmy Google, který chybně zdrojoval v 72 procentech odpovědí. Ostatní zkoumaní chatboti – Chat GPT, Copilot a Perplexity – měli míru chybovosti ve zdrojování pod 25 procent.
Studie zkoumala jejich zdarma dostupné verze a hodnotila přesnost odpovědí, zdrojování, rozlišování faktů od názorů či poskytování kontextu.
„Potíž je v tom, že široká veřejnost nečte výsledky podobných studií. A i kdyby je četla, tak velice rychle pustí z hlavy, co si tam přečetla, a bude dál těm chatbotům důvěřovat,“ upozorňuje vědecký redaktor a vysvětluje, proč uživatelům chybovost nástroje nevadí:
„Je to velmi pohodlný způsob, jak získávat odpovědi. A to je problém daleko hlubší než to, že sama technologie selhává. Skutečný problém je společenský, nikoliv technický.“
„Bez výhrad“
Výzkum Evropské vysílací unie zmiňuje také studii, kterou ve Velké Británii provedla tamní BBC. Podle jejího výzkumu více než třetina uživatelů ve Velké Británii zprávám z chatbotů věří úplně bez výhrad.
Čtěte také
„Docela mě fascinuje, že v dnešní době někdo čemukoliv věří úplně bez výhrad. To je věc, která by s bohatými zkušenostmi z digitálního světa vůbec už neměla existovat. A ona existuje – a ve velkém rozsahu,“ upozorňuje Koubský.
„Tohle není technologický problém, tohle je sociologický a politický problém. A je velký, protože to znamená, že spoustu lidí, možná většinu společnosti lze oblafnout a zmanipulovat snáze, než by se zdálo, což je trochu hloupá situace. A kdybych věděl, co s tím – to by byla věc, kdybych to věděl...! Myslím si, že to neví nikdo na světě,“ varuje vědecký redaktor.
Proč bude Chat GPT moct navazovat erotické konverzace? Proč se Netflix rozhodl spustit na své platformě podcasty? A jak bude vypadat nový prohlížeč od Open AI? Poslechněte si celý díl pořadu Online Plus ze záznamu v úvodu článku.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Vždycky jsem si přál ocitnout se v románu Julese Verna. Teď se mi to splnilo.
Václav Žmolík, moderátor
Tajuplný ostrov
Lincolnův ostrov nikdo nikdy na mapě nenašel, a přece ho znají lidé na celém světě. Už déle než sto třicet let na něm prožívají dobrodružství s pěticí trosečníků, kteří na něm našli útočiště, a hlavně nejedno tajemství.
