AI chatboti si vymýšlí až v polovině případů. Koubský: Lidé jim věří, to je skutečně velký problém
AI asistenti nejsou příliš důvěryhodným zdrojem zpravodajských informací. Upozornila na to studie Evropské vysílací unie EBU, na které se podílela veřejnoprávní média v 22 zemích světa včetně Českého rozhlasu. „Potíž je v tom, že široká veřejnost nečte výsledky podobných studií. A i kdyby je četla, tak je velice rychle pustí z hlavy a bude dál chatbotům důvěřovat,“ stýská si v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
Ve studii dávali AI chatboti neúplné nebo nesprávné informace v průměru v 45 procentech případů. Nejčastěji šlo o problémy s uváděním zdrojů informací, které byly nesprávné skoro u třetiny odpovědí. „Je to hodně. Je to víc, než bych čekal,“ přiznává Koubský.
Čtěte také
Nejhorší byl v tomto ohledu chatbot Gemini od firmy Google, který chybně zdrojoval v 72 procentech odpovědí. Ostatní zkoumaní chatboti – Chat GPT, Copilot a Perplexity – měli míru chybovosti ve zdrojování pod 25 procent.
Studie zkoumala jejich zdarma dostupné verze a hodnotila přesnost odpovědí, zdrojování, rozlišování faktů od názorů či poskytování kontextu.
„Potíž je v tom, že široká veřejnost nečte výsledky podobných studií. A i kdyby je četla, tak velice rychle pustí z hlavy, co si tam přečetla, a bude dál těm chatbotům důvěřovat,“ upozorňuje vědecký redaktor a vysvětluje, proč uživatelům chybovost nástroje nevadí:
„Je to velmi pohodlný způsob, jak získávat odpovědi. A to je problém daleko hlubší než to, že sama technologie selhává. Skutečný problém je společenský, nikoliv technický.“
„Bez výhrad“
Výzkum Evropské vysílací unie zmiňuje také studii, kterou ve Velké Británii provedla tamní BBC. Podle jejího výzkumu více než třetina uživatelů ve Velké Británii zprávám z chatbotů věří úplně bez výhrad.
Čtěte také
„Docela mě fascinuje, že v dnešní době někdo čemukoliv věří úplně bez výhrad. To je věc, která by s bohatými zkušenostmi z digitálního světa vůbec už neměla existovat. A ona existuje – a ve velkém rozsahu,“ upozorňuje Koubský.
„Tohle není technologický problém, tohle je sociologický a politický problém. A je velký, protože to znamená, že spoustu lidí, možná většinu společnosti lze oblafnout a zmanipulovat snáze, než by se zdálo, což je trochu hloupá situace. A kdybych věděl, co s tím – to by byla věc, kdybych to věděl...! Myslím si, že to neví nikdo na světě,“ varuje vědecký redaktor.
Proč bude Chat GPT moct navazovat erotické konverzace? Proč se Netflix rozhodl spustit na své platformě podcasty? A jak bude vypadat nový prohlížeč od Open AI? Poslechněte si celý díl pořadu Online Plus ze záznamu v úvodu článku.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Závěr příběhu staré Karviné, který měl zůstat pod zemí
Karin Lednická, spisovatelka
Šikmý kostel 3
Románová kronika ztraceného města - léta 1945–1961. Karin Lednická předkládá do značné míry převratný, dosavadní paradigma měnící obraz hornického regionu, jehož zahlazenou historii stále překrývá tlustá vrstva mýtů a zakořeněných stereotypů o „černé zemi a rudém kraji“.
