Texty vytvořené AI nelze bezpečně odlišit od výtvorů lidí, tvrdí výzkumníci
Texty vytvořené umělou inteligencí se nedají bezpečně rozpoznat od výtvorů lidí. Na základě své studie to tvrdí výzkumníci z americké univerzity v Marylandu. Podle jejich testů při detekci zklamaly všechny dnes nejpoužívanější metody od zkoumání textů jinou neuronovou sítí až po tzv. watermarking, tedy metodu, při které se do textu vkládají člověkem nerozpoznatelné signály, ze kterých má být možné určit, že text vytvořil stroj.
I watermarking je ale podle výzkumníků možné přelstít jednoduchým parafrázováním textu. Označení má být možné také úplně podvrhnout. Možná tak nebudeme nikdy schopni přesně rozlišit, jestli text psal člověk nebo AI, konstatují výzkumníci.
Čtěte také
„Já bych nad tou možností ještě nelámal hůl. Je klidně možné, že se na něco nového zajímavého v tomto směru přijde, ale spíš mě ten výsledek nepřekvapuje a připadá mi logický,“ hodnotí redaktor Deníku N Petr Koubský.
„Generativní systémy umělé inteligence jsou postaveny tak, aby co nejvíc napodobovali lidský textový písemný projev, a tudíž mi připadá logické, že odlišit to, co dělá člověk, od toho, co dělá jeho nejkvalitnější možná nápodoba, je velice obtížné,“ dodává.
Chystaná regulace umělé inteligence v Evropě, blokování twitterových účtů v Turecku a označování AI obrázků ve vyhledávání Googlu. To jsou další témata pravidelného přehledu dění ve světě počítačů a internetu, kterým vás provede David Slížek. Poslechněte si celý Online Plus v audiozáznamu.
Související
-
Masarykova univerzita podporuje studenty ve využívání AI. „Inspirace pro ostatní,“ hodnotí Koubský
Masarykova univerzita vydala stanovisko k používání umělé inteligence jejich studenty i pedagogy.
-
Důvodů k obavám z AI je hodně, říká Pěchouček z ČVUT. Plusů je víc než negativ, míní filozof Payne
Šest z deseti Čechů se podle průzkumu obává umělé inteligence. „Určité hrozby tady jsou, ale je to úžasný nástroj,“ míní filozof, bioetik a neurolog Jan Payne.
-
Budoucnost AI může být i taková, že vliv lidí na rozhodování postupně klesne k nule, varuje odborník
Jaká jsou rizika a jaké přínosy umělé inteligence? Debatují odborník na AI Jan Kulveit a technický ředitel evropské sekce IBM Martin Švík.
Více z pořadu
E-shop Českého rozhlasu
Hurvínek? A od Nepila? Teda taťuldo, to zírám...
Jan Kovařík, moderátor Českého rozhlasu Dvojka
3 x Hurvínkovy příhody
„Raději malé uměníčko dobře, nežli velké špatně.“ Josef Skupa, zakladatel Divadla Spejbla a Hurvínka