Důvodů, proč se bát AI, je relativně hodně, říká Pěchouček z ČVUT. Plusů vidím víc než negativ, míní filozof Payne
Šest z deseti Čechů se podle průzkumu společnosti Ipsos obává umělé inteligence. Měl by se pozastavit její vývoj, jak žádají i někteří experti? „Má řadu pozitivních dopadů na naše životy, ale zároveň je to technologie, kterou vyvíjíme bez řádné kontroly. Důvodů, proč se jí bát, je hodně,“ říká Michal Pěchouček z ČVUT v Praze. „Určité hrozby tady jsou, ale je to úžasný nástroj, který změní povahu naší kultury a civilizace,“ míní filozof, bioetik a neurolog Jan Payne.
Pěchouček nedokáže říct, jestli převažují rizika nad pozitivy umělé inteligence. Vyvíjí se ale podle něj výrazně větší rychlostí, než jsme očekávali.
„Její možnosti, dopady a schopnosti jsou kardinálně vyšší, než kdokoliv z nás čekal před deseti pěti a třeba i dvěma lety. Z tohoto důvodu ne úplně dobře rozumíme všem možným důsledkům takovéhoto exponenciálního rozvoje. Lidstvo je vlastně trochu pozadu ve zkoumání problematik, které se týkají bezpečnosti umělé inteligence, její transparentnosti, explainability,“ naznačuje technický ředitel společnosti Gen Digital (dříve Avast).
Čtěte také
Podle Payna je potřeba hrozby umělé inteligence, o kterých se mluví, roztřídit.
„Největší hrozba, a čtu to i od odborníků, je, že nás umělá inteligence zcela ovládne, že lidstvo vyhubí a takové podobné představy. Ta je podle mě naprosto bizarní. Mozek funguje úplně na jiných principech než tzv. neuronové sítě. Ty sice používají slovo neuron, ale s neuronem nemají skoro vůbec nic společného,“ popisuje.
Pěchouček nevylučuje možnost rizika, že umělá inteligence převládne nad svými tvůrci. Horizont toho, kdy se to může stát, ale podle něj dělá tuto hrozbu nerelevantní.
„Protože se do té doby velmi pravděpodobně stanou větší hrozby než to, že nás umělá inteligence sežere zaživa,“ naznačuje.
Ohrožení sociálního smíru
Podle Pěchoučka existují tři významné hrozby umělé inteligence. Zcela nejpravděpodobnější je podle něj její zneužití.
„Druhá zásadní hrozba je, že umělá inteligence je všude a lidstvo se na ní stává závislým, že nějaké drobné černé labutě, chyby matrik, mohou být pro lidstvo fatální. A nejzásadnější problém, kterého se bojí lidstvo nejvíc, je změna pracovního trhu. Zní to banálně, ale pokud politická reprezentace v zemích nepřipraví občany na tu zásadní a hrozně rychlou proměnu pracovního trhu, může se stát, že přijdeme o sociální smír. To může mít fatální negativní dopad rozvoje umělé inteligence,“ popisuje.
Čtěte také
Payne souhlasí s tím, že největší hrozbou umělé inteligence je její zneužití. Nesouhlasí ale s ohrožením sociálního smíru v důsledku nahrazení různých profesí.
„Tam to vidím naopak velmi pozitivně. Třeba v medicíně, protože teď lékař, když léčí, tváří se, že všechno ví. On to ale studoval před 20 lety a víme, jak funguje paměť a jak se rychle mění poznatky v medicíně. Když to bude dohledávat, tak to bude trvat třeba týden. Když ale bude mít chatbot na stole, zjistí, kdo se kde s touto diagnózou léčil nedávno, jaké byly úspěchy atd. To je úžasná podpora. Podobně je to u novinářů. Nemyslím, že zaniknou redaktoři, lékaři, ale zaniknou další pomocné profese. Pro ty bude potřeba najít nějaké jiné zaměstnání,“ konstatuje.
Rekvalifikace lidstva se nestihne
Pěchouček souhlasí s tím, že umělá inteligence má řadu benefitů, co se týká třeba zkvalitnění zdravotní péče i efektivity dalších oblastí.
„Je zcela zřejmé, že umělá inteligence v okamžiku, kdy překoná některé etické bariéry pro masivní nasazení v medicíně, ji nejen zjednoduší, ale lékařskou péči dodá stovkám milionů lidí, kteří k ní dnes nemají přístup. To je příklad jasného benefitu AI. Ale zároveň nese tu ztrátu zaměstnání a ta bude v ohromné škále. Školství v žádné zemi není schopno se tak rychle přizpůsobovat technologické změně, kterou AI nastavuje. Česko není žádná výjimka,“ podotýká.
Čtěte také
„Pozice, které díky umělé inteligenci zmizí, nahradí pozice, pro které bude extrémně těžké se rekvalifikovat. A ve všem hraje roli čas. Bojím se, že změna je natolik rychlá, že rekvalifikace lidstva se prostě nestihne,“ soudí profesor ČVUT.
Podle Payna ale existuje řešení. Nejde přitom o nové řešení, protože, jak připomíná, přišel s ním už Thomas Paine, jeden ze zakladatelů Spojených států amerických.
„Je to tzv. zaručený základní příjem. Svým způsobem ho zavedla Marie Terezie, když zavedla povinné školství pro každé dítě. Je to část peněz, která jde z daní na vzdělání. Umělá inteligence nám teď umožňuje přejít velmi rychle na tento způsob života, který bude opravdovým osvobozením. Je potřeba vymyslet úplně nový systém, třeba jakým způsobem se budou zdaňovat chatboty a podobně,“ naznačuje filosof, bioetik a neurolog Jan Payne.
Poslechněte si celou debatu ze záznamu. Moderuje Karolína Koubová.
Související
-
Chatbot neví, co mluví. Není to umělá inteligence, jen generuje naučené texty, vysvětluje expert
„Může se jevit, že vám vrátí velice smysluplný text, ale je to jen výsledek velice sofistikované statistiky. A i tyto stroje dělají velké chyby,“ říká Josef Holý.
-
Masarykova univerzita podporuje studenty ve využívání AI. „Inspirace pro ostatní,“ hodnotí Koubský
Masarykova univerzita vydala stanovisko k používání umělé inteligence jejich studenty i pedagogy.
-
Budoucnost AI může být i taková, že vliv lidí na rozhodování postupně klesne k nule, varuje odborník
Jaká jsou rizika a jaké přínosy umělé inteligence? Debatují odborník na AI Jan Kulveit a technický ředitel evropské sekce IBM Martin Švík.
Více z pořadu
E-shop Českého rozhlasu
Hurvínek? A od Nepila? Teda taťuldo, to zírám...
Jan Kovařík, moderátor Českého rozhlasu Dvojka
3 x Hurvínkovy příhody
„Raději malé uměníčko dobře, nežli velké špatně.“ Josef Skupa, zakladatel Divadla Spejbla a Hurvínka