Důvodů, proč se bát AI, je relativně hodně, říká Pěchouček z ČVUT. Plusů vidím víc než negativ, míní filozof Payne

Pěchouček nedokáže říct, jestli převažují rizika nad pozitivy umělé inteligence. Vyvíjí se ale podle něj výrazně větší rychlostí, než jsme očekávali.

„Její možnosti, dopady a schopnosti jsou kardinálně vyšší, než kdokoliv z nás čekal před deseti pěti a třeba i dvěma lety. Z tohoto důvodu ne úplně dobře rozumíme všem možným důsledkům takovéhoto exponenciálního rozvoje. Lidstvo je vlastně trochu pozadu ve zkoumání problematik, které se týkají bezpečnosti umělé inteligence, její transparentnosti, explainability,“ naznačuje technický ředitel společnosti Gen Digital (dříve Avast).

Čtěte také

Umělá inteligence je takový psychopat. Vždycky nás nějak obalamutí, říká spisovatelka a architektka Háblová

Podle Payna je potřeba hrozby umělé inteligence, o kterých se mluví, roztřídit.

„Největší hrozba, a čtu to i od odborníků, je, že nás umělá inteligence zcela ovládne, že lidstvo vyhubí a takové podobné představy. Ta je podle mě naprosto bizarní. Mozek funguje úplně na jiných principech než tzv. neuronové sítě. Ty sice používají slovo neuron, ale s neuronem nemají skoro vůbec nic společného,“ popisuje.

Pěchouček nevylučuje možnost rizika, že umělá inteligence převládne nad svými tvůrci. Horizont toho, kdy se to může stát, ale podle něj dělá tuto hrozbu nerelevantní.

„Protože se do té doby velmi pravděpodobně stanou větší hrozby než to, že nás umělá inteligence sežere zaživa,“ naznačuje.

Ohrožení sociálního smíru

Podle Pěchoučka existují tři významné hrozby umělé inteligence. Zcela nejpravděpodobnější je podle něj její zneužití.

„Druhá zásadní hrozba je, že umělá inteligence je všude a lidstvo se na ní stává závislým, že nějaké drobné černé labutě, chyby matrik, mohou být pro lidstvo fatální. A nejzásadnější problém, kterého se bojí lidstvo nejvíc, je změna pracovního trhu. Zní to banálně, ale pokud politická reprezentace v zemích nepřipraví občany na tu zásadní a hrozně rychlou proměnu pracovního trhu, může se stát, že přijdeme o sociální smír. To může mít fatální negativní dopad rozvoje umělé inteligence,“ popisuje.

Čtěte také

Daniel Kroupa: Jen aby nás umělá inteligence nepřipravila o tu přirozenou

Payne souhlasí s tím, že největší hrozbou umělé inteligence je její zneužití. Nesouhlasí ale s ohrožením sociálního smíru v důsledku nahrazení různých profesí.

„Tam to vidím naopak velmi pozitivně. Třeba v medicíně, protože teď lékař, když léčí, tváří se, že všechno ví. On to ale studoval před 20 lety a víme, jak funguje paměť a jak se rychle mění poznatky v medicíně. Když to bude dohledávat, tak to bude trvat třeba týden. Když ale bude mít chatbot na stole, zjistí, kdo se kde s touto diagnózou léčil nedávno, jaké byly úspěchy atd. To je úžasná podpora. Podobně je to u novinářů. Nemyslím, že zaniknou redaktoři, lékaři, ale zaniknou další pomocné profese. Pro ty bude potřeba najít nějaké jiné zaměstnání,“ konstatuje.

Rekvalifikace lidstva se nestihne

Pěchouček souhlasí s tím, že umělá inteligence má řadu benefitů, co se týká třeba zkvalitnění zdravotní péče i efektivity dalších oblastí.

„Je zcela zřejmé, že umělá inteligence v okamžiku, kdy překoná některé etické bariéry pro masivní nasazení v medicíně, ji nejen zjednoduší, ale lékařskou péči dodá stovkám milionů lidí, kteří k ní dnes nemají přístup. To je příklad jasného benefitu AI. Ale zároveň nese tu ztrátu zaměstnání a ta bude v ohromné škále. Školství v žádné zemi není schopno se tak rychle přizpůsobovat technologické změně, kterou AI nastavuje. Česko není žádná výjimka,“ podotýká.

Čtěte také

Umělá inteligence ve školách. Zakazovat, nebo začít efektivně využívat?

„Pozice, které díky umělé inteligenci zmizí, nahradí pozice, pro které bude extrémně těžké se rekvalifikovat. A ve všem hraje roli čas. Bojím se, že změna je natolik rychlá, že rekvalifikace lidstva se prostě nestihne,“ soudí profesor ČVUT.

Podle Payna ale existuje řešení. Nejde přitom o nové řešení, protože, jak připomíná, přišel s ním už Thomas Paine, jeden ze zakladatelů Spojených států amerických.

„Je to tzv. zaručený základní příjem. Svým způsobem ho zavedla Marie Terezie, když zavedla povinné školství pro každé dítě. Je to část peněz, která jde z daní na vzdělání. Umělá inteligence nám teď umožňuje přejít velmi rychle na tento způsob života, který bude opravdovým osvobozením. Je potřeba vymyslet úplně nový systém, třeba jakým způsobem se budou zdaňovat chatboty a podobně,“ naznačuje filosof, bioetik a neurolog Jan Payne.

Poslechněte si celou debatu ze záznamu. Moderuje Karolína Koubová.