AI dnes ještě neumí zpracovávat podněty ze svého okolí. A možná to nezvládne nikdy, míní experti

„Z technického hlediska je ta hrozba reálná. Otázka je, jestli k tomu vývoj umělé inteligence dojde. A potom jestli tam bude nějaký spouštěcí mechanismus, který musí vejít od člověka,“ uvažuje Foltýnek z Masarykovy univerzity. „Je to podobné jako s jadernou energií. Jaderných zbraní už je dnes na světě tolik, že to může planetu zničit – ale musí tam být někdo, kdo to spustí.“

Čtěte také

AI musí být užitečná, potřebuje moc energie, míní šéf Microsoftu. Koubský: Ano, ať je užitečná hodně

Dosavadní vývoj navíc podle něj ještě není v té fázi, aby mohla umělá inteligence ohrožovat lidstvo. Všechno učení probíhá pod dohledem člověka, výstupy jsou pečlivě kontrolovány, a i když dojde k překvapivému vývoji, dá se alespoň zpětně vysledovat, jakým způsobem AI postupovala.

„Generativní jazykové modely dneska dokážou psát kód, ale v rozumné softwarové firmě je potom proces revize kódu a testování, než dojde k nasazení,“ pokračuje.

„Člověk řekne: ‚Teď se, systéme, chovej, jak sám uznáš za vhodné.‘ A doufejme, že ten člověk potom má možnost zmáčknout červené tlačítko a říct: ‚Už se tak přestaň chovat, už se dostáváme někam, kam jsme se dostat nechtěli‘,“ říká.

Odpovědnost na bedrech člověka

Stejný princip je uplatňován i ve zdravotnictví, kde se umělá inteligence dlouhodobě a s velkou úspěšností uplatňuje například v radiologii.

„Je to oblast lidské činnosti, která je velice striktně regulovaná. Stejně jako jsou regulované léky, platí regulace i pro využití nástrojů umělé inteligence. Zodpovědnost ale minimálně v současné době v Evropě a Americe leží na lékařích,“ zdůrazňuje Nováček, který také působí na Masarykově univerzitě.

Čtěte také

Používání AI změní ekonomiku. Bude to jako nahradit chůzi jízdou autem, přirovnává ekonom Marek

Důvodem je, že žádný model nemůže být stoprocentně bezchybný a je potřeba, aby byl v procesu léčby přítomen člověk, který případnou chybu odhalí a včas zabrání jejím negativním důsledkům. Zdravotnictví navíc kromě přesnosti a odbornosti vyžaduje také empatii a lidskou sounáležitost, která algoritmům chybí.

„Ať uděláme sebelepší model, nikdy nebude mít úplně 100procentní úspěšnost –  ale ani lékaři nejsou neomylní,“ srovnává Nováček.

„Další otázka je dostupnost zdravotní péče. V Evropě jsme v pohodě, když máme nemoc, tak se najde někdo, kdo nám s tím pomůže. Ne všude na světě to tak je a umělá inteligence, která může být horší než doktor, může být pořád lepší než žádný doktor.“

Stát se součástí reálného světa

Omezená spolehlivost i možná manipulovatelnost ze strany vývojářů nebo programátorů, stejně jako nepřesvědčivá definice je podle obou odborníků překážkou ke vzniku takzvané superinteligence.

Čtěte také

Našli jsme nepřesnosti ve filmu Kód Enigmy! Třeba o Tuňákovi v něm není ani slovo

„Jeden ze zakladatelů informatiky Alan Turing definoval pojem umělá inteligence – to je známý Tůringův test. Člověka považoval a priori za inteligentní bytost a řekl, že stroj budeme považovat za inteligentní, když jeho výstupy nebude možné rozlišit od toho, co by řekl člověk. Tady už dneska jsme,“ přibližuje Foltýnek.

„Ale inteligence se neprojevuje jenom tím, že něco říkám, ale i tím, že dokážu zpracovávat podněty ze svého okolí. Tím se posouváme do roviny takzvané obecné umělé inteligence. A tam ještě nejsme.“

Veškerá znalost jazykových modelů je v tuto chvíli zprostředkovaná lidmi, jejich názory a internetovými příspěvky. Žádný z algoritmů ale neinteraguje s reálným světem. Kromě skutečné empirické zkušenosti jim ale chybí i emoční inteligence a prožívání obecně, které tvoří velkou část mezilidských interakcí, zdůrazňuje expert.

Čtěte také

Rage bait, parasocial nebo AI slop. Antropoložka vysvětluje slova roku, ukazují nadvládu technologií

„Nejsem si jistý, jestli nám principy, na kterých je založena aktuální technologie, umožní se tam dostat, jestli není potřeba nějaké další revoluce, která by umělé neuronové sítě, které stojí za současným úspěchem, doplnila něčím, co umožní umělé inteligenci opravdu stát se součástí tohoto světa,“ souhlasí Nováček.

„AI si může přečíst romány o tom, jak lidi cítí, ale je to jenom zprostředkovaná věc, neprožije to. Teprve v momentu, kdy bude bezprostředně vystavena reálnému světu, to začne být zajímavé,“ uzavírá.

Jak se dá zneužít AI? Může umělá inteligence převzít odpovědnost za svá rozhodnutí? A jak relevantní data generativní modely dostávají? Poslechněte si celou diskusi, moderuje Karolína Antlová.

V první části Vertikály uslyšíte, kvůli jakému zážitku dnes podle průzkumu agentury STEM/MARK vstupují lidé do kostela. Jak propojuje americký prezident Donald Trump svou imigrační politiku a víru? Novinkami provází Adam Šindelář.