Ivan Štern: Umělá inteligence a vedení války
Americká firma Anthropic, která se zabývá rozvojem umělé inteligence, odmítla, aby Pentagon mohl využívat všechny jí vyvinuté technologie.
Vedla ji obava, ponechá-li se vojenské rozhodování v rukou umělé inteligence, jeho důsledky se stanou více než fatálními. V tomto ohledu měla firma o ministerstvu své pochyby. Úřad ji za trest umístil na černou listinu.
Čtěte také
Obavy firmy Anthropic potvrzuje nedávná studie londýnské King´s College. Na rozdíl od člověčího rozhodování, jež koriguje jednak pud sebezáchovy a jednak vědomí odpovědnosti za důsledky každého učiněného rozhodnutí, ničím podobným umělá inteligence netrpí.
Její úvaha se nese výlučně v duchu logiky. Badatele proto nepřekvapilo, dostala-li v počítačových hrách volnou ruku, že válečné konflikty řešila cestou nejjednodušší, nejúčinnější a nejkratší.
Zhruba z 95 procent sahala po taktických jaderných zbraních. U strategických byla o něco opatrnější. Nicméně i zde její rozhodování by bylo zničující a v důsledku toho by vedlo k vyzmizíkování lidstva.
Čtěte také
Je třeba přiznat, že z dějin známe hojné případy, kdy i rozhodování člověka vedlo k fatálním důsledkům jen proto, že daný jedinec si nebyl či nechtěl být vědom odpovědnosti za to, co činí, nicméně vždy tu v záloze zůstával všem živočichům vlastní pud sebezáchovy.
S jadernou hrozbou, jíž se už 80 let lidé drží v šachu a případné konflikty raději řeší zástupnými válkami, kdy dokonce sázejí i na diplomacii, vědomi si toho, že jaderný konflikt nutně povede k zániku lidstva, si umělá inteligence nečinila vůbec žádné vrásky na čele a beze vších štráchů po ní sáhla. Smetla tak rázem celý válečný konflikt.
Vyřešit problém, vyzmizíkovat lidstvo
Studie jako by opisovala z povídky Mrtvá kočka staré více než 60 let. Autorem je český spisovatel Karel Michal. Ač mrtvá, mluvila. Dokonce přemýšlela. Přirozeně jako bytost zbavená pudu sebezáchovy. Byla přece mrtvá. Z téhož důvodu postrádala vědomí odpovědnosti. Mrtvá nemohla a neznala první osobu jednotného čísla.
Čtěte také
Stala se strojem na logické myšlení a vedena jeho přímočarostí vydávala autoritativní výroky. Pro člověčí rozum naprosto překvapivé.
Na dotaz, jak by řešila nákazu obilovin, měla za to, že ideálním řešením je obiloviny nepěstovat. Dosavadní spálit. Nákaza šmahem zmizí. To, že se tak lidstvo zbaví obživy, ji netrápilo. Vyřešila riziko nákazy obilovin a na osud člověka přece dotázána nebyla.
S umělou inteligencí se to má podobně. Dovolíme-li jí samostatně rozhodovat ve válečných konfliktech, vyřeší je sice, nechá ale vyzmizíkovat lidstvo. A bude pak po konfliktu? Bude!
Autor je spolupracovník časopisu Přítomnost
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Vždycky jsem si přál ocitnout se v románu Julese Verna. Teď se mi to splnilo.
Václav Žmolík, moderátor
Tajuplný ostrov
Lincolnův ostrov nikdo nikdy na mapě nenašel, a přece ho znají lidé na celém světě. Už déle než sto třicet let na něm prožívají dobrodružství s pěticí trosečníků, kteří na něm našli útočiště, a hlavně nejedno tajemství.
