Petr Šabata: Jaké nebezpečí hrozí lidstvu od umělé inteligence
Je teď pravděpodobnější, že lidstvo zničí jaderná válka, nebo umělá inteligence? Obě hrozby jsou aktuální – jaderná vinou ruského prezidenta Putina, který po agresi na Ukrajině plánuje rozmístit v Bělorusku taktické jaderné zbraně a pozastavil účast Ruska na smlouvě, která omezuje počet hlavic a upravuje vzájemnou kontrolu s USA.
Na nebezpečí plynoucí z rychlého rozvoje umělé inteligence (Artificial Intelligence, AI) upozorňuje prohlášení, jehož autoři mluví o „hlubokém riziku pro společnost a lidstvo“.
Čtěte také
Mezi více než 50 tisíci signatáři jsou nejen majitel Tesly Elon Musk, filozof Yuval Harari, nebo spoluzakladatel Applu Steve Wozniak, ale také Yoshua Bengio, profesor z Montrealu a jeden z otců moderní AI, nebo Stuart Russel – profesor na Kalifornské univerzitě a autor nejrespektovanější učebnice – a akademici z nejprestižnějších univerzit světa, softwaroví inženýři i majitelé firem vyvíjející AI. Seznam je to impozantní.
Vicepremiér pro digitalizaci Ivan Bartoš reagoval slovy: „Lidé se nemají čeho bát. Někteří si umělou inteligenci pletou s Terminátorem.“ A připomněl, že se všechny země Evropské unie shodují na potřebě regulace.
Regulátoři proti vývojářům
Skvělou analýzu takových rizik podal v roce 2020 v knize Nad propastí – Existenční riziko a budoucnost lidstva – profesor z Oxfordu Toby Ord. Do hloubky prozkoumal jednotlivé hrozby a s vědeckou obezřetností sestavil jejich žebříček.
Čtěte také
Pravděpodobnost jaderné války a zánik celého lidstva v příštích sto letech je podle něj asi 1:1 000, ovšem u umělé inteligence nesladěné s lidskými hodnotami je 1:10, tedy řádově vyšší. Zničení celého lidstva změnou klimatu vychází v poměru 1:1 000 jako u jaderné války, u uměle vyvolané pandemie 1:30 a u dopadu asteroidu či komety na Zemi pak 1:1 000 000.
Umělá inteligence změní trh práce, pomáhá vytvářet falešné hlasy i videa a dezinformace, Europol varoval, že ChatGPT a další chatovací roboty je možné zneužít ke kriminálním aktivitám. Profesor Ord se obává něčeho jiného – že obecná umělá inteligence převezme vládu nad budoucností. „Přechod ke světu, v němž už lidé nebudou nejinteligentnějšími entitami, by byl pro roli a smysl lidí zřejmě největší změna v historii,“ píše oxfordský profesor.
Čtěte také
A spíš než regulaci doporučuje ve shodě s dalšími experty na AI (například se zmíněným Stuartem Russelem) slaďování hodnot a cílů umělé inteligence s těmi lidskými. Tedy ovlivňování vývoje umělé inteligence tak, aby bezpečně pro lidi pracovala a nesnažila se ovládnout svět.
Varující prohlášení zveřejnili jeho autoři v těchto dnech proto, že společnost OpenAI přišla s novou generací textového modelu GPT, jehož předchozí verzi používají miliony lidí, a na podobných nástrojích pracují i Facebook, Google nebo Microsoft. Kritici výzvy namítají nejspíš správně, že hlavní požadavek vážených profesorů – pozastavit vývoj AI a času využít k posílení bezpečnosti a regulaci – je prakticky neproveditelný.
Pokud ovšem záleží budoucnost lidstva na výsledku závodu regulátoři proti vývojářům největších světových firem, je to zneklidňující zpráva. Evropská komise už připravila první návrhy regulace včetně zákona o umělé inteligenci. Ale víme, jak pomalé jsou nejen v EU legislativní procesy. Leda že by se zákony o regulaci umělé inteligence pomohla bruselským úředníkům i členským zemím – umělá inteligence.
Autor je zástupce šéfredaktora deníku Právo
Více z pořadu
E-shop Českého rozhlasu
Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!
Jan Rosák, moderátor
Slovo nad zlato
Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.
