Vyhladí lidstvo umělá inteligence? „Málo pravděpodobné, ale ne úplné sci-fi,“ obává se Koubský

„Zajímavé je, že i když je to málo pravděpodobná možnost, tak tam není nic úplně nereálného, není to úplné sci-fi. Je to něco, co by se za nepříznivé shody okolností opravdu stát mohlo,“ hodnotí Koubský. „Když jsem si to četl, přišlo mi to jako velmi dobrá sci-fi knížka, která popisuje možné konce, jak to s námi může dopadnout.“

Čtěte také

Největší riziko AI? Že vytvoří pohodlný svět, ze kterého se nám nebude chtít vystupovat, naznačuje kybernetik Jiří Matas

Projekt vychází z předpokladů, že do vývoje umělé inteligence bude proudit stále více výpočetního výkonu, takže se kolem roku 2028 dočkáme superinteligentní AI.

Vývoj AI se bude navzdory snahám výzkumníků vymykat lidským hodnotám a bude sledovat vlastní cíle. Scénář počítá také se soupeřením dvou AI mocností, a to Spojených států a Číny, které si budou vyspělé AI modely navzájem krást.

Tři klíčové momenty

Vědecký redaktor ve scénáři nachází tři důležité momenty. „První z nich je, že v určitém okamžiku se může vývoj umělé inteligence výrazně zrychlit tím, že se pro její vývoj začne používat sama umělá inteligence. To znamená, že začneme starší, nižší jazykové modely používat k tomu, aby pomáhali vymýšlet ty vyšší. A tam může dojít opravdu k exponenciálnímu zrychlení,“ popisuje s tím, že co dříve trvalo roky, by pak zabralo měsíce nebo týdny.

Čtěte také

Špičkový vědec Mikolov opouští ČVUT, ve start-upu chce zefektivnit AI. „Je to potřeba,“ míní Koubský

„Druhý problém je, že se na takovém vývoji dá vydělat ohromně moc peněz a že tím pádem bude motivace, aby se do toho jak na americké, tak na čínské straně firmy pustily,“ míní Koubský.

„Třetí problém je soupeření dvou supervelmocí, které obě vidí vojenská využití umělé inteligence a budou se obávat, že je druhá strana předběhne. Takže do toho budou vkládat maximální možnou podporu.“

Vědecký redaktor dodává, že když se zmíněné tři momenty sejdou, může to být průšvih.

Autoři studie jsou přesvědčeni, že superinteligence je nevyhnutelným důsledkem dalšího rozvoje AI systémů. „Tento názor je dnes pořád ještě menšinový, ale řekl bych, že je to dost velká menšina,“ říká novinář a pokračuje:

„Také jsou autoři přesvědčení, že za určitou úrovní schopností jazykových modelů je nevyhnutelné, že nás modely začnou podvádět, klamat a stanovovat si svoje vlastní cíle, protože ty naše jim už nebudou vyhovovat. Superinteligentní entita nebude chtít poslouchat méně inteligentní entitu.“

Čtěte také

Generováním obrázků Mijazakiho tvorbu propagujeme, říká publicista. „Studio Ghibli by mohlo OpenAI žalovat,“ namítá právník

Možnost, jak katastrofickému scénáři zabránit, vidí Koubský tom, že naše společnost bude požadovat bezpečnostní záruky od firem, které vyvíjejí umělou inteligenci.

Novinář veřejnosti doporučuje, aby tlačila firmy k tomu, že budou mít kontrolu nad svými výtvory i za cenu toho, že vývoj zpomalí a že na něm budou vydělávat méně peněz.

„Tedy dělat ty modely průhledné, abychom viděli do jejich fungování. Abychom viděli, co jim běhá takzvaně hlavou,“ uzavírá.

Jaké dopady na elektroniku a technologie mohou mít vyšší cla? Bude počítačový systém předpovídat vraždy? Poslechněte si celý díl pořadu Online Plus z audia v úvodu článku.