Hrozí, že kvůli AI přestanou státy potřebovat své občany a budou méně demokratickými, varuje Kulveit

Posledním kamínkem, který uvolnil lavinu obav, prý byla rezignace výzkumníka Jacoba Coxona, který působil ve firmách Anthropic a předtím i v OpenAI. Obě nejvýznamnější společnosti ve vývoji AI si podle něj nepočínají zodpovědně a zahrávají si osudem lidské civilizace.

„Dávno už není pravda, že modely umí jen to, co se do nich vloží. V řadě ohledů už přesahují lidské schopnosti. Podařilo se vyřešit jeden z matematických problémů tisíciletí, o což se matematici snažili 90 let,“ připomíná expert, který se v Centru teoretických studií zabývá výzkumem komplexním systémů složeným z lidí a umělých inteligencí.

Čtěte také

iROZHLAS

Americké firmy na umělou inteligenci prověřují desítky tisíc případů, kdy se systémy vymkly kontrole

Kulveit vysvětluje, že modely se během procesu trénování a řešení úloh učí být v lepším případě kreativní, v tom horším se ale stávají nebezpečnými, jak ukázal incident se systémem společnosti Hugging Face: „Tam jsme viděli až urputnou snahu AI zjistit, jak vypadá program, který hodnotí řešení úlohy, s cílem ho hacknout.“

Komentátor David Klimeš si všímá toho, že Anthropic se v dokumentech před vstupem na burzu v neobvyklé míře věnuje rizikům umělé inteligence. Zaznívají také paralely s regulací rozvoje jaderných zbraní, která ovšem historicky fungovala jen ruku v ruce s kontrolou a transparentností všech zúčastněných.

„Je důležité se shodnout na regulacích, aby to nedopadlo tak, že před koncem lidstva ještě vznikne pár skvěle evaluovaných firem. Koneckonců v Evropě jsme odborníci na regulace všeho druhu, tak můžeme něčím příspět,“ glosuje.

Systémový problém

Podle Apoleny Rychlíkové, šéfredaktorky platformy Page Not Found, je zavedení jakékoli regulace obtížné, protože minimálně Spojené státy vnímají AI jako strategickou technologii. „Sledujeme nový typ propojení státu a technologických firem, kdy se zlepšují schopnosti sledování lidí. Dobře je to vidět na propojení Palantiru s americkým imigračním úřadem ICE,“ upozorňuje.

Čtěte také

Zpomalíme tempo vývoje AI modelů? Koubský: Firmy se nedomluví mezi sebou v Americe, natož s Čínou

„Evropa se stále neprobudila a nechápe, že ji to existenčně ohrožuje. Nevyvíjí se tu špičková AI, nejsou tu datacentra. Ještě to můžeme změnit, ale musela by se tomu věnovat asi taková veřejná pozornost jako covidu na vrcholu pandemie. Pěna dní to úplně pohřbí,“ zoufá si Kulveit.

Expert také varuje před zdánlivě pozitivním scénářem, kdy se umělá inteligence sice nevymkne kontrole, ale ve většině ekonomických činnosti nahradí člověka. Státy už nebudou tolik záviset na svých občanech, což historicky vedlo k rozšiřování jejich práv.

„Pokud nás státy přestanou potřebovat, hrozí, že se stanou výrazně méně demokratickými. Tento systémový efekt, kdy poklesne hodnota vaší práce a nebudete potřeba ani v armádě, tak oslabí naše vyjednávací síla. To považujeme za jedno z největších nebezpečí AI,“ uzavírá.

Poslechněte si celý politický pořad Chyba systému. Najdete ho na webu Českého rozhlasu Plus, v aplikaci mujRozhlas a v dalších podcastových aplikacích. Ve vysílání Plusu v sobotu 3. října po 11. hodině a v neděli 4. října po 15.30.