Petr Šabata: Zlehčování rizik umělé inteligence z úst amerického viceprezidenta je varující
Americký viceprezident J. D. Vance přednesl na turné po Evropě nikoli jeden, ale hned dva znepokojivé projevy. Na Mnichovské bezpečnostní konferenci zaútočil na evropskou demokracii, takřka se nezmínil o řešení ruské agrese na Ukrajinu a sklidil za to ostrou kritiku.
Nezaslouženě menší pozornosti se dostalo jeho vystoupení na summitu o umělé inteligenci (AI) v Paříži, které bylo z dlouhodobého hlediska snad ještě hrozivější. J. D. Vance varoval před regulací AI a před ideologickými zásahy do jejího fungování.
Čtěte také
„Potřebujeme regulační rámce, které podporují vývoj technologie, a ne ji potírají,“ uvedl Vance. Spojené státy se pak nepřipojily k šedesáti zemím včetně České republiky, Německa, Indie nebo Číny, které podepsaly deklaraci o umělé inteligenci, která má být otevřená, etická, bezpečná a důvěryhodná.
Trump a Musk chtěli OpenAI koupit
Americký prezident Donald Trump už odstranil regulace AI prosazené za Joea Bidena. A jeho spolupracovník Elon Musk se pokusil koupit společnost OpenAI, která stojí za jazykovým modelem s prvky umělé inteligence ChatGPT a která původně vznikla jako nezisková výzkumná laboratoř s cílem vytvořit AI bezpečnou a prospěšnou lidstvu.
Čtěte také
Z Vancových výroků se jistě nedá vyvozovat, že lidé kolem Trumpa chtějí ovládnout svět pomocí umělé inteligence. Ale jako výzvu k předběžné opatrnosti je také číst nelze.
Prezident Petr Pavel se v Paříži sešel s jedním ze šéfů zmíněné společnosti OpenAI a schůzku komentoval: „Je důležité, aby vlády a technologické firmy spolupracovaly na bezpečném zavádění umělé inteligence a jejím správném a bezpečném používání.“
V roce 2020 vyhodnotil oxfordský profesor Toby Ord v knize Nad prospatí, že umělá inteligence nesladěná s hodnotami člověka je největší existenční riziko pro lidstvo vůbec. Pradvěpodobnost naplnění této hrozby odhadl v poměru 1:10, zatímco například u jaderné války je poměr 1:1000, stejně tak u změny klimatu a uměle vytvořená pandemie hrozí lidstvu v poměru 1:30.
Umělá inteligence má slabiny
Za těmito odhady jsou výzkumy a obsáhlé konzultace jeho týmu se špičkovými odborníky.
Čtěte také
K umělé inteligenci Ord píše: „Průměrný úsudek odborníků v této oblastí zní, že existuje šance přibližně 1:2, že v nejbližších sto letech budou vyvinuti agenti AI, kteří budou schopni provést téměř jakýkoliv úkol lépe než lidé. A pokud k tomu dojde, nebylo by velké překvapení, kdyby tito agenti převzali do svých rukou i naši budocnost.“
Psáno před pěti lety, ještě než přišla revoluce jazykových modelů.
Petr Koubský v Deníku N teď upozornil na výzkum vědců z univerzity v Šanghaji, kteří naučili dva jazykové modely vytvořit funkční kopii sebe sama. AI se tak poprvé může samovolně „rozmnožovat“ bez zásahu člověka, píše Koubský.
A cituje čínské vědce, kteří pracovali s jazykovými modely Llama od společnosti Meta a Qwen čínské Alibaby: „Špičkové systémy AI by mohly převzít ovládání počítačových systémů, vytvořit vlastní druh života a spolčit se proti lidem. Naše zjištění je včasným varováním před těmito riziky umělé inteligence. Volá po mezinárodní spolupráci v oblasti efektivní kontroly nad neřízeným rozmnožováním AI systémů.“
Proto je projev J. D. Vance a přístup lidí kolem Trumpa k umělé inteligenci tak alarmující.
Autor je šéfredaktor deníku Právo
Více z pořadu
E-shop Českého rozhlasu
Hurvínek? A s poslední rozhlasovou nahrávkou Josefa Skupy? Teda taťuldo, to zírám...
Jan Kovařík, moderátor Českého rozhlasu Dvojka
Hurvínkovy příhody 5
„Raději malé uměníčko dobře, nežli velké špatně.“ Josef Skupa, zakladatel Divadla Spejbla a Hurvínka
