Mají ohledně umělé inteligence pravdu proroci soudného dne, nebo vizionáři?

Americký zpravodajský server Politico se ve své nedávné anketě mezi vlivnými osobnostmi z oboru a politiky zaměřil na názorové proudy právě v oblasti bezpečnosti umělé inteligence. Podle autorů přehledu jde o překvapivě kontroverzní téma.

Různé významy „AI safety“

Ukazuje se, že velmi záleží na úhlu pohledu. Zatímco někteří vnímají umělou inteligenci jako potenciální existenční hrozbu pro lidstvo, jiní upozorňují na nezbytnost ochrany dětí nebo rizika masivních ztrát pracovních míst. A jsou tu konečně i tací, kteří naopak varují před regulacemi ve jménu technologického pokroku.

Čtěte také

Julie Hrstková: Umělá inteligence zatím jako zkušenější kolega selhává. Firmy tiše redukují svoje plány na náhradu zaměstnanců stroji

Politico si všímá toho, že termín „AI safety“, tedy „bezpečnost umělé inteligence“, získává pro různé zájmové skupiny odlišné významové odstíny. S tím, jak se tato problematika rozšířila za hranice Silicon Valley, začíná být tento pojem stále méně jednoznačný.

Novináři se obrátilo na celkem dvaceti lidí z oboru nebo těch, kdo mají k dané problematice blízko. Otázka zněla: „Co pro vás znamená pojem bezpečnost umělé inteligence?

Proroci soudného dne

První kategorií respondentů jsou takřečení proroci soudného dne, kteří věří, že další vývoj umělé inteligence by mohl přivodit zánik lidstva. Jedním z nejradikálnějších zastánců úplného zastavení vývoje AI je prezident neziskové organizace Machine Intelligence Research Institute Nate Soares.

Čtěte také

Většina spisovatelů dnes používá AI, míní Kyša. Bažantová: AI upozaďuje osobní prožitek při tvorbě

„Když se řítíte autem k okraji útesu, není ta správná chvíle začít mluvit o bezpečnosti automobilů. Bezpečnost aut znamená bezpečnostní pásy, airbagy nebo deformační zóny, ale nic z toho vás nezachrání, pokud sletíte z útesu,“ odpovídá Soares.

Poukazuje na to, že firmy vyvíjející AI závodí ve snaze vytvořit superinteligenci. Jejich systémy jsou prý přitom „chaotické soubory naučených číselných parametrů“, kterým nerozumí ani jejich vlastní tvůrci.

Evoluční bioložka a zakladatelka amerického hnutí Pause AI Holly Elmoreová nevolá po úplném zastavení vývoje umělé inteligence, žádá ale jeho pozastavení alespoň do doby, než se otázka bezpečnosti uspokojivě vyřeší.

Opatrní katastrofisté

Další skupinou je tábor opatrných katastrofistů – ti sice sdílí velké obavy z umělé inteligence, nejsou ale zastánci teze, že pokračování vývoje nevyhnutelně povede k vyhynutí lidstva. Například filosof Nick Bostrom vidí za pojmem AI safety technickou výzvu k nutnosti sladit superinteligenci s lidskými záměry tak, aby bylo zajištěno, že AI bude jednat v souladu s našimi záměry i poté, co překoná schopnosti lidí.

Čtěte také

AI dětem mění mozky. Budou z nich intelektuální mrzáci a sociální devianti, varuje Halík v debatě

Konzervativci říkají, že je nezbytné mít technické prostředky k zajištění toho, že systémy umělé inteligence zůstanou pod lidským dohledem. Volají taky po důkladném bezpečnostním testování, účinné ochraně dětí a přísné vývozní kontrole.

Šéfka filantropické investiční společnosti Omidyar Network Michele Jawandová vnímá bezpečnost umělé inteligence nejen jako technickou a technologickou výzvu, ale taky jako výzvu pro společnost. Podle ní je potřeba dbát na to, aby nevznikaly systémy koncentrující moc, nýbrž systémy rozšiřující příležitosti. Ty musí být transparentní, důvěryhodné a odpovědné.

Chybí předpisy

Protože jde bezesporu i o téma politické, zeptali se novináři také samotných politiků. Jedním z výrazných amerických zákonodárců, který se otázce umělé inteligence věnuje, je někdejší prezidentský kandidát a nezávislý senátor za stát Vermont Bernie Sanders.

Čtěte také

Martin Horálek: Umělá inteligence pod papežským drobnohledem

„Ve Spojených státech dnes platí přísnější zdravotní a bezpečnostní předpisy pro otevření nového stánku se sendviči než pro uvedení nového modelu umělé inteligence, který může doslova proměnit samotnou podstatu lidského bytí. To je absurdní,“ konstatuje Sanders.

Upozorňuje na potenciál umělé inteligence a robotiky připravit o práci desítky milionů lidí, poškodit kognitivní schopnosti dětí nebo zdevastovat životní prostředí. „Musíme zajistit, aby umělá inteligence sloužila nám všem, nejen miliardářům, kteří ji vlastní,“ dodává senátor.

Aby AI neškodila

Zastánci z řad liberálů považují umělou inteligenci za skutečně transformační technologii, které by vláda měla věnovat daleko více pozornosti. Bývalá ředitelka Úřadu pro vědu a technologii Bílého domu Alondra Nelsonová se domnívá, že bezpečnost AI je tady od toho, aby umělá inteligence lidem neškodila, ale pomáhala.

Čtěte také

Smí vám AI lhát, že máte hezký svetr? Hranice a hodnoty jí nastavují filozofové, vysvětluje Holý

„V zásadě jde o to, zda jsou systémy umělé inteligence chráněny před zaujatostí při rozhodování, odolné vůči manipulaci narušující demokratickou debatu nebo bezpečné pro vývoj mladých lidí,“ říká Nelsonová. Zdůrazňuje, že AI nesmí oslabovat instituce a společenské vazby.

Zakladatel centristicko-liberálního think-tanku Third way Mike Sexton pak formuluje nutnost vytvoření systému posuzování nejpokročilejších modelů umělé inteligence, který by dokázal rozpoznat modely příliš rizikové na to, aby byly uvolněny pro veřejnost.

Zastánci svobody

Na zcela opačném konci spektra než v úvodu zmiňovaní proroci soudného dne stojí zastánci naprosté svobody. Ti se obávají, že přílišná regulace by mohla vést ke zpomalení inovací a oslabení Spojených států na úkor geopolitických soupeřů, zejména Číny.

Čtěte také

Šlerka: Ne všechno je chráněné svobodou slova. Největším cenzorem jsou dnes algoritmy na sítích

„Současný stav rozhodně není bezpečný. Vyšší míru bezpečnosti ale přinese pokrok, nikoli stagnace,“ říká Neil Chilson z neziskové organizace Abundance Institutu. Dean Ball ze společnosti OpenAI, která stojí mimo jiné za aplikací ChatGPT, dokonce sousloví „bezpečnost umělé inteligence“ zcela odmítá.

„Neříkám tím, že bezpečnost AI není důležitá. Naopak tvrdím, že je příliš důležitá na to, aby byla jednoduše nadiktována shora,“ uzavírá pohledem vývojáře server Politico.

Poslechněte si celý Svět ve 20 minutách. Co čekávat od nového britského premiéra Burnhama? Trumpova hrozba stoprocentním clem na generické léky ohrožuje zásobování USA levnými léčivy. Srbští hudebníci doplácejí na podporu protivládních protestů. Někteří už doma prakticky nemohou vystupovat. Víc zápasů, víc kontroverzí: takové bylo mistrovství světa ve fotbale a taková jsou další témata pořadu, který připravila Zuzana Marková.