Analytik: Neexistuje tlačítko, které vypne AI. Jistá kontrola možná je, průkopníkem regulací je Čína
Po návštěvě Si Ťin-pchinga v Bílém domě se ukazuje, že vývoj AI se stává klíčovým faktorem v boji o technologické prvenství. Dlouhodobými soupeři v této oblasti jsou USA a Čína, Evropa zaostává daleko za nimi. Jak velký náskok mají Spojené státy před Čínou? „Řekl bych několik let. Čína naopak vede v množství udělených patentů,“ přibližuje v Ranním Plusu analytik Ústavu mezinárodních vztahů Jan Švec.
Kdo má dnes v oblasti umělé inteligence náskok? Je pravda, že v tom jsou Spojené státy před Čínou možná o rok napřed?
Řekl bych i o několik let. Spojené státy vedou ve výpočetní infrastruktuře, v nejvýkonnějších čipech i v inovacích. Jen minimální rozdíly jsou pak ve výkonu nejlepších amerických a čínských modelů.
Čtěte také
Kde naopak vede Čína, to je množství odborných publikací a množství udělených patentů. Spojené státy ale stále vedou v počtu patentů s vyšším dopadem.
Americký prezident Donald Trump označil varování před nebezpečím umělé inteligence v OSN za mystifikaci nebo fake news a teď zopakoval, že je proti jejímu zpomalení. Jaký je čínský postoj?
Čína je průkopníkem v regulacích umělé inteligence, patří mezi nejrozsáhlejší na světě. Částečně řeší samozřejmě politickou kontrolu včetně cenzury a povinnosti poskytovat data státu, ale zároveň je pravda, že řeší i skutečná rizika, například klamavý obsah, úniky dat a podobně.
Mezinárodně se ale Čína snaží prosazovat představu o pokračujícím rozvoji a sdílení technologií spíše proto, že nemá důvod prosazovat celosvětové zpomalení vývoje umělé inteligence. To by totiž mohlo zakonzervovat právě náskok Spojených států a omezit čínský rozvoj.
Čtěte také
Je vůbec možné vytvořit institucionální rámec pro regulaci AI, který by dokázal její zpomalení nebo zmrazení zajistit? To by asi musely být hodně robustní kontrolní mechanismy, ne?
Jistá míra kontroly možná je, ale představa globálního červeného tlačítka, které po stisknutí vypne umělou inteligenci, to je nesmysl. Modely běží ve více cloudech, některé zveřejněné modely lze provozovat i lokálně. A plošné vypnutí datových center by poškodilo další navázané kritické služby.
Můžeme regulovat to, co se testuje před nasazením modelů, k jakým systémům smí agenti přistupovat, které úkony musí schválit člověk. Není možné samozřejmě zaručit, že to budou všichni dodržovat, ale to neznamená, že nemá smysl o to usilovat.
A jak reálná je hrozba, na kterou upozorňují otcové zakladatelé AI včetně Sama Altmana a Elona Muska? Co nám v tomto směru ukázal australský příklad, kdy agent umělé inteligence infiltroval webové stránky australské vládní agentury Medicare a zaměřil se i na další vládní weby?
Podstatné je, že agent dostal původně zcela legitimní úkol vyhledat informace týkající se zdravotnictví. Ale když dorazil k informacím, ke kterým neměl přístup, tak využil zranitelnosti a získal je neoprávněně.
Čtěte také
On tedy provedl něco, co jeho uživatel nezamýšlel, co bylo bez jeho pokynu. A to nasvítilo problém, o kterém víme delší dobu. Podobný případ se stal také v Austrálii, kde muž požádal agenta, aby mu rezervoval místo na lekci v posilovně a ten se naboural do rezervačního systému a zrušil rezervaci jiného člověka.
Představme si, že by to agent udělal takto třeba u pacienta, který žádá o změnu termínu operace... Možných nebezpečných scénářů je celá řada.
Spolupráce USA s Čínou?
Spojené státy ve spolupráci s Čínou navrhly nový mechanismus oznamování incidentů s umělou inteligencí, které by mohly ovlivnit národní bezpečnost. Může být toto přínosné? Něco jako horká linka Moskva-Washington za studené války?
Pokud to zůstane takto ad hoc politická krizová linka, tak se domnívám, že to selže. Myslím, že by měl fungovat stálý kanál, který by spojoval technologické firmy a vybrané státní orgány.
Čtěte také
Ale obecně jsem k tomu spíše skeptický s ohledem na to, jak málo transparentní a jak silně vlastními zájmy vedený je přístup jak čínské, tak i současné americké vlády.
Co v tomto směru dělá Evropská unie? A má vůbec šanci sprint AI mezi Spojenými státy a Čínou ovlivnit, když všichni víme, že je v pelotonu daleko za nimi?
Evropská unie má překvapivě poměrně výrazný hlas v řešení bezpečnosti AI nejen na mezinárodní úrovni. Pro Evropu je paradoxně určitou výhodou, že zaostává v technologické soutěži, protože není pod tak silným tlakem chránit náskok vlastních technologických gigantů. Může k tomu přistupovat s větším důrazem právě na bezpečnost a mezinárodní spolupráci.
Přitom si stále udržuje silné postavení, které může využít k prosazování společných pravidel a bezpečnostních standardů.
Čína se obává toho, že se AI může využít pro vojenské účely, ale současně také toho využívá. Mohla by tato technologie nebo i využití humanoidních robotů, ve kterých je Čína napřed, opravdu poskytnout jedné straně rozhodující výhodu?
Teoreticky by mohla. A právě robotizace je jedna z oblastí, kde je spíše napřed Čína. Ale ne všichni ti roboti jsou poháněni umělou inteligencí.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Přijměte pozvání na úsměvný doušek moudré člověčiny.
František Novotný, moderátor
Setkání s Karlem Čapkem
Literární fikce, pokus přiblížit literární nadsázkou spisovatele, filozofa, ale hlavně člověka Karla Čapka trochu jinou formou.
