Filip Dvořák: AI se mýlí stejně sebejistě, jako má pravdu
V posledních týdnech to podle světových médií prakticky každý den vypadá, že lidstvo stojí na pokraji vyhynutí, které způsobí umělá inteligence, nad níž jsme ztratili kontrolu. Šéf firmy Anthropic Dario Amodei v září varoval, že by roj AI agentů mohl do roka ovládnout internet. Situace ale není taková, jak ji občas líčí média. Strach z AI přitahuje pozornost veřejnosti a ta obratem ovlivňuje, jakou váhu umělé inteligenci přikládají politici i investoři.
K vyhlazení lidstva vinou umělé inteligence nejspíš nedojde. Dnešní AI stále potřebuje člověka, aby ji kontroloval a opravoval. Sama to totiž nezvládne.
Od učení umělé inteligence k jejímu využívání
Čtěte také
Přesto jsme se ocitli v dějinném okamžiku. Posledních pár let jsme AI hlavně učili, dokud se nám do ní nepodařilo nacpat kolektivní know-how lidstva. Veškeré dosavadní vědění máme najednou na dosah dobře položené otázky. A posunuli jsme se dál: podle odhadu společnosti Deloitte letos připadnou na používání AI dvě třetiny výpočetního výkonu, který jí věnujeme. Víc energie už tedy pálíme na to, abychom AI používali, než abychom ji učili. To je skvělá zpráva.
Zapomněli jsme ale na jednu věc. Jazykový model je statistický souhrn všeho, co jsme mu dali přečíst, včetně našich omylů. Chybuje proto stejně jako lidé, z jejichž textů vznikl, a sám sebe z principu zkontrolovat nedokáže. Ověřit, že je odpověď správná, je totiž úplně jiná matematika než ji vymyslet: logické dokazování krok za krokem. Grafické čipy, na kterých dnešní AI běží, jsou stavěné na násobení obřích matic a na tohle se nehodí. Umělou inteligenci jsem nasazoval do provozů, kde si chybu nikdo nemůže dovolit, od Prahy a Toulouse po San Francisco, Toronto a Houston. Nikde nestačilo, že má systém většinou pravdu. Rozhodující bylo, jestli poznáme, kdy ji nemá.
Když chyba umělé inteligence ohrozí bezpečnost
Čtěte také
Co se stane, když to nepoznáme, popsala v září televize CNN. Letos na jaře se americká armáda chystala zadržet čínskou loď na Blízkém východě. Analytik nechal chatbota projít zpravodajské podklady o nákladu a chatbot ho označil za součásti jaderných zbraní pro Írán. Vojáci se připravovali k obsazení lodi a letadla už byla ve vzduchu, když se ukázalo, že jde o omyl. „Málem to rozpoutalo válku,“ řekl CNN jeden ze zdrojů. Válku mezi dvěma jadernými mocnostmi. Kvůli chybě, kterou stroj sám odhalit nedokázal.
Umělá inteligence zlepšuje schopnosti všech, tedy i těch, kdo svůj potenciál využívají k nekalé či kriminální činnosti. Útočníkovi stačí najít v kupce sena jednu jehlu a v tom jsou jazykové modely výborné. Obránce ale musí vědět, že tam žádná další nezůstala. To statistika nedokáže, to umí jen logika. Ubránit svá data musí firmy, instituce i stát, který drží citlivé údaje o občanech, jejich majetku a bezpečnosti země. Státy si to začínají uvědomovat. Zatím pomalu, ale sílící tlak nepřátelských zemí na destabilizaci fungujících systémů nás všechny donutí bránit se efektivně.
Logika jako další krok ve vývoji AI
Odpovědí je další vývojový krok umělé inteligence: neurosymbolická AI. Spojuje jazykový model, který navrhuje, s logikou, která ověřuje. Model čte a hledá souvislosti, logika rozhoduje, co z toho lze skutečně doložit. Teprve tak z AI dostaneme spolehlivou funkcionalitu, a ne jen přesvědčivé odpovědi. Agenti postavení na takové AI usnadní rutinní práci, urychlí testování i výzkum, zkrátí všemožné lhůty a budou chránit strategické informační systémy před útoky, které jsou díky AI mnohonásobně silnější.
Evropa je zatím v nevýhodné pozici. Obří výpočetní centra pro AI tu teprve vznikají a na amerických čipech a cloudech jsme závislí. Zatím. Česko se o jedno z evropských center uchází s projektem na Zbraslavi. I kdyby uspělo, s americkými giganty se velikostí měřit nebudeme. Naše šance je jinde. Ověřování nepotřebuje obří datová centra, vystačí si s obyčejnými procesory. Potřebuje lidi, kteří rozumějí logice a matematice. A ty české univerzity vychovávají. Vznikají tu i mladé firmy, které AI nasazují tam, kde jde o bezpečnost lidí a státu.
Role člověka zůstává klíčová. Dnešní AI můžeme přirovnat ke šroubováku nebo kladivu. Zkoušíme, k čemu všemu se hodí. Většinou se to daří, občas ale šroubovák sjede a zarazí se nám do ruky. Jenže u kladiva hned víme, že jsme se uhodili. Jazykový model se mýlí stejně sebejistě, jako má pravdu, a chyba se často pozná, až když jsou letadla ve vzduchu. Když mu dáme k ruce logiku, která ho zkontroluje, bude nám AI především pomáhat, a to i při naší ochraně a bezpečnosti.
Autor je odborník na umělou inteligenci a zakladatel startupu Filuta AI
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Vždycky jsem si přál ocitnout se v románu Julese Verna. Teď se mi to splnilo.
Václav Žmolík, moderátor

Tajuplný ostrov
Lincolnův ostrov nikdo nikdy na mapě nenašel, a přece ho znají lidé na celém světě. Už déle než sto třicet let na něm prožívají dobrodružství s pěticí trosečníků, kteří na něm našli útočiště, a hlavně nejedno tajemství.
