Slepá důvěra v používání AI ve veřejné správě je problematická. Potřebujeme pravidla, říká Koubský

Katalog spustila Digitální informační agentura DIA, která shromažďuje informace o AI projektech, které české instituce provozují, testují nebo zvažují jejich nasazení.

Čtěte také

Romportl: AI brzy za půl hodiny zvládne tolik, co programátor za den. Ptejme se, v čem budeme lepší

Je mezi nimi například systém Emil, který funguje na radnici Prahy 8 a automatizovaně zpracovává pokuty za neuhrazené parkování v placených zónách. Na fotkách kontrolních aut identifikuje poznávací značky, zjistí, zda auta na místě mohou parkovat, a pokud ne, vygeneruje rovnou výzvu k zaplacení pokuty.

Dalším v katalogu je například systém Anakonda, který využívá Centrum pro regionální rozvoj. Název vznikl z počátečních písmen Aplikace na kontrolu dat a pomáhá s hodnocením žádostí o dotace.

I samotný katalog Digitální informační agentury vznikl pomocí AI, která jej pomohla naprogramovat.

Snadno a rychle! Ale co bezpečnost?

Vědecký redaktor Petr Koubský se však na využívání umělé inteligence v aplikacích veřejných institucí zatím dívá hodně skepticky. „Mám pocit, že je přece jenom nějaký rozdíl mezi veřejnou správou a veselým nespoutaným startupem,“ srovnává.

Čtěte také

Česko chce mít jednu z pěti evropských gigatováren AI. Stát bude muset investovat miliardy

„Moc se mi nezdá, když se veřejná správa chová příliš uvolněně. Přece jenom by měla respektovat zákonná omezení. Neříkám, že nechat si naprogramovat aplikaci od umělé inteligence je něco proti zákonu. Ale rázem vyvstává otázka, jak je to s bezpečností, spolehlivostí aplikací,“ pokračuje.

„Připadá mi, že se tohle bere trochu na lehkou váhu, že i ve státní správě se mnoho lidí nechalo okouzlit. Je to asi pochopitelné, jak umělá inteligence dovede všechno snadno a rychle a můžeme si to naprogramovat sami a nemusíme nic umět,“ dodává Koubský.

Potřebujeme zákon o AI

Digitální informační agentura a další vysoké státní úřady mají určitá pravidla pro spouštění aplikací. Na druhou stranu aplikace umělé inteligence dělají chyby a není proto jednoznačné, zda se jejími výsledky může řídit například úřední rozhodnutí. Umělá inteligence by však mohla práci úřadů výrazně zefektivnit.

Čtěte také

Učíme se programovat přírodu, říká informatik Neil Gershenfeld. Proč potřebuje umělá inteligence vlastní tělo?

„Otázka je, jestli jsou nastavená pravidla pro aplikace adekvátní pro to, na čem se podílí AI. Potřebujeme zákon o umělé inteligenci, který vymezí veřejné správě, co s ní může a nemůže dělat. A dokud tady není, tak je na místě zdrženlivost a opatrnost,“ upozorňuje Koubský.

„Aplikace postavené na umělé inteligenci mohou být nějakým způsobem algoritmicky vychýlené. Mohou generovat výsledky, které by člověk nepřipustil. Tím, že se to dělá ve velkém objemu s velkým počtem dat, tak se to dá potom snadno přehlédnout. Slepá důvěra v umělou inteligenci při provozování veřejné správy je podle mě problematická věc a mělo by to být velice jasně vymezeno,“ doplňuje.

Lidská kontrola jako nutnost

Důležitým pravidlem pro používání umělé inteligence ve veřejné správě by měla být lidská kontrola, která může odhalit případné nepřesnosti systému. Podle Koubského by měl za výsledky aplikace být zodpovědný konkrétní člověk.

„Když lidé rozhodnutí vytvářejí a vynášejí, musí ho důkladně promyslet. Když už jsou ta rozhodnutí hotová a jenom se kontrolují, i při pečlivosti se tam přehlédnou chyby snáze. A nemusí jít o jednotlivé chyby, o nějaké úlety způsobené dočasnou špatnou funkcí umělé inteligence, ale o systematické vychýlení,“ popisuje vědecký redaktor.

Jako příklad uvádí systém Emil, který vyhodnocuje pokuty za neoprávněné parkování. Bylo by totiž například možné, že statisticky častěji z nějakého důvodu, který vznikl při trénování, dává umělá inteligence o něco častěji pokuty autům bílé barvy.

AI ministryně?

Minulý týden kolovala v zahraničních médiích zpráva, že v Albánii angažovali do vlády asistentku založenou na umělé inteligenci víceméně jako členku vlády pro kontrolu nebo zadávání veřejných zakázek.

Tento krok tam údajně zdůvodňují tím, že umělá inteligence je neúplatná a zajistí to, že veřejné zakázky budou posuzovány nestranně, bez vnějších vlivů a tak dále. Podle Koubského je to znamenitý tah z hlediska PR albánského premiéra a tamní vládnoucí strany.

„Opravdu na sebe na chvíli připoutal pozornost celého světa, prošlo to opravdu všemi médii: Země, která má první automatickou ministryni. V zásadě je nesmysl to takhle formulovat a i albánský premiér to připouští. Je to zase jenom nástroj, který vláda používá,“ vysvětluje vědecký redaktor.

„Ale i když se od toho oškrábe tenhle nátěr a zůstaneme u holého faktu, tak prohlásil, že se to bude používat na vyhodnocování veřejných zakázek. Opět, když to bude dělat stroj, tak to může být zrovna tak vychýlené a náchylné ke korupci, jako když to dělá člověk, ale bude to daleko hůř vidět,“ zdůrazňuje Koubský.

„Je to další příklad věci, ke které bychom měli být opatrní, skeptičtí a nepřijímat ji příliš horlivě a příliš snadno. To, že se něco zdánlivě dělá bez zásahu lidské ruky, ještě neznamená, že je to lepší a objektivnější. Rozhoduje, jak je to naprogramováno, jak je to zajištěno, jak je to kontrolováno,“ dodává.

Jak skončilo evropské antimonopolní šetření firmy Microsoft? Měly by se zákázat mobily dětem ve školách? A jaké funkce přináší nový protokol Googlu, který má AI agentům umožnit nakupovat zboží nebo služby? Poslechněte si celý díl pořadu Online Plus ze záznamu v úvodu článku.