Algoritmy by měly pomáhat, ale ne rozhodovat, říká o umělé inteligenci v justici expert

„Jako ministerstvo hledáme využití pro algoritmy, ale s umělou inteligencí nejsme ani na začátku,“ uvedl v pořadu Pro a proti ředitel odboru elektronizace justice při ministerstvu spravedlnosti Martin Richter.

Podle něj umělá inteligence bude jen pomocníkem justice, ale rozhodování musí být vždy pevně v rukou člověka. „Tedy někoho schopného vnímat také obecný význam spravedlnosti, etické rozměry a zohlednit to, co dopředu žádný program zohledňovat nemůže.“

Riziko je, že umělá inteligence, která by se učila na základě dat, které sbírá, bude přebírat špatná rozhodnutí a špatné lidské návyky, a pak z nich dělat závěry pro své výstupy. Proto vždy k informačním systémům přistupujeme s určitou rezervou, protože i oheň je dobrý sluha, ale špatný pán. Systémy proto směřujeme, aby pouze pomáhaly a nerozhodovaly.
Martin Richter

Ministerstvo na žádném programu zatím nepracuje. „Abychom se vůbec mohli bavit o nastavování takovýchto sofistikovaných nástrojů, je potřeba v první řadě elektronizovat justici. Momentálně jsme ve fázi, kdy jsou soudní spisy z velké části písemné, takže pro jakýkoliv software neviditelné.“

„Proto se zaměřujeme na elektronizaci justice. Tak budeme moci shromažďovat a vyhodnocovat data, případně na ně nasazovat software nebo neuronové sítě, které se učí samy. Výhoda bude ale i pro jednotlivé strany soudních řízení, které budou moci nahlížet do soudních spisů a lépe komunikovat se soudem,“ shrnul Martin Richter.

Riziko vidím v profilování osob předem, říká právník Klega

„Algoritmy se používají už dnes, například k vyhledávání judikátu... Podstatou je urychlení procesu soudního řízení a zjednodušení práce soudců.... Ale s pojmem umělá inteligence bych byl zatím velmi opatrný,“ řekl advokát a vysokoškolský pedagog Jiří Klega.

Ten připomněl, že se nebavíme a ještě nejspíš dlouho nebudeme bavit o umělé inteligenci v tom smyslu, že bude rozhodovat zcela nezávisle na člověku. „Pořád mluvíme jen o automatizovaných systémech a jejich vstupech a výstupech.“

Nepředpokládal bych, že soudci v České republice budou slepě postupovat podle algoritmů. Osobně ale vidím riziko v profilování osob předem... Zásadní je nastavit nějak mantinely a základní principy pro používání umělé inteligence v budoucnu, a to tak, aby zároveň nezpomalovaly vývoj těchto technologií.
Jiří Klega

Navíc je v celém systému stěžejní člověk, který data do systémů vkládá, vytváří algoritmus a vše nastavuje. „Toto nastavení může být odlišné v jednotlivých kulturách a státech podle norem právních nebo etických... Takže rizikoapřípadných pochybení jsou právě na straně lidského faktoru.“

„Stále vidím apel na straně člověka, protože se bavíme nikoliv o umělé a samostatně fungující inteligenci, ale o automatizovaných systémech. A je opravdu podstatné, jak je algoritmus nastaven a jaká pravidla, principy a zásady jsou pro něj předem dány,“ upozornil Jiří Klega.