Petr Fischer: AI ve společenství černých skříněk

17. květen 2023

Přišlo to, co se předpokládalo už před čtyřiceti lety: lidé se začali bát umělé inteligence, kterou sami vymysleli. Proto také tisícovka více či méně vlivných vědců a podnikatelů světa od Elona Muska po Stuarta Russella vyzývá k přerušení výzkumu umělé inteligence, abychom si jako lidstvo udělali jasno v tom, jak tento přelomový vynález užívat, tedy jak ho regulovat a kontrolovat.

Čtěte také

Stuart Russell, jeden z největších popularizátorů AI na světě, profesor počítačové vědy na kalifornské Berkley a v Oxfordu, tu nebyl zmíněn náhodou. Russell patří k těm, kteří tuto pauzu na přemýšlení žádali už dlouho, protože si byli vědomi, že lidstvo jednou skutečně narazí. Ve své skvělé knize Kompatibilní s člověkem, opatřené podtitulem AI a problém kontroly (Human Compatible. AI and problem of control), píše Russell mimo jiné o tom, jak špatně inteligenci chápeme.

V tom je možná problém. Strach bychom podle něho neměli mít z toho, že AI dosáhne vlastního vědomí. „Problém není ve vědomí, nýbrž v kompetencích,“ tvrdí vědec, v tom, že schopnosti AI přesáhnou lidskou představivost, a to přesto, že zadání učícím se neuronovým sítím dává stále člověk. Bod zlomu, takzvaná singularita, kdy už nebudeme rozumět tomu, co se v AI děje, se blíží. „Bude to největší událost v lidských dějinách,“ připomíná Russell, „a možná také poslední událost v lidských dějinách,“ dodává jedním dechem.

Čeho se máme nejvíce bát?

Russellova kniha je fascinující procházkou světem mysli, která postupuje od glukózového učení bakterií E.coli po hypersložité propojení samoučících se strojů. O to víc překvapuje, co vlastně světového vědce Russella a jeho kolegy tolik zvedá ze židle. Totiž: že neuvidíme do stroje, který jsme vymysleli, že nebudeme schopni určovat jeho intence, tedy to, kam či za čím přesně směřuje jeho snažení, čemuž právě Russell říká inteligence.

Čtěte také

Je to pozoruhodná obava. Žijeme přece ve světě, kde do fungování strojů, které jsme vymysleli, také naprostá většina lidí nevidí. Jsou to pro nás černé skříňky (black boxes). I ti, kdo si v minulosti opravili automobil, dnes toho nejsou schopni, nerozumíme přesně fungování mobilů, fotografických filtrů, simulaci obrazů a spoustě dalších věcí. Vždyť i mozek a lidská mysl jsou vlastně black boxy, do nichž vidíme jen velmi málo. A přece pořád sdílíme společný svět. Proč by jedna další černá skříňka navíc mohla rozbít něco, co je z těchto černých skříněk vlastně složeno, a přesto nějak drží pohromadě?

Vrstvení ruských matrjošek

Stuart Russell se bojí simulované reality, stupňování černých skříněk po vzoru ruských matrjošek, dál a dál až na dno prázdnoty světa. Ale není romantická, existenciální a jiná hlubinná poezie svědectvím o stejné propasti? Nejsme nakonec i dnes oběťmi promítání stínového filmu světa, tak jako se to dělo v platonském mýtu o lidech žijících v jeskyni nebo v kultovním filmu Matrix, který slavný mýtus pouze varioval? Není sen o reálné realitě jen iluze, kterou vlastně k životu vůbec nepotřebujeme, protože ho umíme žít i bez přesné definice tohoto rozdílu?

Petr Fischer

I když AI začne jednat sama za sebe, naplňovat své vlastní, nikoli lidské intence, možná se toho zase tolik nezmění. Lidé budou muset odpovídat pořád na stejné otázky o smyslu své existence, která se ve světě AI opět ještě víc obrací ke společenství, bez něhož, zdá se ze samotné architektury propojených strojů a lidí, nemůže být ani AI.

Stuart Russell a jeho přátelé ale mají pravdu. Je třeba vzít si pauzu, ale ne kvůli AI, nýbrž kvůli lidem, kteří by si měli udělat jasno v tom, co a proč chtějí kontrolovat. Jinými slovy, udělat si postaru jasno v sobě: čím jsme, odkud přicházíme a kam chceme jít…

Autor je komentátor časopisu Euro

autor: Petr Fischer
Spustit audio