Budoucnost AI může být i taková, že vliv lidí na rozhodování postupně klesne k nule, varuje odborník

„Spousta aplikací AI není důvod regulovat, ale v případě vývoje větších a mocnějším systémů je na místě se nad regulací zamýšlet, zejména do budoucna, protože nebezpečí plyne spíš z celého trendu,“ uvádí v Pro a proti vědec Institutu budoucnosti lidstva v Oxfordu a Centra teoretických studií na Univerzitě Karlově Jan Kulveit.

Čtěte také

Napíše referát i kuchařku na drogy. Dopad AI bude srovnatelný s industriální revolucí, říká analytik

Technický ředitel společnosti IBM pro region střední a východní Evropy Martin Švík souhlasí, že je třeba AI rozlišovat. „Jsou analýzy obrazových dat, jazykové modely a další aplikace a každá z nich má jiný dopad. IBM má etickou komisi a ta přesně definuje, jak AI zavádět. A dělá to řada dalších společností.“

„Například komunikační AI ChatGPT může někdo zkusit nasadit v technologiích, kde není dostatečná spolehlivost. Dalším rizikem je, že tyto modely už dnes dokážou lidi nějak subtilně manipulovat. Je otázka, jestli se společnost rozhodne věřit korporacím, že AI zregulují dobře, nebo zda by měla probíhat společenská debata o problému,“ dodává Kulveit.

Problém je ten, že vývoj technologie postupuje dnes rychleji než možnosti společenské adaptace, z čehož mám obavy.
Jan Kulveit

Ten upozorňuje, že už nyní jazykové modely v provozu získávají nové schopnosti tzv. emergentně.

Jan Kulveit|foto:Karolína Němcová, Český rozhlas

„Už jen tím, že se zvětší, tak umí víc a víc. A není jasné, kdy se tento trend zastaví. Mají už schopnosti, které jsou nebezpečné a budou pravděpodobně ještě nebezpečnější. Je pak otázka, co s tím jako lidé budeme dělat.“

Zástupce IBM opakuje, že firma už před pěti lety definovala etiku AI. „Pro nás je důležité, že když systém učíme, tak je třeba dodržovat pravidla. Především robustnost modelu, trasování informací a vysvětlitelnost.“

AI ve školství

Zrovna v případě ChatGPT je třeba osvěta nejen ve školství. „Nevíte, na základě jakých zdrojů vám AI odpověděla, mělo by vše být referencovatelné. Zásadní je, že jeden z hlavních zdrojů AI je Wikipedie, která se v případě diplomových prací vůbec neuznává,“ doplňuje Švík.

Čtěte také

Vymýšlení si a fantazírování novému jazykovému modelu GPT-4 zůstalo, přesto je tam posun, říká Koubský

„Problém je ten, že vývoj technologie postupuje dnes rychleji než možnosti společenské adaptace, z čehož mám obavy. Proto potřebujeme veřejnou debatu i osvětu a ukázat silné a slabé stránky AI,“ žádá Kulveit.

Podle něj hlavně nerozumíme tomu, jak největší modely AI fungují uvnitř. „Řada lidí si neuvědomuje, že schopnosti modelů jsou emergentní, zvětšují se s jejich velikostí. My rozumíme tomu, jak se trénují základní algoritmy, ale už nerozumíme tomu, jak s množstvím dat vznikají nové schopnosti AI.“

Tyto obavy považuje Švík za oprávněné, ale na přísnou regulaci je prý už nyní pozdě. „Spíš bych se snažil udělat hodně širokou osvětu a začal vysvětlovat, k čemu to dobré je a k čemu není.“

Je třeba si to ohlídat

„Znepokojivé je, že na technologii ChatGPT už vznikla spousta startupů, které automaticky předpokládají, že to, co AI odpovídá, je správné. Už to je mylný předpoklad pro aplikaci umělé inteligence,“ hodnotí ředitel.

Chápu kolegu Kulveita, ale obavy ze zničení přicházejí až tehdy, kdy bude AI součástí centrálního energetického systému, rozvodu vody atd.
Martin Švík

Vědec se obává, že bude těžké ohlídat AI systémy, aby nepřevzaly, budou-li dostatečně sofistikované, kontrolu nad lidmi.

Martin Švík|foto:Karolína Němcová, Český rozhlas

„Stačí si představit, že v nějakých trajektoriích ztratíme nad vývojem kontrolu. Například se automatizuje rozhodování korporací a postupně čím dál větší část světa budou organizovat AI systémy.“

„A lidi tyto systémy budou pak vykládat pomocí svých osobních asistentů, kteří nám vysvětlí, jak je všechno v nejlepším pořádku. Budoucnost tedy může být taková, že vliv lidí na rozhodování o tom, co se děje, postupně klesne k nule. Ani už nebudeme vědět, jak jsou věci řízeny,“ varuje Jan Kulveit.

Čtěte také

Microsoft a Google do vyhledávačů začlenily nové AI rozhraní. Velké změny ale zatím nepřináší, míní Koubský

Ředitel předpokládá, že vše bude záležet na tom, jak se k technologii společnost postaví.

„Bavil jsem se nedávno se zástupci několika telekomunikačních společností a bank a oni dospěli k závěru, že neschopnost garantovat to, jak AI chatboty odpoví, činí tuto technologii pro ně nepoužitelnou z důvodu zodpovědnosti za možné škody způsobené špatnou odpovědí.“

„Chápu kolegu Kulveita, ale obavy ze zničení přicházejí až tehdy, kdy bude AI součástí centrálního energetického systému, rozvodu vody a dalších věcí, kdy by opravdu mohlo dojít k nějakému špatnému rozhodnutí. Ale to je na nás, abychom toto nedovolili,“ doporučuje Martin Švík.

Poslechněte si celou diskusi v audiozáznamu. Moderuje Lukáš Matoška.