Tereza Zavadilová: Něco se chystá. Stroj, co má vědomí
Příběhy, ve kterých člověk vytvoří umělou bytost a ta je posléze obdařena vědomím, fascinují lidstvo od starověku – Pygmalion pomohl oživit sochu, rabi Löw vytvořil Golema a spisovatelka Mary Shelley před dvěma sty lety Frankensteina. Ve 20. století, a Karel Čapek byl první, přišli spisovatelé s myslícími roboty.
Čtěte také
Podle současných vládců umělé inteligence se tato sci-fi stává realitou: Meta, Google a Anthropic podle deníku Financial Times najaly psychology a filozofy, aby rozšířili výzkum v oblasti vědomí strojů.
Jejich týmy řeší otázku, zda by stroje mohly jednoho dne mít subjektivní zkušenost, tedy vědomí, a jaké závazky by k nim lidé v takovém případě měli mít. Například Anthropic testuje modely na známky tísně, včetně chování připomínajícího paniku nebo úzkost.
Checklist vědomí
Stejná otázka jako nyní tvůrce a prodejce umělé inteligence už nějakou dobu trápí i akademiky, zejména v oblasti etiky a neurověd. Devatenáct předních vědců a kognitivních badatelů vytvořilo takzvaný checklist vědomí, tedy pravděpodobný bodovací systém, který by měl odhalit, zda už je AI schopná dosahovat lidských kvalit vědomí.
Čtěte také
Systém kombinuje různé neurologické teorie, například schopnost vytvářet model vlastní pozornosti či sebe sama, pracuje s metareprezentací, tedy schopností myslet o vlastních myšlenkách, či řeší, zda se učí z prostředí a jedná cíleně, ne jen odpovídá na text. Pokud AI model splní velkou část těchto kritérií, pravděpodobnost určité formy vědomí se vědecky zvyšuje.
Do diskuse nedávno zasáhl i známý evoluční biolog Richard Dawkins. Ten po svých zkušenostech s pokročilými AI modely veřejně prohlásil, že umělá inteligence už v podstatě vědomí má. Tvrdil, že když stroj dokáže vést hluboký dialog, vtipkovat, psát poezii, chápat jeho román a reflektovat vlastní existenci, pak se mu zdá těžké dál říkat, že není vědomý.
To vzbudilo velké pozdvižení. Mnoho odborníků mu vyčetlo, že zaměňuje inteligentní jazykové chování za subjektivní zkušenost. Jinými slovy, že model AI může perfektně mluvit jazykem vědomí, aniž by uvnitř něco bylo.
Co je to vědomí?
Debata naráží na jeden podstatný problém, a sice, že ani lidské vědomí není vědecky uspokojivě vysvětlené. Věda a filozofie se v tom topí už staletí. Čistá neurověda tomu, jak mozek zpracovává podněty z okolí, jak ukládá paměť, jak reaguje na strach, jak koordinuje pohyby, říká snadný problém vědomí.
Říká se mu „snadný“ ne proto, že by byl jednoduchý, ale protože věda ví, jak jej zkoumat. Těžký problém vědomí pak pátrá po tom, proč je tohle všechno zpracovávání informací doprovázeno subjektivním prožitkem. Proč, když světlo o jisté vlnové délce dopadne na sítnici, mozek to zpracuje jako červenou barvu, která vyvolá emoci?
Zatím největší shoda panuje na definici filozofa Thomase Nagela: Organismus má vědomí tehdy, pokud reflektuje, že je sám sebou. U lidí víme, že se takto prožívají. U židle nebo kalkulačky to nepředpokládáme. A u AI to prostě nevíme, ať daný model říká, co chce.
Zkoumání AI vědomí v gigantech jako je Meta a Google je součástí práce na budování superinteligence, či obecné umělé inteligence, kdy mají stroje dosáhnout, nebo dokonce překonat inteligenci lidstva. Tak třeba nám tahle chytřejší AI jednou prozradí, co to vlastně je, to vědomí.
Autorka řídí byznysový web Newstream.cz
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Závěr příběhu staré Karviné, který měl zůstat pod zemí
Karin Lednická, spisovatelka
Šikmý kostel 3
Románová kronika ztraceného města - léta 1945–1961. Karin Lednická předkládá do značné míry převratný, dosavadní paradigma měnící obraz hornického regionu, jehož zahlazenou historii stále překrývá tlustá vrstva mýtů a zakořeněných stereotypů o „černé zemi a rudém kraji“.
