Smí vám AI lhát, že máte hezký svetr? Hranice a hodnoty jí nastavují filozofové, vysvětluje Holý
Umělá inteligence získává stále větší podíl na pracovním trhu a proměňuje celé obory. Jak ale přiznal Mark Zuckerberg, šéf společnosti Meta, její vývoj nepostupuje tak rychle, jak si představoval. „Příběhy o tom, že do čtyř let přijdou programátoři o práci a zničí nás to, musíme brát jako marketing firem, které potřebují peníze na výstavbu těch systémů,“ míní v Interview Plus spoluautor podcastu Kanárci v síti Josef Holý.
Podle průzkumu americké agentury YouGov se tři čtvrtiny Američanů obávají vzestupu umělé inteligence a především jeho ekonomických dopadů. „Taková technologie má potenciál změnit společnost, podobně jako dříve parní energie, elektřina nebo internet. Jedna věc ale je ji vyvinout a druhá zapojit ji do běžného fungování,“ upozorňuje Holý.
Čtěte také
Poukazuje na to, že velké firmy s touto technologií experimentují už několik let, naráží ale na spoustu problémů. Tím nejzásadnějším je otázka návratnosti investice, ale jde také o nutnost změnit mechanismy fungování.
„Podobně jako při digitalizaci státní správy přece nechcete pomocí digitálních technologií zreplikovat proces, kdy se papíry nosily z jedné přepážky na přepážku, ale chcete ho změnit a zefektivnit. A to je náročné, k tomu se musí změnit lidé,“ připomíná expert.
Výstavba datových center, která je mnohdy nedostatečně regulovaná, s sebou také nese negativní externality jako růst cen elektřiny. To dále posiluje negativní pohled na technologii, která přitom může lidstvu v řadě ohledů pomoci.
Filozofové vs. AI
Meta na začátku roku propustila tisíce lidí, zhruba desetinu zaměstnanců, údajně proto, aby kompenzovala výdaje na infrastrukturu pro umělou inteligenci. A podobně se chovají i další technologické firmy, Holý přesto vyzdvihuje důležitost lidských vývojářů.
Čtěte také
„Kdyby nějaká IT firma propustila všechny programátory a nahradila je AI, pak je otázkou, jaká bude její výhoda vůči ostatním. Protože přístup k této technologii mají a budou mít všichni. Rozdíl vždy dělají lidé, kteří drží identitu firmy, rozumí zákazníkům a pohybují se po světě. Oni jsou ta firma,“ zdůrazňuje Holý.
Ve vývoji AI vidí prostor i pro humanitní obory, některé firmy jako například Anthropic už například najímají filozofy, aby umělé inteligenci nastavovali hranice.
„Například smí vám jazykový model lhát? Když si obléknete nový svetr, tak váš partner se dopustí milosrdné lži, ale jak se má zachovat model, který nemá žádnou empatii? Je to datové centrum, statistika,“ podotýká.
Čtěte také
Tradiční programování Holý připodobňuje k receptu na svíčkovou – při dodržení sekvence kroků dosáhnete očekávaného výsledku. V této fázi vývoje umělé inteligence se prý už ale neprogramuje – filozofové se místo toho s modelem baví o tom, jak se má chovat.
„Největší riziko té technologie není, že nás připraví o práci, ale jaké hodnoty bude hájit. Elon Musk před rokem usoudil, že jeho chatbot Grok je moc woke a nalevo, a že ho to odnaučí. Tak napsali nový systémový prompt a ukázalo se, že ten model začal citovat z Mein Kampfu a být rasistický a antisemitský,“ uzavírá.
Poslechněte si celý rozhovor v Interview Plus.
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Závěr příběhu staré Karviné, který měl zůstat pod zemí
Karin Lednická, spisovatelka
Šikmý kostel 3
Románová kronika ztraceného města - léta 1945–1961. Karin Lednická předkládá do značné míry převratný, dosavadní paradigma měnící obraz hornického regionu, jehož zahlazenou historii stále překrývá tlustá vrstva mýtů a zakořeněných stereotypů o „černé zemi a rudém kraji“.
