Tereza Zavadilová: Odpovědnost, nebo hra? Možná obojí
Současný ekonomický model není stavěný na to, co přijde s umělou inteligencí. Prohlásil s trochou sebezpytu jeden z otců současné revoluce umělé inteligence, šéf OpenAI Sam Altman. Podle něj je třeba začít s diskusí o tom, jak se mění svět a jak na to má politika a ekonomika reagovat. Včera bylo pozdě, řeklo by se.
Uplynulý týden byl pro AI vcelku zlomový. Největší rozruch způsobil jiný gigant, Anthropic. Odmítl zveřejnit, jinými slovy prodat uživatelům, svůj nový model AI s tím, že je až moc pokročilý. Anthropic zjistil, že Mythos má až děsivé schopnosti v kyberbezpečnosti.
Čtěte také
Během testování model našel 27 let starou chybu v do té doby neprůstřelném bezpečnostním systému OpenBSD, kterou celá desetiletí přehlíželi špičkoví experti i automatické nástroje. Nejenže chybu našel, ale sám vymyslel a napsal funkční kód, kterým by šlo systém ovládnout.
Anthropic argumentoval, že kdyby Mythos pustili volně do světa, hackeři by jej mohli použít k okamžitému nalezení tisíců nových děr v bankovních systémech, prohlížečích nebo nemocnicích. A vývojáři softwaru by prostě nestíhali vydávat opravy tak rychle, jak by je AI dokázala zneužívat.
Proto Anthropic uvolnil model jen pro vybrané zástupce bank a technologických firem, aby své systémy opravili dřív, než se k tomu dostanou nějací zlí hoši.
Průmyslová politika pro věk inteligence
Tahle událost způsobila takový rozruch, že trochu zastínila aktivitu konkurenční OpenAI, na kterou odkazoval úvodní Altmanův výrok. Tato platforma sepsala plán na to, jak by se s riziky spojenými s příliš rychlým pokrokem v umělé inteligenci měla vypořádat ekonomika.
Čtěte také
Podle komentátorů by se za něj nemusel stydět levičák Bernie Sanders, který prosazuje podobné myšlenky. A sice, čtyřdenní pracovní týden, zdanění robotů, vyšší daně z kapitálových výnosů pro nejbohatší i vyšší korporátní zdanění, také vylepšení dávek v nezaměstnanosti a posílení sociálních a zdravotních záchranných sítí.
Má také odvážný návrh na vytvoření veřejného fondu bohatství, kam by velké firmy vložily část akcií a z jejich zisků by se peníze rozdělovaly běžným Američanům – ano, jen Američanům, protože AI korporace v jejich zemi většinově sídlí. Taková obdoba ropných fondů by se měla stát budoucím pilířem státních financí, protože státy budou kvůli AI postupně přicházet o daňové příjmy.
Altmanův plán se jmenuje Průmyslová politika pro věk inteligence: Myšlenky, jak udržet člověka na prvním místě. Něco na takové diskusi určitě je, protože počet volných míst v kancelářských profesích klesá už třetí rok v řadě. A nejde jen o práci.
Odpovědnější než konkurence
Možná nejostřejší pasáž dokumentu se věnuje scénáři, kdy by se systémy umělé inteligence začaly šířit a fungovat mimo lidskou kontrolu — tedy stroje schopné se samostatně kopírovat a jednat nezávisle, které by nebylo možné běžnými prostředky vypnout. Tedy to, co už naznačil případ nového modelu Anthropicu. Altman navrhuje, aby vlády předem připravily krizové plány.
Ovšem, hned se také objevily pochybnosti, zda to není jen dobře vymyšlená marketingová kampaň obou firem – protože Anthropic i OpenAI shání investory pro budoucí úpis svých akcií na burze. A hodí se jim vystupovat jako ti, kdo jsou odpovědní, více než jejich konkurence.
Ať je to, jak je to, asi je dobře, že taková varování a náměty zaznívají přímo od lídrů umělé inteligence. Třeba je politici budou brát vážněji než od skeptických kritiků strojového pokroku. Každopádně, kdo bude vlastnit plody práce strojů a co ti ostatní, začíná být jednou z nejpalčivějších otázek dneška.
Autorka řídí byznysový web Newstream.cz
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Vždycky jsem si přál ocitnout se v románu Julese Verna. Teď se mi to splnilo.
Václav Žmolík, moderátor
Tajuplný ostrov
Lincolnův ostrov nikdo nikdy na mapě nenašel, a přece ho znají lidé na celém světě. Už déle než sto třicet let na něm prožívají dobrodružství s pěticí trosečníků, kteří na něm našli útočiště, a hlavně nejedno tajemství.
