Tereza Zavadilová: Trump AI brzdit nebude, vyhlazení lidstva se nebojí
Globální pozornost si minulý týden vysloužil výzkumník Jacob Coxon svým příspěvkem na síti X. Napsal, že vývoj AI se musí zbrzdit, jinak nás jako lidstvo umělá inteligence do deseti let vyhladí. Emotivnímu příspěvku dává váhu to, že autor pracoval v OpenAI i Anthropicu.
Čtěte také
Souvisí navíc s tím, že v poslední době se objevilo v obou laboratořích pár případů, kdy se agenti AI zcela vymkli lidské kontrole a objevily se indicie, že umělou inteligenci chtěly nelegální skupiny využít k tvorbě biologických zbraní.
Následovala řetězová reakce. Přidali se další, například Dario Amodei, šéf Anthropicu, který obavy potvrdil a apeloval na zavedení takzvaného společného pacingu, tedy kontrolovaného tempa vývoje a také nasazení nezávislých auditorů přímo do laboratoří.
Podle něj výpočetní kapacity a sebezdokonalování modelů začínají předbíhat schopnost vědců porozumět jejich vnitřnímu fungování a spolehlivě je zarovnat.
Vzácná shoda
Amodeiho výzvu podpořili jak Sam Altman, tak Elon Musk i hlavní výzkumník z Googlu, což je anomálie, protože tihle lidé spolu obvykle spíše těžce soupeří, napadají se u soudů a přetahují o talenty i výpočetní kapacity. Strach z nekontrolované AI ovládl veřejnou diskusi a k tlaku na regulaci se přidalo mnoho dalších osobností.
Čtěte také
Začátkem týdne do toho vletěl Donald Trump a diskusi dramaticky smetl. Amodei je podle něj pokrytec a naznačil, že si řeší své zájmy, protože regulace by jen posílila pozice stávajících hráčů.
Strach z nekontrolované AI označil za hoax, který prý šíří lidé, co donedávna strašili klimatickou změnou. A prohlásil, že žádnou regulaci nepřipustí, protože by to nahrálo Číně. Datová centra jsou pro něj ropou příštích pětadvaceti let, takže nepadá v úvahu zpomalení tempa.
Trumpův zmocněnec pro AI David Sacks se k prezidentovi přidal a prohlásil, že jestli se firmy umělé inteligence tak bojí, mohou zpomalit samy od sebe, pokud chtějí.
Vývoj je rychlejší než peníze
A teď, jak vážná ta situace ve skutečnosti je. Pokud výzkumníci přiznávají, že nejnovějším modelům AI sami nerozumí a nedokáží je sami regulovat, je to určitě závažná věc. Stejně tak platí, že k masovému rozšiřování AI zatím nedorostla ani společnost, tedy legislativa, instituce a pracovní trh. Vývoj v posledních dvou třech letech je překotný.
Ovšem je třeba přiznat i to, že Amodei, Altman, Musk a další otcové aktuálního AI pokroku jsou především velmi tvrdí byznysmeni, ne altruisté, a jejich tlak má i finanční a mocenské pozadí.
Sacks má pravdu, že pokud by se schopností AI tak báli, mohou ji nejsilnější hráči zpomalit sami. To ale neudělají, protože si vzájemně tvrdě konkurují. Proto tlačí na to, aby to za ně udělal stát. Muskovi a dalším, kteří nejsou v první linii nejpokročilejších modelů, by administrativní zpomalení pokroku v této lize umožnilo vyrovnat náskok. A nejen to. Giganti AI jsou v tuto chvíli pod tlakem trhu, protože obří investice do datacenter zatím nepřinesly tržby. Vývoj AI letí rychleji i než peníze.
Pro Donalda Trumpa je mantrou závod s Čínou. Ta je v nejlepších modelech za Amerikou asi rok pozadu. Americký prezident mnohokrát prohlásil, že nikdy nedovolí tento závod prohrát. Takže AI je reálné riziko, zvlášť když začala předbíhat schopnosti lidstva. Ale svět je evidentně příliš cynický na to, aby šlápl na brzdu.
Autorka řídí byznysový web Newstream.cz
Nejposlouchanější
Více z pořadu
E-shop Českého rozhlasu
Přijměte pozvání na úsměvný doušek moudré člověčiny.
František Novotný, moderátor
Setkání s Karlem Čapkem
Literární fikce, pokus přiblížit literární nadsázkou spisovatele, filozofa, ale hlavně člověka Karla Čapka trochu jinou formou.
