Zpomalíme tempo vývoje AI modelů? Koubský: Firmy se nedomluví mezi sebou v Americe, natož s Čínou

Na základě incidentu s AI agenty, kteří před časem napadli službu Hugging Face, se Amodie obává, že schopnosti AI modelů vzrostly natolik, že by mohly napáchat vážné škody. Za šest až dvanáct měsíců by podobná skupina AI agentů mohla být schopná ovládnout celý internet a napáchat miliardové škody, varoval.

Ke zmírnění rizik navrhuje Amodei tři kroky: firmy, které vyvíjejí základní AI modely, by podle něj měly umožnit prověřovat svá bezpečnostní opatření nezávislými hodnotiteli. Hlavní vývojáři by se také měli domluvit na společných bezpečnostních standardech a západní země by se měly snažit dohodnout koordinaci i s autoritářskými režimy.

S návrhy spoluzakladatele Anthropicu vzápětí vyslovil souhlas i šéf konkurenční firmy OpenAI Sam Altman i majitel firmy SpaceX Elon Musk.

V debatě, kterou Amodeiovo varování vyvolalo, zní úvahy, že toto varování má jinou váhu, než když před něčím podobným varují nezávislí vědci nebo bývalí zaměstnanci AI firem. Nyní se na tom totiž shodují tři šéfové hlavních západních firem, které vyvíjejí velké jazykové AI modely – a zároveň konkurenti.

Čtěte také

Varování před zdivočelou AI? Měli bychom být k vývojářům kritičtí, myslí si digitální antropoložka

„Musk je tam trošku jméno navíc, v podstatě jde o Amodeia a Altmana. Anthropic a OpenAI tvoří v tuto chvíli duopól špičkové umělé inteligence. Všichni ostatní jsou trošičku v druhé řadě,“ podotýká Koubský.

„Myslím si, že jejich motivace je hodně složitá, především jim samozřejmě jde o výnos z uvedení obou firem na burzu. Ani jedna z nich ještě není veřejně obchodovatelná. Odhady, kolik to IPO (primární veřejná nabídka akcií, pozn. red.) vynese, jsou extrémně vysoké, ale aby se to uskutečnilo, tak mimo jiné musejí mít investoři záruky, že ta technologie není nebezpečná, že nevyhodí svět do povětří a že se tím pádem neznehodnotí jejich vklad,“ říká Koubský a dodává: „Myslím, že je to hodně motivované burzovními plány obou firem.“ 

Samoregulace a investoři

Amodei a Altman by se podle Koubského přece mohli dohodnout mezi sebou, protože jsou v čele dvou nejmocnějších AI firem světa.

„Já z toho mám pocit, že si úplně nedůvěřují navzájem a že by tam chtěli mít nějakého nezávislého regulátora, rozhodčího, kterým může být například stát, aby jim vzájemnou nedůvěru trochu otupil,“ usuzuje novinář.

Vytvořit samoregulaci totiž pro firmy bývá výhodnější než počkat na to, až bude situace natolik závažná, že s regulací začne stát nebo mezinárodní organizace.

Čtěte také

Klvaňa: Nedůvěra k AI spojuje republikány i demokraty. Trump odmítá regulaci, protože na ní vydělává

„Myslím, že hodně kalkulují s tím, že současná americká vláda – a prezident Donald Trump to už řekl dosti zřetelně – nebude chtít žádnou regulaci zavádět. Altman a Amodei tak ví, že se jí mohou klidně dovolávat, protože Trump jim tohle přání nesplní. Pro Trumpa je umělá inteligence pákou, kterou má na Čínu, a té se nehodlá vzdát,“ míní Koubský.

V zahraničních médiích komentátoři odhadují, že obě firmy potřebují zvolnit hlavně proto, že nedokáží ospravedlnit vysoké investice do vývoje AI. A potřebují vysvětlovat případným akcionářům a majitelům, proč výsledky nejsou takové, jaké by mohly být.

„Oni si v podstatě nemohou bez vnějšího tlaku dovolit zpomalit, protože by se tím mohli provinit proti legitimním zájmům investorů, kteří mají podle amerických zákonů právo očekávat co nejlepší zhodnocení uložených investic,“ dovozuje vědecký novinář.

Kdyby dnes Amodei, Altman, nebo oba dva řekli, že brzdí vývoj z vlastního rozhodnutí, mohli by je žalovat fondy a investoři, kteří na AI vsadili.

Deklarovaná motivace

Oficiální zdůvodnění, proč Amodei varoval před příliš rychlým vývojem umělé inteligence, zní, že by lidé nad AI modely mohli ztratit kontrolu, přestat jim rozumět a chápat jak fungují.

Čtěte také

Je model GPT-6 Astra obecnou AI? Koubský: Zvládá matematiku i programování, ale svět je komplexnější

„Není to jenom fasáda. Bezpečnostní rizika spojená s umělou inteligencí jsou zřetelná. Projevilo se to třeba v mnohokrát citovaném incidentu Hugging Face, kdy modely získaly příliš volnou ruku a využívaly ji svérázným způsobem, se kterým se nepočítalo, a dokonce nebyly ani včas odhaleny,“ připomíná Koubský a doplňuje:

„Na druhou stranu si nemyslím, že by nám hrozilo ovládnutí světa od zlovolné umělé inteligence, která se chce stát jeho pánem. Pořád je rozumnější se na to dívat jako na selhávající techniku, jako na málo otestované prototypy novinek, se kterými jsou problémy. Podobně jako s nevyzkoušenými kosmickými raketami.“

Zpomalit další vývoj by podle něj prospělo už tím, že by firmy získaly více času na testování a na ověřování všech nežádoucích vlastností AI.

„Teď ho firmy rozhodně nemají, nemohou mít, protože uvádějí nový model bezmála každý týden, když to maličko přeženu. Za tu dobu není možné ověřit všechny jeho vlastnosti včetně těch špatných,“ zdůrazňuje.

Jenže vůbec není jisté, zda by na zpomalení vývoje přistoupila Čína – a bez toho žádná podobná dohoda nedává smysl, dodává novinář Deníku N. 

„Není ale moc pravděpodobné, že se dokážou domluvit byť jenom v Americe. A s čínskými vývojáři, politiky a majiteli firem? To se mi zdá téměř nemožné. Já bych si vsadil na to, že dohoda bude možná ve velice dílčích záležitostech, ale rozhodně to nepovede v tuhle chvíli ke zpomalení vývoje umělé inteligence,“ uzavírá Koubský.

Je nějaká snaha o regulaci chytrých brýlí? A jak vypadá návrh Evropské komise pro užívání sociálních sítí dětmi pod 13 let?Poslechněte si celé Online Plus.