Anthropic musel znepřístupnit své nejpokročilejší AI modely. Koubský: Udělal taktickou chybu

Americké úřady vydaly rozhodnutí kvůli údajnému riziku pro národní bezpečnost. Podle Anthropicu reagovaly na podnět, že se někomu podařilo obejít ochranná opatření, která bránila Fable a Mythos zneužít ke kybernetickým útokům.

Mythos totiž podle Anthropicu dokáže dobře odhalovat různé bezpečnostní chyby v softwaru. Firma tak model zpřístupnila jen vybraným partnerům. Veřejně ale uvolnila Fable, který je založen na stejném jádru jako Mythos, i když s řadou ochranných prvků, které mají zamezit jeho zneužití k nekalým účelům.

Čtěte také

Vojáci USA zřejmě použili ve Venezuele AI model Claude. Koubský: Od firmy Anthropic je to pokrytecké

Právě tuto ochranu se podle amerických úřadů údajně podařilo obejít, Anthropic s tím ale nesouhlasí. Příklady údajného prolomení ochrany podle firmy nedokazují žádný systémový problém nebo odchylky od toho, jak fungují modely jiných výrobců.

Jde o bezprecedentní situaci. Na příkaz americké vlády musela firma zcela vypnout své nejpokročilejší modely. 

Podle Koubského jde ze strany amerických úřadů o silnou reakci: „Těžko se posuzuje, jestli je účelová, aby nějakým způsobem ukázaly Anthropicu, kdo je tady šéfem – nebylo by divu na základě nedávné historie vztahů mezi americkou vládou a Anthropicem. Anebo jestli je to špatné vyhodnocení situace při testování toho modelu.“

„Nevidíme celý příběh“

„Je pravda, že každý model této výkonnosti se dá použít i ke špatným věcem, tedy asi i k napadení počítačových systémů. Ale to by musela americká vláda zakázat umělou inteligenci jako takovou,“ pokračuje Koubský s tím, že Mythos a Fable podle zveřejněných informací nevykazují žádné specifické, horší vlastnosti.

Čtěte také

Koubský a Kasík: AI a média? Skládání písmenek je malá část práce. Jde o to, aby lidé necítili zradu

„Je to neúměrná reakce tomu podnětu a je to celé dosti zvláštní. Skoro se mi zdá, že nevidíme ten příběh celý, ale jenom jeho viditelnou část,“ zamýšlí se novinář.

Anthropic při uvádění Mythosu kolem modelu vytvořil pověst téměř všemocného nástroje, který dokáže odhalit různé bezpečnostní díry v softwaru a může v rukou útočníků působit jako zbraň, protože se dostanou k dosud neznámým chybám například v operačních systémech. 

Poté opravdu Mythos nedal veřejně k dispozici: Mezi jeho partnery jsou velké internetové firmy, které provozují základní infrastrukturu, velké služby nebo například americká vláda. I kvůli jeho nedostupnosti veřejnosti je ale těžké odhadnout, zda je Mythos tak silný, jak se říká.

Taktická chyba

Vytvoření tak vysokých očekávání vůči Mythosu bylo podle Koubského netaktické. „Zase to možná tehdy byla jejich reakce na předchozí krok americké vlády, která byla nespokojená s výhradami, které měl Anthropic vůči smlouvě s Pentagonem. Tehdy na to americká vláda reagovala tak, že zakázala používat Anthropic ve státní sféře. Skoro mi to připadá, jako kdyby se Anthropic zvýrazněním špičkových vlastností Mythosu snažil znovu získat místo mezi vládními dodavateli,“ přemítá novinář.

Čtěte také

Trumpova vláda označí Anthropic za rizikovou firmu, nahradí ji OpenAI. Koubský: Dá jim volnější ruku

„Prostě říct: Máme tady něco tak silného a závažného, že se bez toho nemůžete obejít. Jestli tohle byla skutečně taktika, tak fungovala, řekl bych, až příliš dobře,“ interpretuje situaci.

Jde podle něj o přehnanou reakci. „Myslím si, že schopnosti jazykových modelů od špičkových dodavatelů jsou v zásadě vyrovnané. Kdyby to opatření mělo být důsledné, tak by se stejným způsobem musely zakázat přinejmenším i jazykové modely od Googlu a OpenAI.“

Mythos je podle Koubského velmi schopný v psaní kódu. „Ale jestli se v tuhle chvíli liší, to je na přechodnou, krátkou dobu než to konkurence zase dožene. Ten závod je velice vyrovnaný.“

Co na to Evropa?

V Evropě se v souvislosti s touto situací intenzivněji diskutuje o takzvané digitální suverenitě, tedy jestli by Evropa neměla být méně závislá na systémech amerických firem a zda by si neměla vytvořit své základní modely. Podle Koubského jde o dobrý směr, který je ale v krátké době nereálný. „Což znamená, že Evropa má problém,“ komentuje současný stav a popisuje:

„Tady jsme názorně viděli, že vypnout přístup ke cloudové službě – a nemusí to být jenom umělá inteligence – je na americké straně velice snadné. Americká vláda má v ruce páku v podobě exportního zákona, kterou může použít v podstatě na jakéhokoliv dodavatele digitálních technologií.“

Čtěte také

Co víme o evropské aplikaci na ověřování věku? Koubský: Internet na občanku. Někdo ale doklady nemá

Všechny produkty ze Spojených států, které jsou v Evropě považovány za samozřejmé, mohou podle něj jednoduše zmizet.

„Evropa musí zvažovat, jak být v tomhle směru soběstačná. V tuto chvíli toho máme k dispozici tak málo z hlediska hardwaru, softwaru, patentů i širokého zázemí včetně univerzit a podobně, že je to dohánění na velice dlouhou dobu. Nechali jsme si ujet vlak už hodně dávno. Ne loni nebo předloni, ale spíš před patnácti dvaceti  lety,“ kritizuje a dodává:

„Po celou tu dobu jsme spoléhali na to, co se vyvine v Silicon Valley. Automaticky jsme předpokládali, že je to všechno volně kdykoliv k dispozici i pro nás. Teď se změnila politická situace a bude se s tím muset něco dělat. Ale je to opravdu dlouhodobá a složitá záležitost.“

Představa, že by Evropané oslovili Anthropic, aby se kvůli současné situaci přesunul do Evropské unie, je ale utopická. „Třeba do Itálie, když zakladatelé firmy jsou vlastně američtí Italové,“ říká humorně Koubský. „Hezká představa, ale spíš do povídky než do reality.“

Má smysl omezovat přístup k některým službám sociálních sítí až do 18 let, jak zvažuje britská vláda? Co je „občanka pro AI agenty,“ kterou chce vyvinout Estonsko? A je na místě rezervovaný přístup Česka vůči autům s asistovaným řízením? Poslechněte si celé Online Plus.