Martin Fendrych: AI ve službách Pentagonu. Anthropic bojuje s Trumpem o etická pravidla

Nově se tam rozhořel spor mezi špičkovou společností Anthropic, která vyvíjí chatbot Claude, a Pentagonem, ministerstvem obrany USA. Pro jistotu dodám, že chatbot, chatovací robot, je počítačový program vytvořený pro automatizovanou komunikaci.

Spor je zásadní. Anthropic trvá na dvou klíčových podmínkách pro využití modelu Claude. Nesmí být používán pro masové sledování domácností, Američanů. A nesmí být používán pro plně autonomní zbraňové systémy. Tedy pro zabíjení lidí umělou inteligencí bez přímého souhlasu člověka. Pentagon na podmínku odmítl přistoupit. Anthropic na ní trvá.

Přerušení vazeb

Následovala smršť. Prezident Trump firmu označil za „levičácké blázny“ a všem federálním agenturám nařídil, aby s Anthropicem okamžitě přerušily vazby. Pentagon firmu označil za „riziko dodavatelského řetězce“, což je označení vyhrazené pro nepřátele státu jako jsou Čína či Rusko.

Čtěte také

Vojáci USA zřejmě použili ve Venezuele AI model Claude. Koubský: Od firmy Anthropic je to pokrytecké

Trump podepsal příkaz, na jehož základě musí být chatbot Claude odstraněn ze všech federálních agentur. Mimo etické otázky jde taky o velký balík peněz. Anthropic loni v létě podepsal smlouvu s americkým ministerstvem obrany. Její hodnota je 200 milionů dolarů (více než čtyři miliardy korun).

Spor s Trumpovou administrativou trvá nejméně od podzimu. Klauzule, podle níž se model Claude nesmí využívat ke sledování lidí, se dotýká kupříkladu práce FBI, tajných služeb USA, nebo třeba imigračních úřadů.

Spoluzakladatel Anthropicu Dario Amodei sdělil: „Žádný způsob zastrašování ani trestů od ministerstva války nás nepřiměje změnit postoj k masovému sledování domácností ani plně autonomním zbraním.“ Firma oznámila, že se kvůli rozhodnutí o zákazu obrátí na soud.

Úctyhodný postoj

Trumpův útok na Anthropic vyhovuje Elonu Muskovi. Ten provozuje chatbot Grok a ministerstvo obrany, které Trump překřtil na ministerstvo války, hodlá Grok využít a udělit mu přístup k utajovaným informacím. Musk zjevně žádné eticky omezující klauzule do smlouvy nedá.

Martin Fendrych|foto:Kateřina Cibulka, Český rozhlas Plus

Mimochodem, postoj Anthropicu a Dario Amodeia je úctyhodný. Nepoklekl před Trumpem a ministrem obrany Petem Hegsethem, neustoupil, naopak se obrací na soud. Bojuje za ideje, snaží se chránit lidi. Pravý opak Trumpa a Muska.

Tím tanec okolo modelu Claude nekončí. List The Wall Street Journal s odvoláním na své zdroje napsal, že Claude byl použit pro zpravodajské účely a při zaměřování cílů při náletech Spojených států a Izraele na Írán.

Odtud plynou dvě věci. První: chatbot byl použit po Trumpovu zákazu. Druhá: Američané zřejmě umělou inteligenci již zcela běžně používají ve svých obranných a útočných systémech. Odstranit z nich Claude je pak velmi komplikované.

Autor je spolupracovník deníku Forum 24