Luboš Kreč: Když AI děsí i tvůrce

Čtěte také

Připraví nás AI o soukromí nebo kritické myšlení? Pokud ji budeme používat líně, nesmíme se divit důsledkům, konstatuje expert

ChatGPT z dílny společnosti OpenAI se stal tak trochu synonymem pro konverzační umělou inteligenci. Tým vedený Samem Altmanem byl první, kdo dostal AI k masovému publiku, a stalo se tak už před třemi roky.

Až o několik měsíců později přišel na scénu Anthropic, startup, za nímž stáli bývalí zaměstnanci OpenAI, kteří měli obavy o bezpečnost umělé inteligence a řešili etické otázky spojené s jejím nástupem.

Mythos a napadání systémů

Soupeření těchto dvou firem následně definovalo rozvoj oboru: na jedné straně ChatGPT z dílny OpenAI, který využívají stovky milionů lidí, který se hodně soustředí na rychlý růst a oznamuje jednu bombastickou investici za druhou, a naproti němu Claude od Anthropicu, jenž cílí hlavně na firmy a vystupuje obezřetněji a uměřeněji.

Čtěte také

Zlatá horečka digitálních dat: Lidé si přivydělávají prodejem svých dat pro trénování generativní AI. Jaká jsou rizika?

V posledních měsících se ukazuje, že to je právě Anthropic, kdo začíná mít navrch. Zatímco OpenAI zastavilo několik projektů, které ještě nedávno s pompou vykřičelo do světa, Anthropic týden co týden systematicky oznamuje nové dovednosti a zlepšení svých jazykových modelů. Roste mu i byznys a v tržbách by měl letos OpenAI předhonit.

Dokonce se dostal do fáze, která i jeho tvůrce vyděsila – jejich zatím neveřejný model nazvaný Mythos se ukázal tak vyspělý a schopný, že sám vyhledával chyby v operačních systémech, jako jsou Windows, a napadal je. Našel skuliny, které nikdo jiný před ním neobjevil a které by, kdyby o nich věděli třeba ruští hackeři, mohly napáchat obří škody.

Bezpečnostní hrozba?

Jde totiž o bezpečnostní mezery v kritické infrastruktuře, která pohání nemocnice, banky, elektrárny. Prostě všechno. Jsme společnost, která stojí na jedničkách a nulách a pokud někdo dokáže jejich plynulý tok narušit, dostane nás do kolen.

Luboš Kreč, CzechCrunch|foto:Luboš Kreč, CzechCrunch

Anthropic tuto zbraň, protože o nic jiného vlastně nejde, poskytl velkým IT hráčům, jako jsou Microsoft, Google či Apple, aby s její pomocí našli slabá místa svých systémů a produktů dřív, než to udělají ti, kdo jich budou chtít zneužít.

Jde přitom o scénář, který diváci filmů jako Terminátor či James Bond dobře znají – umělá inteligence, která se dokáže chovat autonomně, pomáhá padouchům ničit světový řád. Od toho jsme možná ještě daleko, ovšem při pohledu na to, jakých pokroků se s AI podařilo dosáhnout za pouhé tři roky, je spíš otázkou času, kdy se stane skutečnou bezpečnostní hrozbou.

Autor je zástupce šéfredaktora serveru Czech Crunch