Provedla AI první velký hackerský útok? „Bez lidské ruky by to nefungovalo,“ uklidňuje Koubský

Útočníci podle Anthropicu použili nástroje AI chatbotu Claude, pomocí kterých průnik do napadených systémů zautomatizovali do takové míry, že AI agenti provedli za lidské útočníky téměř všechnu práci.

Byli schopni nejprve zmapovat cílové sítě a jejich zabezpečení a identifikovat nejcennější potenciální cíle útoku. Poté dokázali prověřit zabezpečení sítí, najít jejich slabá místa, zneužít je a dostat ze systému přihlašovací údaje pro hlubší průnik do sítí. Z databází pak byli schopni zkopírovat řadu citlivých údajů. Nakonec tato data dokázali zpracovat a předat útočníkům.

Přestože umělá inteligence nepodávala stoprocentně přesné výsledky a občas například halucinovala, tedy si vymýšlela, ušetřila podle Anthropicu hackerům velké množství času. Někteří experti na kyberbezpečnost ale verzi firmy zpochybňují s tím, že současné AI systémy nejsou ani zdaleka schopné tak samostatné práce.

Čtěte také

Odolnost vůči hackerům či proškolení zaměstnanců. Firmy a instituce se chystají na nový zákon o kybernetické bezpečnosti

„Nevím, jak se u takové činnosti, jako je komplexní hackerský útok, dají počítat ta procenta (o 80 až 90 procentech práce, které vykonala AI, pozn. red.), co přesně znamenají. Spíš mi to připadá jako metafora nebo prostě nějaké číslo střelené od boku, které chce říct, že AI toho udělala opravdu hodně,“ upozorňuje Koubský.

„To si dovedu představit, že je možné, že může být velice důležitou pomůckou kohokoliv, kdo dělá nějaký softwarový projekt, tedy i hackerů, aby se do toho systému dostali, aby si software napsali a podobně. Těch chybějících deset nebo dvacet procent ale může být těch nejzásadnějších, protože ty spočívají v kontrole, v řízení toho útoku, stanovení jeho cílů a tak dále,“ vysvětluje.

„Jinými slovy, umělá inteligence je v tomhle okamžiku bezpochyby důležitým nástrojem jakýchkoliv počítačových zločinců – a to není překvapení, s tím se počítalo, že tomu tak bude. Ale bez zásahu lidské ruky by to podle mého názoru nefungovalo. A i kdyby to bylo zbývajících pět procent, tak to bude těch klíčových, nejdůležitějších pět procent,“ dodává.

„Přehnané titulky“

Zpráva Anthropicu rezonovala v mediálním prostoru, ale po pár dnech přišly první pochyby, jestli bylo opravdu všechno tak automatizované, jak Anthropic říkal. Firma také nezveřejnila konkrétní údaje ani informace o tom, na jaké konkrétní instituce a firmy útoky cílily.

Čtěte také

Umělá inteligence umí napáchat dost zla, přiznává advokátka Stupková

Mediální titulky ve stylu „AI už dokáže sama hackovat sítě“ jsou podle Koubského přehnané: „Ale samozřejmě jsou efektní, jsou působivé, přitahují pozornost. A pak je potřeba si přečíst, jak je to doopravdy. Myslím si, že umělá inteligence naštěstí zatím v tomhle ohledu samostatná není.“

Kritici tvrdí, že společnost Anthropic přehání. Popisovali, že se sami snaží AI používat k penetračním testům a podobně a potýkají se s tím, že v jednu chvíli to funguje, ale druhý den to samé nefunguje. Stále zůstává na člověku mnoho práce s jednotlivými nástroji.

„Na druhou stranu, ta situace může být taková, že desetkrát něco zkusíš, devětkrát se to nepovede a po desáté do určité míry náhodou ano. Ale z hlediska úspěšnosti útoku to stačí, protože ten desátý se povedl. I takhle to případně mohlo být,“ dodává vědecký redaktor.

Jak vypadají skupinové chaty v chatbotu ChatGPT? Jakému vyšetřování Evropské komise čelí Google? A proč se Firefox rozhodl přidat na svůj prohlížeč umělou inteligenci? Poslechněte si celý díl pořadu Online Plus ze záznamu v úvodu článku.