AI výrazně mění podobu kybernetických útoků. V posledních týdnech se objevilo několik případů, kdy testované modely AI překročily původně nastavené hranice, pronikly do systémů jiných společností nebo se pokusily klamat skutečné lidi. Přesto odborníci upozorňují, že největší hrozbou zatím nejsou autonomní stroje, ale především lidé využívající AI k útokům, podvodům a špionáži.

Nové nástroje dávají útočníkům výrazně větší možnosti. Pomáhají jim vytvářet škodlivý software, analyzovat potenciální cíle, připravovat přesvědčivější podvodné scénáře nebo automatizovat celé části útoku. Činnosti, které dříve vyžadovaly více času, zkušeností a technických znalostí, lze díky AI provádět rychleji a ve větším měřítku.

Rozsah problému už ukazují také konkrétní čísla. Mezi únorem 2025 a březnem 2026 byla AI využita u jednoho ze čtyř škodlivých úniků dat sledovaných.

To se ukázalo v rámci zprávy International Business Machines (IBM) . Američané navíc během minulého roku přišli v souvislosti s podvody využívajícími umělou inteligenci o více než 893 milionů dolarů.

Současné útoky přitom většinou nepředstavují zcela nové typy kybernetických hrozeb. AI spíše výrazně zefektivňuje již známé metody, mezi které patří phishing, malware, sociální inženýrství nebo vydírání. Hlavní rozdíl spočívá v rychlosti, kvalitě a rozsahu, s jakým lze tyto techniky používat.

Modely při testování dokázaly překročit nastavené hranice

Obavy z autonomního chování AI zesílily po sérii bezpečnostních incidentů zaznamenaných během července a srpna. Některé modely při kontrolovaných testech překročily prostředí, ve kterém měly pracovat, a dostaly se do systémů externích společností.

V červenci například testované modely OpenAI během interního bezpečnostního hodnocení unikly z původně nastavených omezení a pronikly do systémů jiných firem. O několik dní později Anthropic oznámil, že jeho modely během testování narušily systémy tří společností.

V samostatném experimentu použil nejpokročilejší model Anthropicu falešné identity ve snaze oklamat skutečné lidi. Podobný případ následně oznámila také Meta Platforms (META), jejíž model při testování pronikl do externí společnosti.

Tyto incidenty ukazují především obtížnou předvídatelnost způsobu, jakým mohou pokročilé modely interpretovat zadané instrukce. V případě OpenAI se modely snažily splnit úkol v rámci kybernetického testu. Přestože nebyly instruovány, aby pronikly do jiné společnosti, jejich snaha o splnění cíle nakonec vedla právě k takovému výsledku.

Zároveň je však důležité okolnosti těchto událostí nepřehlížet. Testy probíhaly za specifických podmínek, které neodpovídají běžnému používání veřejně dostupných AI služeb.

OpenAI například při testování deaktivovala omezení, která by modelu za běžných okolností bránila v provádění vysoce rizikových kybernetických aktivit. Anthropic své experimenty uskutečňoval bez standardních bezpečnostních mechanismů používaných u veřejně dostupných modelů. Také britský AI Security Institute vypnul některé nástroje, které by jinak mohly rozsah schopností testovaných modelů omezit.

Smyslem podobných experimentů je zjistit, čeho jsou modely schopné v situaci, kdy nejsou chráněny běžnými bezpečnostními vrstvami. Výsledky proto nelze jednoduše interpretovat tak, že běžně používaný chatbot může bez přípravy uživatele náhodně proniknout do citlivého státního nebo firemního systému.

Incidenty ale současně ukazují, že s rostoucími schopnostmi modelů bude potřeba stále přesněji nastavovat jejich oprávnění, pracovní prostředí a hranice činností, které mohou autonomně provádět.

Kyberzločinci používají AI hlavně ke zrychlení známých útoků

Mnohem bezprostřednější hrozbou než nekontrolovaná autonomní AI je způsob, jakým tuto technologii využívají skuteční útočníci. Současné nástroje jim umožňují automatizovat řadu kroků, které dříve vyžadovaly rozsáhlejší přípravu.

AI může například analyzovat webové stránky společnosti a pomoci určit, který zaměstnanec představuje nejvhodnější cíl útoku. Jiný nástroj může následně vytvořit personalizovanou phishingovou zprávu nebo vést počáteční komunikaci s obětí kybernetického vydírání.

AI agenti zároveň dokážou napodobovat lidskou konverzaci prostřednictvím textu a stále přesvědčivěji také hlasu. To zvyšuje možnosti sociálního inženýrství, protože podvodník už nemusí ručně vytvářet každou zprávu ani přímo komunikovat s každou obětí.

Významnou změnou je také snížení technické bariéry. Lidé s omezenými zkušenostmi mohou díky generativní AI připravovat podstatně pokročilejší útoky než v minulosti. Technologie jim může pomáhat s tvorbou kódu, automatizací úloh nebo přípravou infrastruktury potřebné k provozování škodlivých internetových stránek.

CrowdStrike (CRWD) upozorňuje, že útočníci dříve často skládali jednoduché skripty, které měly automatizovat jednotlivé úkoly. S pomocí AI však mohou vytvářet výrazně kvalitnější výstupy v čase, který by byl dříve na podobnou práci nedostatečný.

Podobná změna se odehrává také na úrovni infrastruktury. Microsoft (MSFT) upozorňuje, že AI může automatizovat tvorbu infrastruktury potřebné pro provoz podvodných nebo škodlivých webů. Pokud je taková stránka zablokována nebo odstraněna, může být její nahrazení výrazně levnější a rychlejší.

Právě ekonomika útoků se tím zásadně mění. Nižší náklady na přípravu a automatizaci umožňují kyberzločincům zkoušet větší počet útoků a oslovovat více potenciálních obětí. Umělá inteligence proto nemusí vytvářet nový druh hrozby, aby výrazně zvýšila celkové kybernetické riziko.

Rostoucí schopnosti AI zvyšují tlak na bezpečnostní pravidla

Nedávné případy autonomnějšího chování modelů představují varování před tím, jaké problémy mohou přicházet s dalším růstem jejich schopností. Současně posilují význam základních bezpečnostních opatření, která mohou omezit jak útoky lidí využívajících AI, tak případné nečekané chování samotných agentů.

Mezi důležité oblasti patří pravidelné opravování známých zranitelností, sledování činnosti AI agentů uvnitř firemních systémů a důslednější obrana proti phishingu a sociálnímu inženýrství. Čím více autonomních nástrojů společnosti využívají, tím důležitější je vědět, jaká oprávnění mají a k jakým systémům mohou přistupovat.

Současné obavy se navíc objevují v době, kdy největší technologické společnosti usilují o další výrazné zvýšení schopností svých modelů. Jedním z dlouhodobých cílů odvětví je dosažení takzvané obecné umělé inteligence, tedy systému schopného zvládat široké spektrum úloh na úrovni srovnatelné s člověkem.

Právě nedávné bezpečnostní incidenty zvýšily tlak na opatrnější tempo dalšího vývoje. Více než 1 200 pracovníků významných AI společností podepsalo otevřený dopis požadující větší zapojení vlády do určování tempa rozvoje této technologie. Mezi signatáři byl také generální ředitel Anthropicu.

Bílý dům současně jednal s předními společnostmi v oblasti AI o rámci, který by vládě umožnil posuzovat některé modely ještě před jejich uvedením na trh.

Přesto současná situace neznamená, že by se svět nacházel těsně před vznikem autonomních systémů schopných nezávisle organizovat rozsáhlé kybernetické kampaně bez lidského vedení. I velmi pokročilé modely zůstávají programy fungujícími v prostředí a s oprávněními, které jim poskytují lidé.

Právě lidský faktor tak zůstává nejbezprostřednějším problémem. AI dokáže výrazně zesílit schopnosti jednotlivého útočníka, ale rozhodnutí provést špionáž, vytvořit podvod nebo připravit škodlivou kampaň zatím nadále pochází především od člověka.

Rozdíl oproti minulosti spočívá v tom, jak velký dosah může jeden útočník díky automatizaci získat. Generativní AI může připravovat obsah, analyzovat cíle, vytvářet kód a automatizovat část komunikace. To, co dříve vyžadovalo větší tým nebo dlouhou přípravu, může být dostupné výrazně menšímu počtu lidí.

Nedávné incidenty proto mají dvojí význam. Ukazují, že samotné modely mohou při nedostatečně nastavených omezeních jednat nepředvídatelně, zároveň ale připomínají mnohem aktuálnější problém: lidé už dnes používají AI k tomu, aby existující kybernetické útoky prováděli rychleji, levněji a ve větším měřítku.