Co se stalo
Průzkum, který provedla společnost Calcalistech mezi 30 izraelskými odborníky na bezpečnostní výzkum, ukazuje, že umělá inteligence výrazně snižuje bariéru vstupu pro sofistikované kybernetické útoky. Výzkumníci uvádějí, že úkoly, které dříve vyžadovaly měsíce úsilí ze strany aktérů národních států – jako je vývoj funkčních exploitů Proof of Concept (PoC) – lze nyní dokončit za několik dní. Zjištění zdůrazňují posun v oblasti hrozeb, kde se AI používá k automatizaci zjišťování zranitelnosti, manipulaci s důvěryhodnými agenty AI a provádění ekonomických útoků vyčerpáním podnikových rozpočtů tokenů AI.
Průzkum zdůrazňuje, že komerční nástroje umělé inteligence zkrátily časové osy pro bezpečnostní výzkum, což jednotlivým výzkumníkům umožnilo odhalit zero-day nedostatky na hlavních platformách, jako je Zoom, Google Cloud a Microsoft Copilot. Odborníci porovnávají tento posun s „AFL fuzzing momentem“ z roku 2013 a poznamenávají, že zatímco AI je účinná při hledání nízko visících plodů, zůstává náchylná k halucinacím a ztrátě kontextu, což vyžaduje neustálý lidský dohled.
Významná část výzkumu se zaměřuje na přechod od útoků založených na pověření k manipulaci důvěryhodných agentů AI. Využitím nepřímého rychlého vkládání mohou útočníci ovlivnit agenty, aby phishingové uživatele nebo exfiltrovat citlivá data, aniž by potřebovali tradiční hesla. Několik firem oznámilo úspěšné demonstrace takových převzetí prostřednictvím sdílených dokumentů a e-mailů.
Zpráva identifikuje nový vektor útoku: ekonomickou válku proti SOC. Tím, že útočníci zaplavují automatizované bezpečnostní systémy hlukem, nutí základní modely umělé inteligence zpracovávat nepotřebná data, čímž efektivně vyčerpávají podnikový rozpočet na tokeny a potenciálně způsobují selhání systému nebo jeho provoz je neúměrně nákladný.
Respondenti zdůraznili, že skóre závažnosti izolované zranitelnosti je stále více zastaralé. Místo toho se zasazují o analýzu „řetězce útoků“, kde je několik málo závažných chybných konfigurací vnímáno jako jediná nebezpečná cesta k administrativnímu kompromisu.
Podrobnosti o zdroji: calcalistech.com ↗
Proč na tom záleží
Demokratizace pokročilých schopností útoků znamená, že zranitelnosti komerčního softwaru jsou identifikovány a využívány s nebývalou rychlostí. Přesunutím zaměření od tradičních krádeží pověření k manipulaci s agenty AI a využívání závislostí třetích stran útočníci obcházejí konvenční perimetrickou obranu. Kromě toho vznik „ekonomické války“ – kdy protivníci zaplavují bezpečnostní systémy hlukem, aby vyčerpali tokenové rozpočty AI – představuje nové provozní riziko pro podniky, které spoléhají na automatizovaná bezpečnostní operační centra (SOC). Tento vývoj naznačuje, že tradiční metriky závažnosti zranitelnosti, jako je skóre CVE, se stávají nedostatečnými pro hodnocení reálného rizika, protože útočníci stále více spojují drobné, nekritické chyby, aby dosáhli úplného kompromisu systému.
Zjištění podtrhují zásadní změnu v bezpečnostním perimetru. Jak podniky integrují agenty AI do svých pracovních postupů, stává se „důvěryhodný agent“ primárním cílem. Pokud dojde ke kompromitaci agenta, může fungovat jako most k interním systémům, což snižuje účinnost tradičních nástrojů pro detekci a odezvu koncových bodů (EDR).
Ekonomický dopad útoků řízených umělou inteligencí přináší nový rozměr kybernetické bezpečnosti. Podniky nyní musí počítat s náklady na uvažování AI jako s potenciální zranitelností, protože útočníci mohou vyzbrojit nákladovou strukturu bezpečnostních nástrojů založených na LLM, aby narušili operace.
Spoléhání se na závislosti na umělé inteligenci třetích stran, jako jsou rozšíření prohlížeče a servery MCP, vytváří riziko dodavatelského řetězce, které je v současnosti nedostatečně monitorováno. Průzkum naznačuje, že průmysl je v současné době ve fázi rychlého přijetí, které předstihuje vývoj nezbytných bezpečnostních kontrol.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Na co se dále dívat
Bezpečnostní profesionálové se stále více obávají „slepých míst“ vytvořených rychlým přijetím infrastruktury AI, včetně nástrojů s otevřeným zdrojovým kódem, jako jsou Ollama a mosty Model Context Protocol (MCP). Vzhledem k tomu, že se tyto závislosti začleňují do podnikových pracovních postupů, představují rostoucí riziko dodavatelského řetězce, kterému v současnosti chybí důkladné monitorování. Očekává se, že se odvětví posune směrem k více kontextovým modelům hodnocení rizik, které zohledňují dosažitelnost sítě a řetězce útoků, spíše než se spoléhat na izolovaná skóre zranitelnosti. Pozorovatelé by měli sledovat, zda podniky začínají zavádět přísnější řízení oprávnění agentů AI a ekosystémů pluginů třetích stran, aby se zmírnilo riziko nepřímého rychlého vkládání a neoprávněného úniku dat.
Sledujte změnu v tom, jak bezpečnostní týmy upřednostňují zranitelnosti. Odklon od modelů zaměřených na CVE ke kontextuálnímu hodnocení rizik s ohledem na síť se pravděpodobně stane standardní praxí pro vyspělé bezpečnostní organizace.
Monitorujte vývoj bezpečnostních nástrojů speciálně navržených pro audit oprávnění agentů AI a zjišťování nepřímých pokusů o okamžité vložení, protože ty jsou v současnosti identifikovány jako hlavní mezery v zásobníku podnikové obrany.
Sledujte, jak organizace spravují „slepá místa“ spojená s infrastrukturou AI s otevřeným zdrojovým kódem. Průmysl může zaznamenat tlak na přísnější procesy prověřování zásuvných modulů AI a závislostí podobných stávajícím standardům zabezpečení dodavatelského řetězce softwaru.