Що сталося
Опитування, проведене компанією Calcalistech серед 30 ізраїльських фахівців з питань безпеки, показало, що штучний інтелект значно знижує бар’єр проникнення для складних кібератак. Дослідники повідомляють, що завдання, які раніше вимагали місяців зусиль від національних державних акторів, наприклад розробка функціональних експлойтів Proof of Concept (PoC), тепер можна виконати за кілька днів. Отримані дані підкреслюють зміну ландшафту загроз, коли штучний інтелект використовується для автоматизації виявлення вразливостей, маніпулювання довіреними агентами штучного інтелекту та проведення економічних атак шляхом виснаження корпоративних бюджетів токенів ШІ.
Опитування підкреслює, що комерційні інструменти штучного інтелекту скоротили часові рамки для досліджень безпеки, дозволивши окремим дослідникам виявляти недоліки нульового дня в основних платформах, таких як Zoom, Google Cloud і Microsoft Copilot. Експерти порівнюють цю зміну з «моментом розмитості AFL» у 2013 році, зазначаючи, що хоча штучний інтелект ефективний у пошуку низьковисаючих плодів, він залишається схильним до галюцинацій і втрати контексту, що вимагає постійного нагляду з боку людини.
Значна частина досліджень зосереджена на переході від атак на основі облікових даних до маніпулювання довіреними агентами ШІ. Використовуючи непряму оперативну ін’єкцію, зловмисники можуть впливати на агентів, щоб вони підманювали користувачів або викрадали конфіденційні дані, не потребуючи традиційних паролів. Кілька фірм повідомили про успішні демонстрації таких поглинань через спільні документи та електронні листи.
У звіті визначено новий вектор нападу: економічна війна проти SOC. Заповнюючи автоматизовані системи безпеки шумом, зловмисники змушують базові моделі штучного інтелекту обробляти непотрібні дані, фактично виснажуючи бюджет підприємства на токени та потенційно спричиняючи збій системи або неймовірно дорогу експлуатацію.
Респонденти підкреслили, що оцінки серйозності ізольованої вразливості все більше застарівають. Замість цього вони виступають за аналіз «ланцюга атак», де численні неправильні конфігурації з низьким рівнем серйозності розглядаються як єдиний небезпечний шлях до адміністративного компромісу.
Деталі джерела: calcalistech.com ↗
Чому це важливо
Демократизація розширених можливостей атак означає, що вразливості комерційного програмного забезпечення виявляються та використовуються з безпрецедентною швидкістю. Зміщуючи фокус із традиційної крадіжки облікових даних на маніпуляції агентами ШІ та використання залежностей третіх сторін, зловмисники обходять звичайний захист периметра. Крім того, поява «економічної війни» — де супротивники заповнюють системи безпеки шумом, щоб виснажити бюджети токенів ШІ — створює новий операційний ризик для підприємств, які покладаються на автоматизовані центри безпеки (SOC). Ці розробки свідчать про те, що традиційні показники серйозності вразливості, такі як показники CVE, стають недостатніми для оцінки реального ризику, оскільки зловмисники все частіше об’єднують незначні, некритичні недоліки, щоб досягти повного зламу системи.
Висновки підкреслюють фундаментальну зміну периметра безпеки. Оскільки підприємства інтегрують агентів ШІ у свої робочі процеси, «довірений агент» стає основною ціллю. Якщо агент зламано, він може діяти як міст до внутрішніх систем, роблячи традиційні інструменти виявлення кінцевих точок і реагування (EDR) менш ефективними.
Економічний вплив атак, керованих штучним інтелектом, відкриває новий вимір кібербезпеки. Підприємства тепер повинні розглядати витрати на обґрунтування штучного інтелекту як потенційну вразливість, оскільки зловмисники можуть використати структуру витрат на інструменти безпеки на основі LLM, щоб порушити роботу.
Залежність від сторонніх AI-залежностей, таких як розширення браузера та сервери MCP, створює ризик для ланцюжка поставок, який наразі недостатньо контролюється. Опитування показує, що галузь зараз перебуває у фазі швидкого впровадження, яке випереджає розробку необхідних засобів контролю безпеки.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Що дивитися далі
Фахівці з безпеки все більше стурбовані «сліпими плямами», створеними швидким впровадженням інфраструктури штучного інтелекту, включаючи інструменти з відкритим кодом, такі як Ollama і мости Model Context Protocol (MCP). Оскільки ці залежності стають інтегрованими в корпоративні робочі процеси, вони становлять зростаючий ризик ланцюжка поставок, який наразі не має надійного моніторингу. Очікується, що галузь перейде до більш контекстних моделей оцінки ризиків, які враховують доступність мережі та ланцюжки атак, а не покладаються на окремі показники вразливості. Спостерігачі повинні стежити за тим, чи починають підприємства впроваджувати суворіше керування дозволами агентів штучного інтелекту та екосистемами плагінів сторонніх розробників, щоб зменшити ризик непрямого швидкого впровадження та несанкціонованого викрадання даних.
Слідкуйте за змінами в тому, як команди безпеки визначають пріоритети вразливостей. Перехід від моделей, орієнтованих на CVE, до контекстної оцінки ризиків з урахуванням мережі, ймовірно, стане стандартною практикою для зрілих організацій безпеки.
Слідкуйте за розробкою інструментів безпеки, спеціально розроблених для перевірки дозволів агента штучного інтелекту та виявлення непрямих миттєвих спроб ін’єкції, оскільки вони наразі визначені як основні прогалини в системі захисту підприємства.
Спостерігайте, як організації керують «сліпими плямами», пов’язаними з інфраструктурою ШІ з відкритим кодом. Галузь може побачити поштовх до більш суворих процесів перевірки для плагінів ШІ та залежностей, подібних до існуючих стандартів безпеки ланцюга поставок програмного забезпечення.