Какво стана
Проучване, проведено от Calcalistech сред 30 израелски професионалисти в областта на изследванията в областта на сигурността, показва, че AI значително намалява бариерата за навлизане на сложни кибератаки. Изследователите съобщават, че задачи, които преди са изисквали месеци усилия от страна на участниците в националната държава – като разработване на функционални експлойти за доказателство за концепцията (PoC) – сега могат да бъдат изпълнени за дни. Констатациите подчертават промяна в пейзажа на заплахите, където AI се използва за автоматизиране на откриването на уязвимости, манипулиране на доверени AI агенти и провеждане на икономически атаки чрез изчерпване на корпоративните бюджети на AI токени.
Проучването подчертава, че комерсиалните AI инструменти са съкратили сроковете за изследване на сигурността, позволявайки на отделни изследователи да разкрият пропуски от нулевия ден в основни платформи като Zoom, Google Cloud и Microsoft Copilot. Експертите сравняват тази промяна с „момента на размиване на AFL“ от 2013 г., отбелязвайки, че докато AI е ефективен при намирането на ниско висящи плодове, той остава податлив на халюцинации и загуба на контекст, което налага непрекъснато човешко наблюдение.
Значителна част от изследването се фокусира върху прехода от атаки, базирани на идентификационни данни, към манипулиране на доверени агенти на ИИ. Използвайки непряко бързо инжектиране, нападателите могат да повлияят на агентите да фишират потребители или да ексфилтрират чувствителни данни, без да се нуждаят от традиционни пароли. Няколко фирми съобщиха за успешни демонстрации на такива придобивания чрез споделени документи и имейли.
Докладът идентифицира нов вектор на атака: икономическа война срещу SOC. Чрез наводняване на автоматизираните системи за сигурност с шум, нападателите принуждават базовите модели на ИИ да обработват ненужни данни, като ефективно изчерпват бюджета на предприятието за токени и потенциално причиняват повреда на системата или стават прекалено скъпи за работа.
Анкетираните подчертаха, че оценките за тежест на изолирана уязвимост са все по-остарели. Вместо това те се застъпват за анализ на „верига от атаки“, при който множество неправилни конфигурации с ниска степен на сериозност се разглеждат като единичен опасен път към административен компромет.
Детайли за източника: calcalistech.com ↗
Защо има значение
Демократизирането на разширените възможности за атака означава, че уязвимостите в търговския софтуер се идентифицират и използват с безпрецедентна скорост. Чрез изместване на фокуса от традиционната кражба на идентификационни данни към манипулиране на AI агенти и използване на зависимости от трети страни, нападателите заобикалят конвенционалните защити на периметъра. Освен това, появата на „икономическа война“ – при която противниците наводняват системите за сигурност с шум, за да източат бюджетите на AI токени – въвежда нов оперативен риск за предприятията, разчитащи на автоматизирани оперативни центрове за сигурност (SOC). Тези разработки предполагат, че традиционните показатели за сериозност на уязвимостта, като CVE резултати, стават недостатъчни за оценка на риска в реалния свят, тъй като нападателите все повече свързват незначителни, некритични недостатъци, за да постигнат пълен компромет на системата.
Констатациите подчертават фундаментална промяна в периметъра на сигурността. Тъй като предприятията интегрират AI агенти в своите работни процеси, „довереният агент“ се превръща в основна цел. Ако даден агент е компрометиран, той може да действа като мост към вътрешните системи, което прави традиционните инструменти за откриване и реагиране на крайна точка (EDR) по-малко ефективни.
Икономическото въздействие на управляваните от AI атаки въвежда ново измерение на киберсигурността. Предприятията вече трябва да отчитат цената на разсъжденията на AI като потенциална уязвимост, тъй като нападателите могат да използват структурата на разходите на базирани на LLM инструменти за сигурност, за да нарушат операциите.
Разчитането на зависимости от AI на трети страни, като разширения на браузъра и MCP сървъри, създава риск за веригата на доставки, който в момента не се наблюдава достатъчно. Проучването предполага, че индустрията в момента е във фаза на бързо приемане, която изпреварва развитието на необходимите контроли за сигурност.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Какво да гледате след това
Специалистите по сигурността са все по-загрижени за „слепите петна“, създадени от бързото приемане на AI инфраструктура, включително инструменти с отворен код като Ollama и мостове на моделния контекстен протокол (MCP). Тъй като тези зависимости се интегрират в работните потоци на предприятието, те представляват нарастващ риск по веригата на доставки, за който в момента липсва стабилно наблюдение. Очаква се индустрията да премине към по-контекстуални модели за оценка на риска, които отчитат достъпността на мрежата и вериги от атаки, вместо да разчитат на изолирани резултати за уязвимост. Наблюдателите трябва да наблюдават дали предприятията започват да прилагат по-стриктно управление на разрешенията на AI агенти и екосистемите на плъгини на трети страни, за да намалят риска от непряко незабавно инжектиране и неоторизирано ексфилтриране на данни.
Следете за промяна в начина, по който екипите по сигурността приоритизират уязвимостите. Преминаването от ориентирани към CVE модели към контекстуална, съобразена с мрежата оценка на риска вероятно ще се превърне в стандартна практика за зрели организации за сигурност.
Наблюдавайте разработването на инструменти за сигурност, специално предназначени за одит на разрешенията на AI агенти и откриване на индиректни опити за бързо инжектиране, тъй като те в момента са идентифицирани като големи пропуски в защитния стек на предприятието.
Наблюдавайте как организациите управляват „слепите петна“, свързани с AI инфраструктурата с отворен код. Индустрията може да види натиск за по-строги процеси на проверка за AI добавки и зависимости, подобни на съществуващите стандарти за сигурност на веригата за доставки на софтуер.