O que aconteceu
Uma pesquisa realizada pela Calcalistech com 30 profissionais israelenses de pesquisa de segurança indica que a IA está reduzindo significativamente a barreira de entrada para ataques cibernéticos sofisticados. Os investigadores relatam que tarefas que anteriormente exigiam meses de esforço por parte dos intervenientes do Estado-nação – como o desenvolvimento de explorações funcionais de Prova de Conceito (PoC) – podem agora ser concluídas em dias. As descobertas destacam uma mudança no cenário de ameaças, onde a IA é usada para automatizar a descoberta de vulnerabilidades, manipular agentes confiáveis de IA e conduzir ataques econômicos esgotando os orçamentos de tokens de IA das empresas.
A pesquisa destaca que as ferramentas comerciais de IA condensaram os cronogramas para pesquisas de segurança, permitindo que pesquisadores individuais descobrissem falhas de dia zero em plataformas importantes como Zoom, Google Cloud e Microsoft Copilot. Os especialistas comparam esta mudança com o “momento confuso da AFL” de 2013, observando que, embora a IA seja eficaz na procura de resultados mais fáceis de alcançar, continua propensa a alucinações e perda de contexto, necessitando de supervisão humana contínua.
Uma parte significativa da pesquisa concentra-se na transição de ataques baseados em credenciais para a manipulação de agentes confiáveis de IA. Ao explorar a injeção indireta de prompt, os invasores podem influenciar os agentes a fazer phishing de usuários ou exfiltrar dados confidenciais sem a necessidade de senhas tradicionais. Várias empresas relataram demonstrações bem-sucedidas de tais aquisições através de documentos e e-mails compartilhados.
O relatório identifica um novo vector de ataque: a guerra económica contra os SOC. Ao inundar os sistemas de segurança automatizados com ruído, os invasores forçam os modelos de IA subjacentes a processar dados desnecessários, esgotando efetivamente o orçamento de tokens da empresa e potencialmente fazendo com que o sistema falhe ou se torne proibitivamente caro para operar.
Os entrevistados enfatizaram que as pontuações de gravidade de vulnerabilidades isoladas estão cada vez mais desatualizadas. Em vez disso, defendem a análise da “cadeia de ataque”, onde múltiplas configurações erradas de baixa gravidade são vistas como um caminho único e perigoso para o compromisso administrativo.
Detalhes da fonte: calcalistech.com ↗
Por que isso importa
A democratização das capacidades avançadas de ataque significa que as vulnerabilidades no software comercial estão a ser identificadas e exploradas com uma velocidade sem precedentes. Ao mudar o foco do tradicional roubo de credenciais para a manipulação de agentes de IA e a exploração de dependências de terceiros, os invasores estão contornando as defesas perimetrais convencionais. Além disso, o surgimento de uma “guerra económica” – onde os adversários inundam os sistemas de segurança com ruído para drenar os orçamentos de tokens de IA – introduz um novo risco operacional para as empresas que dependem de centros de operações de segurança (SOCs) automatizados. Estes desenvolvimentos sugerem que as métricas tradicionais de gravidade da vulnerabilidade, como as pontuações CVE, estão a tornar-se insuficientes para avaliar o risco do mundo real, à medida que os atacantes encadeiam cada vez mais falhas menores e não críticas para alcançar o comprometimento total do sistema.
As descobertas sublinham uma mudança fundamental no perímetro de segurança. À medida que as empresas integram agentes de IA nos seus fluxos de trabalho, o “agente confiável” torna-se o alvo principal. Se um agente estiver comprometido, ele poderá atuar como uma ponte para sistemas internos, tornando as ferramentas tradicionais de detecção e resposta de endpoint (EDR) menos eficazes.
O impacto económico dos ataques impulsionados pela IA introduz uma nova dimensão à segurança cibernética. As empresas devem agora considerar o custo do raciocínio da IA como uma vulnerabilidade potencial, uma vez que os atacantes podem transformar a estrutura de custos das ferramentas de segurança baseadas em LLM como uma arma para interromper as operações.
A dependência de dependências de IA de terceiros, como extensões de navegador e servidores MCP, cria um risco na cadeia de abastecimento que atualmente é submonitorado. A pesquisa sugere que a indústria está atualmente numa fase de rápida adoção que ultrapassa o desenvolvimento dos controlos de segurança necessários.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
O que assistir a seguir
Os profissionais de segurança estão cada vez mais preocupados com os “pontos cegos” criados pela rápida adoção da infraestrutura de IA, incluindo ferramentas de código aberto como pontes Ollama e Model Context Protocol (MCP). À medida que estas dependências se integram nos fluxos de trabalho empresariais, representam um risco crescente na cadeia de abastecimento que atualmente carece de monitorização robusta. Espera-se que a indústria avance em direção a modelos de avaliação de risco mais contextuais que considerem a acessibilidade da rede e as cadeias de ataque, em vez de depender de pontuações de vulnerabilidade isoladas. Os observadores devem monitorar se as empresas começam a implementar uma governança mais rigorosa sobre as permissões dos agentes de IA e ecossistemas de plug-ins de terceiros para mitigar o risco de injeção indireta imediata e exfiltração não autorizada de dados.
Fique atento a uma mudança na forma como as equipes de segurança priorizam as vulnerabilidades. A mudança dos modelos centrados no CVE em direção à avaliação de risco contextual e consciente da rede provavelmente se tornará uma prática padrão para organizações de segurança maduras.
Monitore o desenvolvimento de ferramentas de segurança projetadas especificamente para auditar permissões de agentes de IA e detectar tentativas indiretas de injeção imediata, já que atualmente são identificadas como grandes lacunas na pilha de defesa corporativa.
Observe como as organizações gerenciam os “pontos cegos” associados à infraestrutura de IA de código aberto. A indústria pode ver um impulso para processos de verificação mais rigorosos para plug-ins de IA e dependências semelhantes aos padrões existentes de segurança da cadeia de fornecimento de software.