Les exploits de l’IA autonome augmentent les enjeux pour la gestion des vulnérabilités

Que s'est-il passé

TechTarget rapporte que Red Agent de Wiz, un outil de test d'intrusion basé sur l'IA, a trouvé une vulnérabilité de flux de travail GitHub Actions dans le référentiel public de Snowflake que les contrôles de sécurité précédents avaient manqués. L’agent aurait développé un exploit et aurait atteint le système Jira interne de Snowflake sans intervention humaine. Wiz a révélé la vulnérabilité et Snowflake l'a rapidement corrigée tout en affirmant qu'aucun accès non autorisé ne s'était produit. L'incident n'a pas été confirmé de manière indépendante par la source fournie.

TechTarget rapporte que l’incident impliquait le Red Agent de Wiz, décrit comme un outil de test d’intrusion alimenté par l’IA. Selon le rapport, Red Agent a découvert une vulnérabilité dans un workflow d'actions GitHub dans le référentiel public de Snowflake. Les contrôles de sécurité antérieurs n'avaient pas identifié la faille. La source ne fournit pas l'identifiant de vulnérabilité, les étapes techniques de reproduction, la configuration du flux de travail concerné ou un rapport d'incident public de Wiz ou Snowflake, ces détails ne peuvent donc pas être évalués de manière indépendante ici.

Selon TechTarget, Red Agent est allé au-delà de la recherche de la faiblesse : il a développé un exploit et a accédé au système Jira interne de Snowflake sans intervention humaine. Le rapport présente la séquence comme significative car l'agent a relié plusieurs étapes qui nécessiteraient normalement qu'une personne les dirige. Wiz a signalé la vulnérabilité et Snowflake a rapidement corrigé la faille. Snowflake a déclaré que personne n'avait obtenu un accès non autorisé, mais la source fournie n'inclut pas de preuves, de journaux, de rapport médico-légal ou d'évaluation indépendante confirmant cette déclaration.

TechTarget cite Gal Nagli, responsable de l'exposition aux menaces chez Wiz, affirmant que des vulnérabilités peuvent toujours être introduites et approuvées dans les flux de travail impliquant des agents de codage d'IA et peuvent toujours passer les contrôles de sécurité automatisés établis. Le rapport cite également Jeremiah Grossman, directeur général de Root Evidence, qui a déclaré que l'événement suggère que des incidents similaires pourraient devenir plus fréquents et que l'agent semblait capable d'enchaîner plusieurs techniques avec peu d'aide. Ces observations sont des évaluations d’experts rapportées par TechTarget, et non une preuve indépendante que l’exploitation autonome est désormais répandue.

Détails de la source: techtarget.com ↗

Pourquoi c'est important

Le rapport décrit le passage d’une découverte de vulnérabilités assistée par l’IA à une exécution de chaîne d’attaque plus autonome. Cela pourrait aider les défenseurs à identifier des voies réalistes de compromis, mais cela pourrait également créer un risque opérationnel lorsque les tests ont lieu dans des environnements connectés à la production. Le principal défi réside probablement dans la priorisation : la découverte d’un plus grand nombre de failles ne permet pas nécessairement d’identifier celles qui constituent une menace crédible pour les systèmes importants.

L’importance pratique du rapport réside dans la combinaison de la découverte et de l’exploitation. Un scanner automatisé qui produit une liste de faiblesses possibles est différent d'un agent capable d'enquêter sur un chemin, de créer un exploit et de l'utiliser pour atteindre un autre système. Le récit de TechTarget suggère que cette dernière fonctionnalité peut révéler des écarts entre les contrôles de sécurité des applications et le comportement d'un attaquant déterminé. Il n'établit pas à quelle fréquence ces systèmes peuvent reproduire le résultat, quelle est la fiabilité de Red Agent dans d'autres environnements ou si l'incident représente une tendance mesurée plus large.

Le rapport présente la gestion des vulnérabilités comme un problème de priorisation ainsi que comme un problème de détection. Gary Perkins, RSSI chez CISO Global, a déclaré à TechTarget que les organisations gagneraient davantage à utiliser l'IA pour identifier un petit nombre de voies réalistes de compromis qu'à recevoir une plus grande liste de résultats. Cette distinction est importante car les équipes de sécurité disposent de peu de temps pour enquêter, corriger, valider et surveiller les vulnérabilités. Des résultats plus automatisés pourraient augmenter la charge de travail si les systèmes ne peuvent pas relier les faiblesses techniques aux actifs critiques et aux chemins d'attaque plausibles.

L’incident illustre également le risque de donner à un agent IA l’accès à des environnements connectés à des systèmes opérationnels. Claude Mandy de Zscaler a déclaré à TechTarget que de nombreuses organisations ne disposent pas d'un environnement confiné de type production qui puisse être reconstruit après compromis. Dans une telle situation, les tests autonomes pourraient devenir un exercice de tir réel plutôt qu’une évaluation contrôlée. La source soutient les inquiétudes concernant le confinement et les autorisations, mais elle n’établit pas que l’environnement de Snowflake a été mal configuré ou que Red Agent a causé des dommages au-delà de l’accès signalé à Jira.

Que regarder ensuite

Les équipes de sécurité devront montrer comment les tests autonomes sont contenus, quelles autorisations reçoivent les agents et si les tests sont isolés des systèmes de production. Ils auront également besoin de méthodes pour classer les vulnérabilités en fonction de leur exploitabilité réaliste et de leur impact sur les actifs, au lieu de traiter chaque découverte générée par l’IA comme étant tout aussi urgente. Une confirmation supplémentaire de Wiz ou Snowflake, des détails techniques sur la vulnérabilité et des preuves indiquant si des données ont été consultées clarifieraient l'importance de l'incident.

Les organisations évaluant les tests de vulnérabilité autonomes devraient rendre explicites les limites des tests. Les problèmes soulevés dans le rapport de TechTarget incluent l'environnement dans lequel un agent opère, les autorisations qu'il reçoit, les actions qu'il est autorisé à entreprendre et la capacité de reconstruire l'environnement en cas de problème. Des preuves utiles incluraient si les agents sont limités à des répliques isolées, si les informations d'identification ont une portée étroite et si l'approbation humaine est requise avant l'exploitation ou le déplacement dans des systèmes connectés.

La question suivante est de savoir comment les équipes de sécurité classeront les résultats générés par l’IA. TechTarget rapporte l’estimation de Grossman selon laquelle les attaquants exploitent moins de 1,5 % des CVE connus, tout en soulignant également que la source n’établit pas la base ni la portée de ce chiffre. Que cette estimation s’applique ou non au sens large, le point opérationnel sous-jacent est clair : l’exploitabilité à elle seule ne prouve pas qu’une faille sera attaquée. Les équipes devront peser l’importance des actifs, l’exposition, les chemins accessibles, les privilèges disponibles et les preuves d’exploitation active plutôt que de simplement compter les résultats.

Des rapports supplémentaires devraient clarifier l’événement Red Agent lui-même. Une divulgation technique de Wiz ou Snowflake pourrait identifier la faiblesse du flux de travail, expliquer le chemin vers Jira, décrire les protections en place et documenter si une activité non autorisée ou un accès aux données s'est produit. Une réplication indépendante permettrait également de distinguer une capacité reproductible d’une démonstration notable. En attendant que ces preuves soient disponibles, la conclusion la plus solide est que TechTarget a signalé un grave incident de test autonome et un défi de gestion qui en a résulté, et non que les agents d'IA compromettent régulièrement les systèmes d'entreprise.

Guides et quiz associés