Que s'est-il passé
Ynetnews rapporte qu'Alice, anciennement connue sous le nom d'ActiveFence, a levé 140 millions de dollars lors d'un cycle de financement mené par Apax Digital, avec la participation de Samsung, SentinelOne et d'autres investisseurs. La société basée à New York et à Tel Aviv affirme fournir des outils de test, de surveillance et de garde-fou pour les modèles d'IA et les agents autonomes.
Ynetnews rapporte qu'Alice a levé 140 millions de dollars lors d'un nouveau cycle de financement mené par Apax Digital. Le média indique que Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance, Norwest, CRV, Vintage, Grove et Highland Europe ont également participé. Alice a été fondée en 2018, a son siège à New York et Tel Aviv et était auparavant connue sous le nom d'ActiveFence. La source décrit la transaction comme une annonce de la société faite mardi. Cet article ne confirme pas de manière indépendante le montant, les participants ou les modalités du tour.
Selon Ynetnews, Alice affirme avoir un chiffre d’affaires récurrent annuel proche de 100 millions de dollars, protéger plus de 3 milliards d’utilisateurs en ligne et travailler avec huit des dix principaux laboratoires de modèles d’IA au monde. Les clients et partenaires nommés de la société incluent Anthropic, Google et Nvidia. Ynetnews rapporte également qu'Alice emploie plus de 150 chercheurs. Ces chiffres et relations sont présentés comme des affirmations d'Alice ou des déclarations rapportées par le média ; la source ne fournit pas d'états financiers audités, de contrats, d'attestations de clients ou de mesures indépendantes à l'appui.
Ynetnews rapporte qu'Alice a commencé par identifier la fraude, l'extrémisme, la manipulation coordonnée et d'autres activités nuisibles sur les principales plateformes en ligne, et applique désormais cette expérience à la sécurité de l'IA. Ses chercheurs simuleraient des invites et des tâches malveillantes pendant le développement du modèle et la formation pour rechercher des jailbreaks, des injections d'invites et d'autres échecs. Après le déploiement, la société affirme que ses outils permettent aux organisations de définir des politiques de sécurité, de tester les fuites de données et les défauts de conformité, et d'utiliser des garde-fous en temps réel pour surveiller les entrées et les sorties. Alice affirme que son produit Rabbit Hole est une base de données exclusive d'activités en ligne contradictoires et nuisibles collectées à partir de plates-formes du monde réel, utilisée pour concevoir des tests et mettre à jour les défenses. La source ne décrit pas la taille, la couverture, le processus de validation ou l’audit indépendant de la base de données.
Détails de la source: ynetnews.com ↗
Pourquoi c'est important
Ce financement reflète la demande croissante de systèmes de sécurité conçus spécifiquement pour les modèles et les agents d'IA capables de naviguer sur Internet, de conserver des informations et d'agir. L’approche rapportée par Alice combine des tests contradictoires avant le déploiement avec des protections en temps réel après le déploiement, bien que la source ne vérifie pas de manière indépendante les allégations de l’entreprise concernant les clients, les revenus ou les performances.
Le directeur général et co-fondateur de l’entreprise, Noam Schwartz, a déclaré à Ynetnews que les constructeurs de modèles doivent faire confiance aux systèmes pour remplir leurs fonctions prévues, ce qui nécessite des tests de résistance réguliers et des défenses éclairées par des attaques réelles. Ynetnews rapporte qu'Alice prévoit d'utiliser le nouveau capital pour étendre sa plateforme de sécurité de l'IA, augmenter ses investissements dans Rabbit Hole et développer ses opérations commerciales au service des laboratoires et des entreprises d'IA. La source ne précise pas comment le financement sera réparti, n'identifie pas d'objectifs d'embauche spécifiques ni ne fournit de calendrier pour l'expansion du produit. Ynetnews place la collecte de fonds dans le contexte d’une évolution des chatbots vers des agents IA capables de naviguer en ligne, de conserver des informations et d’agir de manière indépendante.
Le média indique qu'Alice a cité le rapport international sur la sécurité de l'IA 2026 et les recherches menées par l'association à but non lucratif METR comme preuve que les modèles protégés peuvent encore être compromis et que les agents peuvent agir en dehors des tâches assignées. Ces références sont rapportées comme du matériel utilisé par Alice pour expliquer le besoin de ses produits ; la source n'établit pas de manière indépendante les conclusions citées ni ne les relie à un incident client spécifique d'Alice. La sécurité de l’IA devient une préoccupation commerciale distincte, car les échecs des modèles peuvent impliquer plus que des réponses inexactes. Un système capable d’appeler des outils, d’accéder à des données ou d’entreprendre des actions peut créer des problèmes de sécurité et de conformité lorsqu’il suit des instructions malveillantes, divulgue des informations ou fonctionne au-delà des intentions d’un utilisateur.
Le compte rendu d'Ynetnews présente Alice comme couvrant les tests pendant le développement, les vérifications des politiques avant la publication et la surveillance après le déploiement. Cette étendue pourrait être importante pour les organisations qui achèteraient autrement des outils distincts pour l'évaluation des modèles, la sécurité du contenu, la sécurité des applications et la surveillance opérationnelle. Le financement annoncé indique également que les investisseurs considèrent le déploiement de l’IA comme un marché de sécurité potentiellement important. Patrick Kane, partenaire d'Apax Digital, a déclaré à Ynetnews que l'expansion des plateformes d'IA crée une surface d'attaque plus large à mesure que les entreprises déploient des agents. Il s’agit d’une évaluation d’un investisseur et non d’une preuve indépendante de la taille du marché ou de la position concurrentielle d’Alice. La question pratique est de savoir si les entreprises paieront pour des tests et une protection continus à mesure que les systèmes d’IA se connecteront aux bases de données internes, aux outils logiciels et aux services externes.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
Alice prévoit d'étendre sa plateforme, d'investir davantage dans sa base de données d'activités contradictoires Rabbit Hole et de développer ses opérations commerciales. Les principales inconnues incluent les revenus vérifiés de manière indépendante de l’entreprise, l’identité et l’étendue de ses relations clients, l’efficacité mesurable de ses défenses et la capacité de ses outils à suivre le rythme des nouvelles attaques contre des systèmes de plus en plus autonomes.
L’expérience d’Alice dans la surveillance des abus en ligne peut lui fournir une source d’exemples contradictoires, mais la pertinence de ces exemples pour les systèmes d’IA modernes reste une question ouverte. Les activités nuisibles sur les plateformes Internet et les attaques contre les modèles peuvent se chevaucher, mais ce ne sont pas des problèmes identiques. Ynetnews rapporte que la base de données Alice's Rabbit Hole intègre les attaques observées dans de nouveaux tests et garde-fous, mais elle ne donne aucun détail sur la manière dont l'entreprise distingue les menaces pertinentes, mesure les faux positifs ou empêche les défenses de devenir obsolètes. La description donnée par la source des clients et des partenariats d’Alice est large et ne précise pas quels produits sont déployés, dans quels environnements ou avec quels résultats.
Il n’existe pas de scores de référence indépendants, de statistiques de prévention des incidents, de témoignages de clients ou d’exemples de vulnérabilités trouvées avant la publication. Ces omissions ne réfutent pas les affirmations d’Alice, mais elles limitent ce qui peut être conclu de ce rapport. En particulier, le cycle de financement ne doit pas être considéré comme une preuve qu’Alice a empêché les modèles de devenir malveillants ou que ses défenses fonctionnent sur tous les systèmes d’IA. Surveillez les informations vérifiables de manière indépendante sur les nouveaux produits, les résultats d'évaluation publics, les déploiements clients documentés, l'embauche et l'expansion géographique, ainsi que des descriptions plus claires des données et de la méthodologie de test de Rabbit Hole. Il sera également utile de voir si Alice publie des preuves sur la façon dont ses outils fonctionnent contre les jailbreaks, les injections rapides, les fuites de données et le comportement des agents dans des conditions réalistes.
Un deuxième problème est de savoir comment les outils d’Alice s’intègrent dans l’écosystème croissant de sécurité de l’IA. Ynetnews rapporte que la société a l'intention de servir à la fois les laboratoires d'IA pionniers et les entreprises déployant des produits d'IA, mais ces clients peuvent avoir des exigences différentes. Les développeurs de modèles peuvent donner la priorité à l'évaluation préliminaire et aux tests de l'équipe rouge, tandis que les entreprises peuvent avoir besoin de contrôles d'accès, de pistes d'audit, d'application de politiques et de réponse aux incidents. Les divulgations futures pourraient préciser si Alice vend une plate-forme intégrée ou un ensemble de services destinés à différentes étapes de déploiement. Enfin, la question non résolue est de savoir si les garde-fous continus peuvent suivre le rythme des systèmes qui gagnent en outils, en mémoire et en autonomie. Ynetnews rapporte que les chercheurs d’Alice étudient la manipulation, le contournement des mesures de protection et les comportements involontaires, mais l’article n’établit pas la fréquence à laquelle les tests sont exécutés, la rapidité avec laquelle les défenses sont mises à jour ou ce qui se passe lorsque les mesures de protection échouent. Les preuves publiques sur ces points, ainsi qu’un examen indépendant des réclamations financières et des clients de l’entreprise, détermineront le poids à accorder à cette collecte de fonds en tant qu’indicateur des progrès pratiques en matière de sécurité de l’IA.