Que s'est-il passé
Zhipu AI a annoncé une nouvelle fonctionnalité axée sur la confidentialité pour sa plate-forme Model-as-a-Service (MaaS) qui empêchera le stockage statique des données d'entrée et de sortie de l'utilisateur suite à l'inférence de modèle. Selon le rapport d'AIBase, ce mécanisme garantit que les données sont supprimées immédiatement après la fin d'un appel de modèle, plutôt que d'être conservées sur les serveurs de la plateforme.
Le nouveau mécanisme de Zhipu AI est conçu pour garantir que les données générées lors des appels de modèle ne sont pas stockées de manière statique sur la plateforme. La société décrit cela comme une fonctionnalité de « contenu des données non stocké », où les informations sont utilisées uniquement pour répondre à la demande immédiate et sont ensuite supprimées.
La fonctionnalité est destinée à servir de couche facultative « d’assurance des données » pour les entreprises clientes qui ont des exigences strictes en matière de conformité des données. Les utilisateurs intéressés peuvent demander l'accès via la console Zhipu MaaS, bien que la plate-forme n'ait pas encore finalisé le calendrier de déploiement spécifique ni l'étendue complète de la disponibilité de la fonctionnalité.
La politique comprend des mises en garde importantes. Zhipu a précisé que le mécanisme ne s'applique pas à tous les services ; en particulier, l'API Batch et l'API File sont exclues car elles nécessitent un stockage persistant pour fonctionner. En outre, la plateforme se réserve le droit de conserver les données pendant 30 jours ou plus pour satisfaire aux obligations légales et réglementaires ou pour enquêter sur d'éventuels abus et violations de sécurité de la plateforme.
Détails de la source: news.aibase.com ↗
Pourquoi c'est important
Ce développement répond aux préoccupations critiques des entreprises concernant la souveraineté et la conformité des données lors du déploiement de grands modèles de langage. En proposant une option de « non-conservation des données », Zhipu fournit aux organisations un mécanisme permettant d'atténuer les risques associés à la conservation des données à long terme. Cependant, l’utilité de cette fonctionnalité est limitée par des exceptions nécessaires à la conformité réglementaire et aux fonctionnalités spécifiques des API, soulignant la tension persistante entre l’IA préservant la confidentialité et les exigences opérationnelles des plates-formes modèles.
La confidentialité des données constitue l’un des principaux obstacles à l’adoption de grands modèles d’IA dans les environnements d’entreprise. En introduisant un mécanisme qui « brûle » efficacement les données après utilisation, Zhipu tente de fournir un compromis qui respecte la souveraineté des données des utilisateurs tout en maintenant l'efficacité opérationnelle de sa plateforme MaaS.
Cette annonce souligne la complexité de la mise en œuvre de politiques de « rétention zéro » dans l'IA. Étant donné que les plateformes doivent rester responsables de la sécurité et du respect des lois, une politique véritablement absolue de « non-stockage » est rarement réalisable. L'approche de Zhipu reconnaît cette réalité en prévoyant explicitement des exceptions pour la surveillance des abus et les exigences réglementaires, qui sont essentielles au maintien d'un écosystème d'IA sécurisé et conforme.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
La plateforme n'a pas encore fourni de date de déploiement spécifique, notant que les délais de mise en œuvre et la portée exacte de la fonctionnalité seront déterminés par la plateforme. Les utilisateurs sont actuellement invités à soumettre des candidatures pour cette fonctionnalité via la console MaaS. Il reste à voir comment Zhipu équilibrera cette politique de « non-stockage » avec son exigence déclarée de conserver les données pendant au moins 30 jours pour surveiller les abus ou pour se conformer aux mandats légaux.
La principale incertitude réside dans le calendrier réel de mise en œuvre, car Zhipu n'a pas fourni de date concrète pour laquelle cette fonctionnalité sera active pour les candidats.
Les observateurs doivent surveiller la manière dont la plate-forme définit le « champ d'application applicable » de cette fonctionnalité, car l'annonce actuelle laisse subsister une ambiguïté importante quant aux modèles spécifiques ou aux points de terminaison d'API qui seront éligibles au statut de non-conservation.
L'interaction entre cette fonctionnalité et la période de conservation de 30 jours pour la surveillance des abus sera un point d'intérêt clé pour les défenseurs de la vie privée et les équipes de sécurité de l'entreprise, car elle définit la limite réelle de la promesse de « non-conservation ».