Que s'est-il passé
Startup Fortune rapporte que la Cour populaire suprême de Chine a publié le 7 septembre 24 dispositions couvrant les litiges civils impliquant du contenu généré par l’IA et des décisions algorithmiques. Le cadre signalé peut attribuer des responsabilités aux créateurs, aux plateformes et aux utilisateurs, y compris lorsqu'un contenu nuisible signalé reste en ligne.
Startup Fortune rapporte que la Cour populaire suprême a publié le 7 septembre ses premières directives judiciaires nationales sur les litiges liés à l'intelligence artificielle. Selon le rapport, les règles portent sur les deepfakes de l'IA, les voix et visages clonés, les hallucinations des chatbots, les mensonges diffamatoires et la discrimination algorithmique par les prix. Le rapport indique que les personnes qui créent des contrefaçons nuisibles, les plateformes qui les hébergent et les utilisateurs qui les incitent délibérément peuvent chacun être tenus responsables dans des circonstances pertinentes.
Le rapport indique qu'un prestataire n'est pas automatiquement responsable de chaque , mais peut partager la responsabilité après avoir reçu une notification d'un résultat faux et préjudiciable et n'avoir pas agi. Il indique également que le fait d'inciter délibérément un modèle à générer du contenu diffamatoire ou fabriqué ne protégerait pas un utilisateur de toute responsabilité. Startup Fortune cite un cas signalé dans lequel un employé des finances a été trompé en lui faisant transférer 1,86 million de yuans après un faux appel vidéo, ainsi qu'un compte distinct de la police de Hong Kong impliquant une perte d'environ 26 millions de dollars. Ces exemples et l’interprétation juridique n’ont pas été confirmés ici de manière indépendante. Aucun processus d’accès ni tarification ne s’applique à ces directives judiciaires, et la source ne fournit pas le texte intégral du tribunal.
Détails de la source: startupfortune.com ↗
Pourquoi c'est important
Les lignes directrices signalées pourraient donner aux tribunaux chinois une base plus spécifique pour attribuer des responsabilités lorsque l’IA générative porte atteinte à la réputation, aux finances ou aux consommateurs. Leur importance dépend du texte officiel, de l’interprétation judiciaire et de l’application par les tribunaux locaux, ce que le rapport de Startup Fortune n’établit pas de manière indépendante.
S’il est rapporté avec précision, le cadre intégrerait les procédures de réponse de la plateforme à la gestion des risques liés à l’IA en Chine. Les entreprises exploitant des services d’IA générative destinés aux consommateurs peuvent avoir besoin d’identifier, d’examiner et de supprimer les deepfakes ou les hallucinations nuisibles signalés, tandis que les utilisateurs pourraient être exposés pour avoir intentionnellement sollicité du matériel trompeur ou diffamatoire. Cela pourrait affecter la modération des produits, la préservation des preuves et le traitement des plaintes.
L’importance pratique ne doit pas être surestimée. La comparaison de Startup Fortune avec l’Union européenne et les États-Unis constitue la caractérisation du média, et non un classement juridique mondial établi de manière indépendante. Le rapport n’établit pas comment les dispositions interagissent avec le droit chinois existant, comment les dommages seraient calculés ou si les tribunaux appliqueront les normes de manière cohérente.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
L’avis complet publié par le tribunal, les premières affaires l’appliquant et la manière dont les plateformes mettent en œuvre les procédures de notification et d’action détermineront la portée pratique des règles. On ne sait toujours pas si le cadre crée de nouvelles responsabilités au-delà des obligations chinoises existantes en matière civile, de protection des consommateurs et de plateforme.
La première priorité est la vérification par rapport à la publication officielle de la Cour populaire suprême et aux commentaires juridiques chinois faisant autorité. Les questions clés incluent les définitions précises des deepfakes, des hallucinations, des notifications, des intentions et de la responsabilité de la plateforme, ainsi que la question de savoir si les dispositions constituent des règles contraignantes, des orientations judiciaires ou des principes interprétatifs.
Des cas futurs montreront si la responsabilité incombe aux fournisseurs de modèles, aux plateformes d'hébergement, aux créateurs de contenu ou aux utilisateurs d'invites dans différentes combinaisons. Surveillez les mesures de répression impliquant le clonage de voix et de visages, la fraude, la diffamation et la tarification personnalisée, ainsi que les preuves des délais de réponse au retrait et des recours pour les victimes. Le rapport de Startup Fortune n’établit pas de dates de mise en œuvre, de pénalités ou de processus d’appel.