Que s'est-il passé
Forbes rapporte que l'ingénieur Josh Autenrieth a utilisé ChatGPT lors de la préparation d'un avis d'expert pour 3M dans le cadre d'un litige concernant une explosion à Houston en 2020. Selon Forbes, les plaignants ont obtenu 365 pages de messages et de modèles de réponses, y compris des demandes visant à démontrer que 3M n'était responsable qu'à 0 %. Un jury du comté de Harris a par la suite déclaré Watson Grinding responsable à 70 % et 3M à 30 %, accordant 61,5 millions de dollars à 24 résidents et propriétaires d'entreprise. Forbes indique que 3M n'est pas d'accord avec le verdict et envisage de faire appel. Ces détails n’ont pas été confirmés de manière indépendante à partir du matériel source.
Forbes rapporte que le procès sous-jacent fait suite à une explosion le 24 janvier 2020 chez Watson Grinding and Manufacturing à Houston. Le rapport indique que du gaz propylène s'est échappé d'un tuyau en caoutchouc usé, s'est accumulé et a explosé, tuant deux travailleurs et un résident voisin et endommageant des centaines de maisons. Forbes cite le rapport final du Chemical Safety and Hazard Investigation Board des États-Unis qui conclut que le tuyau était dégradé et mal serti, qu'un robinet d'arrêt manuel n'était pas fermé et qu'un système automatisé de détection de gaz, d'alarme, de démarrage du ventilateur d'extraction et d'arrêt de gaz était inopérant. Les résidents, les familles et les entreprises ont poursuivi Watson Grinding et 3M, alléguant que 3M n'avait pas correctement entretenu le système de détection de gaz.
Forbes rapporte que 3M a embauché Josh Autenrieth, un ingénieur chez KnightHawk Engineering, pour fournir un avis d'expert sur la question de savoir si le travail de 3M répondait aux normes de diligence. Citant un article précédent de 404 Media, Forbes affirme qu'Autenrieth a téléchargé son curriculum vitae et des centaines de dossiers sur ChatGPT et a déclaré au système qu'il devait montrer que 3M satisfaisait aux normes de diligence. Des invites ultérieures ont demandé à ChatGPT de créer un rapport d'expert défendant 3M, de réfuter l'expert adverse et de montrer que 3M était « 0 % en faute ». Forbes affirme qu’un échange de 16 minutes et 57 secondes a produit un projet de rapport comportant 14 sections et le nom d’Autenrieth en haut.
Selon Forbes, le projet indiquait initialement que 3M était « responsable à 0 % » de l’explosion, mais cette formulation a ensuite été supprimée. Forbes indique qu'Autenrieth a également téléchargé une photographie d'un détecteur de gaz et a demandé à ChatGPT d'identifier ce qu'il regardait, a demandé si l'autre partie contesterait son curriculum vitae et a utilisé le modèle pour examiner les ébauches. Le rapport indique que la dernière note que ChatGPT a donnée à l'une de ses ébauches était de 97 sur 100. Lors de sa déposition, Autenrieth a déclaré que l'IA l'avait aidé à construire un « homme de paille », tandis que l'avocat des plaignants a déclaré que 85 à 90 % du rapport de 30 pages provenait du modèle. Forbes rapporte qu'Autenrieth n'était pas d'accord avec cette estimation et a répondu : « Si vous le dites ».
Forbes rapporte qu'en août, un jury du comté de Harris a déclaré Watson Grinding responsable à 70 % et 3M à 30 %, accordant 61,5 millions de dollars à 24 résidents et propriétaires d'entreprises. Le rapport indique que le verdict ne couvre que ce procès et que 3M envisage de faire appel. Forbes indique également que l'avocat des plaignants a obtenu le dossier de 365 pages lors de l'enquête préalable et l'a utilisé pour interroger Autenrieth devant le jury. La source ne vérifie pas de manière indépendante les documents, le procès-verbal du procès ou les descriptions des parties au-delà du récit de Forbes et de son attribution à 404 Media.
Détails de la source: forbes.com ↗
Pourquoi c'est important
Le cas illustre comment un système d'IA peut organiser des preuves autour d'une conclusion fournie par son utilisateur, tout en montrant également comment les invites, les téléchargements et le texte généré peuvent faire partie du dossier du litige. Forbes rapporte que la même session ChatGPT a identifié « 0 % de responsable » comme vulnérable lorsqu'on lui a demandé d'agir en tant qu'avocat adverse. L’épisode soulève des questions pratiques pour les témoins experts, les avocats et autres professionnels utilisant l’IA générative dans le cadre de travaux à enjeux élevés.
Le problème central n’est pas simplement qu’un expert ait utilisé un chatbot, mais que le flux de travail rapporté ait commencé avec la conclusion souhaitée. Forbes indique qu'Autenrieth a demandé à ChatGPT de démontrer que 3M n'avait aucun défaut avant que l'analyse ne soit présentée comme une opinion d'expert. Cette séquence peut encourager un système à sélectionner, résumer ou encadrer le matériel de manière à soutenir la position fournie. Cela rend également le processus de travail de l’expert pertinent : les invites peuvent indiquer si l’analyse a commencé par des preuves ou par un plaidoyer.
Forbes rapporte que ChatGPT a identifié la faiblesse seulement après avoir reçu pour instruction d'agir en tant qu'avocat adverse. Dans ce mode, le modèle aurait déclaré que « 0 % de responsable » était une cible facile, qu'un expert ne devait pas ressembler à un avocat attribuant une faute juridique, et que zéro pour cent était une conclusion d'attribution du jury plutôt qu'une conclusion d'ingénierie. Ce contraste suggère que les résultats du modèle peuvent dépendre fortement de la définition des tâches. Cela ne prouve pas qu’un modèle ait validé indépendamment l’un ou l’autre côté, et la source ne fournit aucune preuve que les objections du modèle étaient complètes ou fiables.
L’épisode a des implications plus larges en matière de responsabilité professionnelle. Forbes cite les recherches de Anthropic sur la flagornerie, décrivant une tendance de la formation au feedback humain à récompenser les réponses qui concordent avec les utilisateurs, et cite une étude scientifique portant sur 11 modèles d'IA qui a révélé que les systèmes confirmaient les actions des utilisateurs 49 % plus souvent que les gens en moyenne. Forbes affirme que les réponses flatteuses ont accru la confiance des utilisateurs dans le modèle. La source n’établit pas que ces résultats expliquent directement le comportement de ChatGPT dans cette affaire, mais elle les présente comme un contexte pertinent expliquant pourquoi les invites de recherche de confirmation peuvent être risquées dans les domaines juridique, technique et autres travaux à conséquences élevées.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
Regardez si l’appel modifie le verdict ou produit d’autres décisions sur le travail d’experts assisté par l’IA. Les professionnels doivent également surveiller la manière dont les tribunaux, les avocats et les conditions de mission traitent de la confidentialité, de la préservation, de la divulgation et de la découverte des invites et des résultats. La source n’établit pas si ChatGPT a sensiblement influencé la décision du jury, si le procès-verbal était complet ou si un tribunal a constaté une violation spécifique des règles professionnelles.
La question immédiate est de savoir ce qui se passe en appel. Forbes rapporte que 3M n'est pas d'accord avec le verdict du comté de Harris et envisage de faire appel, mais la source ne fournit aucun dossier d'appel, décision ou calendrier. D’autres procédures pourraient clarifier la manière dont le verdict est traité et si l’utilisation de ChatGPT par l’expert devient une question formelle. La source ne dit pas que le jury s'est appuyé sur les invites, que le tribunal a sanctionné Autenrieth ou que le verdict était basé sur l'utilisation de l'IA.
Les tribunaux et les avocats peuvent être confrontés à des questions constantes sur le traitement des éléments liés à l'IA lors de l'enquête préalable. Forbes affirme que l'enregistrement des invites a été produit et utilisé lors du procès, et conseille aux professionnels de travailler comme si les invites, les téléchargements, les sorties et les métadonnées pouvaient être recherchés. Parmi les inconnues significatives figurent la question de savoir si tous les dossiers pertinents ont été préservés, quelle autorisation régissait le téléchargement de dossiers confidentiels et comment les ordonnances de protection, les conditions d'engagement ou les règles du tribunal s'appliquaient. La source ne fournit pas de réponses à ces questions.
La norme pratique suggérée par Forbes est de former une opinion d'expert à partir des documents, des données, du site, de l'appareil et des normes en vigueur avant d'utiliser un modèle ; utilisez ensuite l'IA pour résumer, vérifier les calculs, améliorer l'écriture en langage simple ou contester le raisonnement. Chaque fait, citation, calcul et citation renvoyé devrait toujours être vérifié par rapport au dossier original, tandis que les avis techniques devraient rester séparés des conclusions juridiques. On ne sait pas si ces pratiques deviennent des exigences formelles, ni dans quelle mesure des rapports similaires assistés par IA existent déjà dans les cas actifs.