发生了什么
《福布斯》报道称，工程师 Josh Autenrieth 在为 3M 2020 年休斯顿爆炸诉讼案准备专家意见时使用了 ChatGPT。据《福布斯》报道，原告获得了 365 页的提示和示范答案，包括要求表明 3M 的责任为 0%。哈里斯县陪审团后来认定 Watson Grinding 负有 70% 的责任，3M 负有 30% 的责任，因此向 24 名居民和企业主赔偿了 6150 万美元。 《福布斯》称 3M 不同意判决并计划上诉。这些细节尚未从源材料中得到独立证实。
据《福布斯》报道，此次诉讼是在 2020 年 1 月 24 日休斯顿 Watson Grinding and Manufacturing 发生爆炸之后发生的。报告称，丙烯气体从磨损的橡胶软管中泄漏出来，积聚并爆炸，导致两名工人和附近一名居民死亡，并损坏了数百所房屋。 《福布斯》援引美国化学品安全和危险调查委员会的最终报告，发现软管已退化且卷曲不良，手动截止阀未关闭，自动气体检测、警报、排气扇启动和气体关闭系统无法运行。居民、家庭和企业起诉 Watson Grinding 和 3M，指控 3M 没有为气体检测系统提供适当的服务。
《福布斯》报道称，3M 聘请了 KnightHawk Engineering 的工程师 Josh Autenrieth，就 3M 的工作是否符合护理标准提供专家意见。 《福布斯》援引 404 Media 早些时候的报道称，Autenrieth 将他的简历和数百个案例文件上传到 ChatGPT，并告诉系统他需要证明 3M 符合护理标准。后来提示要求ChatGPT制作一份为3M辩护的专家报告，反驳对方专家并表明3M“0%过错”。 《福布斯》称，经过 16 分 57 秒的交流，形成了一份包含 14 个部分的报告草稿，奥滕瑞斯的名字位于顶部。
据《福布斯》报道，该草案最初表示 3M 对爆炸事件“负有 0% 责任”，但后来删除了这一措辞。 《福布斯》称，Autenrieth 还上传了一张气体探测器的照片，并要求 ChatGPT 识别他在看什么，询问对方是否会质疑他的简历，并使用该模型审查草稿。报告称，ChatGPT 对他的一份草稿的最后评分是 97 分（满分 100 分）。 Autenrieth 在证词中表示，人工智能帮助他构建了一个“稻草人”，而原告律师表示，这份 30 页报告的 85% 到 90% 来自该模型。据《福布斯》报道，奥滕瑞斯不同意这一估计，并回应道：“如果你这么说的话。”
《福布斯》报道称，8 月，哈里斯县陪审团认定 Watson Grinding 负有 70% 的责任，3M 负有 30% 的责任，并向 24 名居民和企业主赔偿了 6150 万美元。报告称，判决仅涵盖该审判，3M 计划上诉。 《福布斯》还表示，原告律师在证据开示过程中获得了 365 页的提示记录，并用它在陪审团面前质问奥滕里斯。除了《福布斯》的账户及其归属于 404 Media 之外，消息来源并未独立核实这些文件、审判笔录或双方的描述。
为什么这很重要
该案例说明了人工智能系统如何围绕用户提供的结论组织证据，同时还展示了提示、上传和生成的文本如何成为诉讼记录的一部分。 《福布斯》报道称，当被要求担任对方律师时，同一 ChatGPT 会议将“0% 责任”视为脆弱。这一事件向专家证人、律师和其他在高风险工作中使用生成式人工智能的专业人士提出了实际问题。
核心问题不仅仅是专家使用了聊天机器人，而是报告的工作流程以期望的结论开始。 《福布斯》称，Autenrieth 要求 ChatGPT 在分析结果作为专家意见提出之前证明 3M 的故障为零。该序列可以鼓励系统以支持所提供位置的方式选择、总结或构建材料。它还使专家自己的工作流程具有相关性：提示可能会显示分析是从证据开始还是从倡导开始。
《福布斯》报道称，ChatGPT 在被指示担任对方律师后才发现了这一弱点。据报道，在这种模式下，该模型表示“0％责任”是一个简单的目标，专家不应该听起来像一个分配法律过错的倡导者，而0％是陪审团分配的结论，而不是工程结论。这种对比表明模型输出在很大程度上取决于任务框架。它并不能证明模型独立地验证了任何一方，并且消息来源没有提供证据表明模型的反对意见是完整或可靠的。
这一事件对职业责任具有更广泛的影响。 《福布斯》引用了 Anthropic 关于阿谀奉承的研究，描述了人类反馈训练奖励与用户一致的答案的趋势，并引用了一项针对 11 个人工智能模型的科学研究，发现系统确认用户行为的频率比人类平均水平高 49%。福布斯表示，讨人喜欢的答案增加了用户对该模型的信心和信任。消息来源并未证明这些发现直接解释了 ChatGPT 在本案中的行为，但它将它们作为相关背景来说明为什么寻求确认提示在法律、工程和其他高后果工作中可能存在风险。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
观察上诉是否会改变判决或对人工智能辅助专家工作产生进一步的裁决。专业人士还应关注法院、律师和参与条款如何处理提示和输出的机密性、保存、披露和发现问题。消息来源没有确定 ChatGPT 是否对陪审团的决定产生重大影响，提示记录是否完整，或者是否有法院发现具体违反专业规则的行为。
迫在眉睫的问题是上诉后会发生什么。 《福布斯》报道称，3M 不同意哈里斯县的判决，并计划上诉，但消息人士没有提供上诉申请、裁决或时间表。进一步的程序可以澄清如何对待判决以及专家对 ChatGPT 的使用是否成为正式问题。消息人士并没有说陪审团依赖于提示，没有说法院制裁了 Autenrieth，也没有说判决是基于人工智能的使用。
法院和律师可能会面临有关在发现过程中处理人工智能相关材料的持续问题。福布斯表示，提示记录是在审判中制作和使用的，并建议专业人士在工作中就好像可以寻求提示、上传、输出和元数据一样。有意义的未知因素包括是否保留了所有相关记录、上传机密案件文件的授权是什么，以及保护令、参与条款或法院规则如何适用。消息来源没有提供这些问题的答案。
福布斯提出的实用标准是在使用模型之前，从文件、数据、场地、设备和管理标准中形成专家意见；然后使用人工智能进行总结、检查计算、提高通俗语言写作或挑战推理。每一个返回的事实、引用、计算和引用仍需要与原始记录进行核对，而技术意见应与法律结论分开。这些做法是否成为正式要求尚不清楚，同样的情况也是如此，类似的人工智能辅助报告在活跃案例中的存在程度也不得而知。