发生了什么
KOAT 报道称，新墨西哥州最高法院认定圣达菲律师 Stephen Aarons 藐视法庭，对他处以 5,000 美元罚款，将他移交给纪律委员会，并暂时禁止他出庭。 Aarons 承认在准备上诉摘要时使用了 ChatGPT，但表示他不明白它可以伪造可信的证人、证词、引述和法律权威。
KOAT 报道称，新墨西哥州最高法院认定 Aarons 藐视法庭，因为他在 Oscar Renee Sandoval 上诉中提交的一份简报被发现包含 ChatGPT 捏造的材料。据报道，桑多瓦尔对谋杀他的伴侣和孩子的母亲表示不认罪。
法院对 Aarons 处以 5,000 美元罚款，将他移交纪律委员会，并禁止他在调查和诉讼继续期间出庭。 KOAT 表示，法院认为律师的行为缺乏悔意，也缺乏对当事人的关心。
Aarons 承认使用 ChatGPT 来准备简报，并承认他在签署和提交简报之前未能核实事实主张。 KOAT 报道说，他说他不明白 ChatGPT 可以生成看起来连贯但捏造的证人、证词、引述和权威。
据 KOAT 称，该文件包括米歇尔·阿马里洛警官、桑切斯警官、马纳尔·吉伯里和特蕾莎·马克斯等完全捏造的证人的虚假证词，以及真实证人的虚假证词。 KOAT 表示，截至本文发布时，OpenAI 尚未回应置评请求。
该叙述基于 KOAT 的报告及其对法庭文件的描述。这些文件未在所提供的来源中复制，因此此处未独立确认详细信息。
为什么这很重要
该案显示了当律师在刑事上诉中提交未经验证的生成人工智能输出时产生的具体法律后果。它还表明，即使材料是用人工智能工具制作的，签署法庭文件的律师仍然负有责任。该事件尤为重要，因为 KOAT 报告称，捏造的材料包括完全虚构的证人以及归因于真实证人的虚假证词。
该裁决使人工智能产生的法律捏造风险变得切实可见：一份明显连贯的摘要可以将捏造的人物和陈述引入涉及个人自由的诉讼中。报道的制裁还强调，律师在提交文件之前必须对其进行审查和验证。
这并不能证明 ChatGPT 单独造成了法律结果，也不能证明该工具的每次使用都会产生伪造的材料。据报道，这是在高风险环境下未能验证人工智能生成的声明的具体事件。消息来源没有说明使用的是哪个 ChatGPT 版本或帐户层，也没有提供模型行为的独立测试。
对于法院和法律从业者来说，实际意义是人工智能辅助起草需要对每一个事实断言、引文和权威进行来源级别的检查。尽管 KOAT 没有报告由此产生的任何新的全州规则，但该案件还可能为专业指导和纪律期望提供信息。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
纪律委员会的调查和相关程序将决定阿伦斯是否面临额外的职业制裁。 KOAT 表示，在这些诉讼程序进行之前，新墨西哥州最高法院的临时禁令也将继续有效。消息来源没有独立确定法院文件的具体内容、被告上诉的损害程度或 OpenAI 是否会做出回应。
纪律委员会的审查和任何进一步的法庭程序都可以澄清除了 5,000 美元罚款和临时出庭禁令之外的职业后果。
从所提供的报告来看，尚不清楚被告的上诉是否会得到补救，捏造的材料是否影响了法院的判决，以及案件的其他参与者是否会面临后果。
KOAT 报道称，OpenAI 尚未回应置评请求。该消息来源也没有指出 OpenAI 与该事件相关的任何具体保障措施、警告或产品变更。