概述
它们很重要,因为每个法官的规则都不同,违反规则可能会受到制裁,损害法院的信誉并伤害委托人。
深入探讨
人工智能常规命令是个别法官(有时是整个法院)发出的指令,用于控制文件提交者如何在提交给法院的文件中使用生成式人工智能。 2023 年,在纽约南区马塔诉阿维安卡案后,这种现象迅速蔓延。在那起案件中,律师提交了一份简短的陈述,援引了 ChatGPT 编造的法庭判决,法官于 2023 年 6 月对他们进行了制裁。就在该判决之前不久,德克萨斯州北区法官布兰特利·斯塔尔开始要求律师提交证明。它必须声明,要么没有使用生成式人工智能来起草文件,要么有人根据印刷记者或传统法律数据库检查了任何人工智能起草的语言的准确性。这些订单分为几组。认证令(例如斯塔尔的认证令)要求文件管理人确认有人验证了内容。披露令要求申报人说明他们是否使用人工智能,有时还说明使用哪种工具以及用途。宾夕法尼亚州东区法官迈克尔·贝尔森 (Michael Baylson) 于 2023 年 6 月发布了一项命令,涵盖人工智能的任何使用,批评者指出,这可能包括具有人工智能功能的普通研究工具。有些命令范围很窄,只关注引用的准确性。其他人处理机密性并警告不要将密封或受保护的材料放入公共工具中。还有一些人只是提醒申报者现有规则适用。一个常见的误解是这些命令创造了一项新职责。 《联邦民事诉讼规则》第 11 条已经要求法律争议得到现行法律的支持,并且签字人进行了合理的调查,州法院也有类似的规则。因此,一些法院认为人工智能特定规则是不必要的。例如,第五巡回法院曾考虑制定人工智能认证规则,但拒绝在 2024 年采用该规则。第二个误解是,只有一个国家标准。要求各不相同,因此合规性意味着在每次提起诉讼之前检查法官的个人做法、当地规则和任何针对具体案件的命令。无论人工智能命令是否存在,法院都会根据普通规则制裁捏造的引文。
战略影响
风险与安全
灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
更清晰的判决
公众和专业素养决定强有力的安全政策在政治上是否可行。
打破炒作
清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
法官在法庭文件中关于人工智能的常规命令的未来
逐个法官的命令可能会合并到地方规则或整个法院的政策中,这将减少律师现在必须跟踪的杂乱无章的情况。随着人工智能成为主流研究和文字处理软件的一部分,像“你使用人工智能吗”这样的简单问题意义不大。因此,法院可能会要求申报者确认验证,而不是披露工具。一些州法院系统也开始制定关于法官和法院工作人员如何使用人工智能的政策。无论规则采取何种形式,核心义务可能保持不变:签署文件的人对其准确性负责。最后的实用技巧是仔细检查每个评委的要求和严格的引文验证。
现实世界的实施
德克萨斯州联邦法院审理案件的诉讼律师检查指定法官的页面,找到人工智能认证要求,并附上一份签名证书,表明每条引文都根据主要来源进行了检查。
一家公司保留了一个记录追踪器,其中有一栏记录了每个法官的人工智能命令,因此向新法院提交的关联文件可以确定是否需要披露、认证或不需要任何信息。
一位使用聊天机器人组织对驱逐投诉的答复的自我代表租户阅读了法院的人工智能通知,并添加了一条简短的声明,称人工智能帮助起草了内容,并且她检查了内容。
根据保护令,一名律师助理不会在公共聊天机器人中获取机密证词摘录,因为法官的命令特别警告不要将受保护的材料输入人工智能工具。
风险与防护栏
将存在风险视为科幻小说,同时能力复合。
混淆了表面产品安全与高度自治下的对准。
只给非英语和非专业观众留下低质量的资源。
实施路线图
单独的产品危害、误用和失控/失调风险。
询问哪些证据会改变您对时间表和严重性的看法。
比起营销主张,更喜欢主要来源和具体评估。
确定一条行动路径:职业、政策、资金或技能——而不仅仅是意识。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Judges' Standing Orders on AI in Court Filings quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
法官在法庭文件中对人工智能的常规命令是什么?
法官关于人工智能的常规命令是法院指示,要求律师和自我代表方在文件中披露生成人工智能的使用,证明人工检查了人工智能辅助内容,或两者兼而有之。它们很重要,因为每个法官的规则都不同,违反规则可能会受到制裁,损害法院的信誉并伤害委托人。
2023 年哪一个案件,律师引用了 ChatGPT 发明的判决,引发了人工智能常规指令的传播?
在纽约南区的马塔诉阿维安卡案中,律师提交了一份带有捏造引文的案情摘要,并于 2023 年 6 月受到制裁。法官大约在那时开始发布人工智能命令。
布兰特利·斯塔尔法官 2023 年在德克萨斯州北区发布的命令要求律师提交哪些文件?
斯塔尔的命令是一份认证命令。申报人必须确认他们没有使用生成式人工智能,或者有人已经根据传统来源验证了任何人工智能起草的内容。
为什么批评者说迈克尔·贝尔森法官 2023 年 6 月的命令过于宽泛?
贝尔森的披露命令涵盖了人工智能的整体范围,而不仅仅是生成绘图工具。批评者表示,这可能会影响到具有人工智能功能的日常研究软件。
为什么一些法院认为人工智能特定规则是不必要的?
第 11 条规则和类似的州规则已经要求进行合理的调查和法律支持的法律争议。无论使用何种工具,伪造的引文都违反了这些规则。
第五巡回法院对其拟议的人工智能认证规则做了什么?
第五巡回法院考虑了针对人工智能的认证规则,并于 2024 年决定不采用该规则,理由是现有规则已经足够。
继续学习
相关指南
为此主题精选的更多指南