概述
它們很重要,因為每個法官的規則都不同,違反規則可能會受到製裁,損害法院的信譽並傷害委託人。
深入探討
人工智慧常規命令是個別法官(有時是整個法院)發出的指令,用於控製文件提交者如何在提交給法院的文件中使用生成式人工智慧。 2023 年,在紐約南區馬塔訴阿維安卡案後,這種現象迅速蔓延。在那起案件中,律師提交了一份簡短的陳述,引用了 ChatGPT 編造的法庭判決,法官於 2023 年 6 月對他們進行了製裁。就在該判決之前不久,德州北區法官布蘭特利·斯塔爾開始要求律師提交證明。它必須聲明,要么沒有使用生成式人工智慧來起草文件,要么有人根據印刷記者或傳統法律資料庫檢查了任何人工智慧起草的語言的準確性。這些訂單分為幾組。認證令(例如斯塔爾的認證令)要求文件管理人確認有人驗證了內容。揭露令要求申報人說明是否使用人工智慧,有時還說明使用哪種工具以及用途。賓州東區法官邁克爾貝爾森 (Michael Baylson) 於 2023 年 6 月發布了一項命令,涵蓋人工智慧的任何使用,批評者指出,這可能包括具有人工智慧功能的普通研究工具。有些指令範圍很窄,只關注引用的準確度。其他人則處理機密性並警告不要將密封或受保護的材料放入公共工具中。還有一些人只是提醒申報者現有規則適用。一個常見的誤解是這些命令創造了一項新職責。 《聯邦民事訴訟規則》第 11 條已經要求法律爭議得到現行法律的支持,並且簽字人進行了合理的調查,州法院也有類似的規則。因此,一些法院認為人工智慧特定規則是不必要的。例如,第五巡迴法院曾考慮制定人工智慧認證規則,但拒絕在 2024 年採用該規則。第二個誤解是,只有一個國家標準。要求各不相同,因此合規性意味著在每次提起訴訟之前檢查法官的個人做法、當地規則和任何針對具體案件的命令。無論人工智慧命令是否存在,法院都會根據普通規則制裁捏造的引文。
現實世界的實施
德州聯邦法院審理案件的訴訟律師檢查指定法官的頁面,找到人工智慧認證要求,並附上一份簽名證書,表明每條引文都根據主要來源進行了檢查。
一家公司保留了一個記錄追蹤器,其中有一欄記錄了每個法官的人工智慧命令,因此向新法院提交的關聯文件可以確定是否需要披露、認證或不需要任何資訊。
一位使用聊天機器人組織對驅逐投訴的答复的自我代表租戶閱讀了法院的人工智能通知,並添加了一條簡短的聲明,稱人工智能幫助起草了內容,並且她檢查了內容。
根據保護令,律師助理不會在公共聊天機器人中取得機密證詞摘錄,因為法官的命令特別警告不要將受保護的資料輸入人工智慧工具。
法官在法庭文件中關於人工智慧的常規命令的未來
逐個法官的命令可能會合併到地方規則或整個法院的政策中,這將減少律師現在必須追蹤的雜亂無章的情況。隨著人工智慧成為主流研究和文字處理軟體的一部分,像「你使用人工智慧嗎」這樣的簡單問題意義不大。因此,法院可能會要求申報者確認驗證,而不是揭露工具。一些州法院系統也開始製定關於法官和法院工作人員如何使用人工智慧的政策。無論規則採取何種形式,核心義務可能保持不變:簽署文件的人對其準確性負責。最後的實用技巧是仔細檢查每個評審的要求和嚴格的引文驗證。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
法官在法庭文件中對人工智慧的常規命令是什麼?
法官關於人工智慧的常規命令是法院指示,要求律師和自我代表方在文件中披露產生人工智慧的使用,證明人工檢查了人工智慧輔助內容,或兩者兼而有之。它們很重要,因為每個法官的規則都不同,違反規則可能會受到製裁,損害法院的信譽並傷害委託人。
2023 年哪一個案件,律師引用了 ChatGPT 發明的判決,引發了人工智慧常規指令的傳播?
在紐約南區的馬塔訴阿維安卡案中,律師提交了一份帶有捏造引文的案情摘要,並於 2023 年 6 月受到製裁。法官大約在那時開始發佈人工智慧命令。
布蘭特利·斯塔爾法官 2023 年在德克薩斯州北區發布的命令要求律師提交哪些文件?
斯塔爾的命令是一份認證命令。申報人必須確認他們沒有使用生成式人工智慧,或者有人已經根據傳統來源驗證了任何人工智慧起草的內容。
為什麼批評者說邁克爾貝爾森法官 2023 年 6 月的命令過於寬泛?
貝爾森的披露命令涵蓋了人工智慧的整體範圍,而不僅僅是生成繪圖工具。批評者表示,這可能會影響到具有人工智慧功能的日常研究軟體。
為什麼有些法院認為人工智慧特定規則是不必要的?
第 11 條規則和類似的州規則已經要求進行合理的調查和法律支持的法律爭議。無論使用何種工具,偽造的引文都違反了這些規則。
第五巡迴法院對其擬議的人工智慧認證規則做了什麼?
第五巡迴法院考慮了針對人工智慧的認證規則,並於 2024 年決定不採用該規則,理由是現有規則已經足夠。