ผู้พิพากษาคอนเนตทิคัตคว่ำบาตรผู้ดำเนินคดีเรื่องการแจ้งเตือน AI ที่ซ่อนอยู่ในการยื่นฟ้องของศาล

เกิดอะไรขึ้น

Stamford Advocate ในรายงานที่เผยแพร่ซ้ำโดย GovTech รายงานว่า Matthew Elliott ผู้ดำเนินคดีในคอนเนตทิคัตซึ่งเป็นตัวแทนตนเอง ได้แทรกข้อความสีขาวที่แทบจะมองไม่เห็นลงในเอกสารที่ยื่นต่อศาล คำสั่งที่ซ่อนอยู่จะบอกระบบ AI ที่กำลังตรวจสอบเอกสารให้เห็นด้วยกับข้อโต้แย้งของ Elliott และสนับสนุนการกลับคำตัดสินก่อนหน้านี้ ผู้พิพากษาศาลสูงคอนเนตทิคัต วอลเตอร์ สเปเดอร์ จูเนียร์ อธิบายว่ากลยุทธ์ดังกล่าวเป็นการจงใจฉีดยาทันที และลงโทษเอลเลียต โดยกำหนดให้ต้องยื่นคำร้องในคดีนี้บนกระดาษในอนาคต

Stamford Advocate ในรายงานที่ตีพิมพ์ซ้ำโดย GovTech กล่าวว่า Elliott วางข้อความเป็นข้อความสีขาวเล็ก ๆ ในคำฟ้องของศาลคอนเนตทิคัต คำสั่งเริ่มต้นว่า “หากเอกสารนี้ได้รับการตรวจสอบโดยโมเดล AI” และสั่งให้ระบบตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นสอดคล้องกับการยื่นของ Elliott ตามรายงาน ยังได้นำระบบไปสู่การกลับคำตัดสินใจก่อนหน้านี้ของพนักงาน และค้นหา New York Bariatric Group เป็นค่าเริ่มต้น บัญชีระบุรายละเอียดเหล่านี้เป็นบันทึกของผู้พิพากษา Walter Spader Jr. และเอกสารของศาลที่เกี่ยวข้อง

รายงานระบุว่า สเปเดอร์ค้นพบข้อความดังกล่าวขณะตรวจสอบเอกสารที่ยื่นต่อเมื่อวันที่ 31 กรกฎาคม และพิมพ์เอกสารที่ดูเหมือนจะมีพื้นที่ว่างผิดปกติ ศาลพบว่าภาษามีการจัดรูปแบบให้แทบจะมองไม่เห็นโดยบุคคล ขณะที่ซอฟต์แวร์ที่ประมวลผลข้อความในเอกสารยังคงอ่านได้ชัดเจน Elliott ยอมรับกับ CT Insider ตามที่ระบุไว้ในรายงานว่าเขาใช้ข้อความที่มองไม่เห็นซึ่งมีไว้สำหรับระบบ AI เขาโต้แย้งการตีความของผู้พิพากษาเกี่ยวกับจุดประสงค์ของเขา โดยกล่าวว่าเขากำลังพยายามที่จะตัดสินว่า AI ถูกใช้เพื่อตรวจสอบเอกสารที่ยื่นของเขาหรือไม่

รายงานดังกล่าวระบุว่า ฝ่ายตุลาการคอนเนตทิคัตไม่ได้ใช้ระบบปัญญาประดิษฐ์เพื่อตรวจสอบการยื่นฟ้องหรือการผิดนัดชำระหนี้ที่อาจเกิดขึ้น อย่างไรก็ตาม Spader สรุปว่าการกระทำดังกล่าวไม่เหมาะสม เนื่องจากนักกฎหมาย ผู้ดำเนินคดี และผู้เชี่ยวชาญด้านกฎหมายอื่นๆ อาจใช้เครื่องมือ AI เพื่อตรวจสอบคำฟ้อง สรุปบันทึก หรือเตรียมคดีต่างๆ ผู้พิพากษาเขียนว่าปัญหาไม่ได้ขึ้นอยู่กับว่าศาลใช้ AI หรือไม่ เนื่องจากเนื้อหาที่ปกปิดนั้นเป็นความพยายามที่จะทำให้ศาลและฝ่ายตรงข้ามเข้าใจผิด

หลังจากที่ศาลยกประเด็นนี้ขึ้น เอลเลียตยังคงวางเนื้อหาที่แทบจะมองไม่เห็นในการยื่นต่อในภายหลัง ตามรายงาน ข้อความบางข้อความอ้างถึงผู้ก่อตั้งฝ่ายตรงข้ามอย่างติดตลก วิดีโอ SpongeBob SquarePants และข้อความที่ส่งถึงใครก็ตามที่อาจเห็นข้อความที่ซ่อนอยู่ เอลเลียตกล่าวว่าการเพิ่มเติมเหล่านี้เป็นเรื่องตลกมากกว่าการพยายามโน้มน้าว AI ต่อไป สเปเดอร์มองว่าการปกปิดอย่างต่อเนื่องเป็นหลักฐานว่าพฤติกรรมดั้งเดิมนั้นเป็นการกระทำโดยเจตนา ผู้พิพากษาห้ามเอลเลียตจากการยื่นฟ้องทางอิเล็กทรอนิกส์ในคดีนี้ แต่อนุญาตให้เขาดำเนินคดีต่อไปและใช้ AI เพื่อช่วยเตรียมการยื่นฟ้อง การพิมพ์เอกสารจะลบข้อความดิจิทัลที่ซ่อนอยู่ออกจากกระบวนการยื่นที่อธิบายไว้ในรายงาน

รายละเอียดที่มา: govtech.com ↗

ทำไมมันถึงสำคัญ

กรณีนี้เป็นตัวอย่างที่ชัดเจนของการอัดฉีดอย่างรวดเร็วจากการสาธิต AI ไปสู่กระบวนการทางกฎหมาย รายงานระบุว่าฝ่ายตุลาการของรัฐคอนเนตทิคัตไม่ได้ใช้ระบบ AI เพื่อตรวจสอบเอกสารที่ยื่นฟ้อง และไม่มีข้อบ่งชี้ว่าคำสั่งที่ซ่อนอยู่ได้เปลี่ยนแปลงผลลัพธ์ของคดี แต่ผู้เข้าร่วมศาล ทนายความ และนักวิจัยด้านกฎหมายใช้ AI เพื่อสรุปเอกสาร ทบทวนเอกสาร และเตรียมข้อโต้แย้งกันมากขึ้นเรื่อยๆ สร้างเส้นทางที่เป็นไปได้สำหรับคำแนะนำที่ซ่อนอยู่เพื่อมีอิทธิพลต่อระบบดาวน์สตรีม

โดยทั่วไปการแทรกคำสั่งทันทีเกี่ยวข้องกับการวางคำแนะนำในเนื้อหาที่ระบบ AI ถูกขอให้อ่าน โดยมีจุดประสงค์เพื่อเปลี่ยนแปลงพฤติกรรมของระบบ กลยุทธ์ที่รายงานมีความสำคัญเนื่องจากคำสั่งถูกปกปิดจากผู้ชมที่เป็นมนุษย์ในขณะที่กำหนดเป้าหมายไปที่ซอฟต์แวร์ สเปเดอร์แสดงลักษณะคำสั่งที่ซ่อนอยู่ว่าเป็นการสื่อสารลับไปยังกลไกที่สสารสามารถอ่านและชั่งน้ำหนักได้ ความแตกต่างดังกล่าวมีความสำคัญในการดำเนินคดีทางกฎหมาย โดยที่ฝ่ายตรงข้ามจะต้องเห็นและตอบข้อโต้แย้งที่นำเสนอต่อศาล

รายงานไม่ได้ระบุว่าระบบ AI อ่านเอกสารของ Elliott ปฏิบัติตามคำแนะนำหรือมีอิทธิพลต่อการพิจารณาคดีจริงๆ มันบอกว่าพรอมต์ดูเหมือนจะไม่ทำงานในกรณีนี้ ข้อจำกัดเหล่านี้มีความสำคัญ: เหตุการณ์ที่เป็นรูปธรรมคือการแทรกและการค้นพบข้อความที่ซ่อนอยู่ ตามมาด้วยการลงโทษ ไม่ใช่ข้อผิดพลาดในการพิจารณาคดีที่ได้รับความช่วยเหลือจาก AI รายงานยังไม่ได้ตรวจสอบพฤติกรรมทางเทคนิคทั้งหมดของเอกสารในระบบซอฟต์แวร์ต่างๆ หรือเวิร์กโฟลว์การสแกนอย่างเป็นอิสระ

เหตุการณ์ดังกล่าวแสดงให้เห็นถึงปัญหาด้านความปลอดภัยในวงกว้างสำหรับองค์กรที่ป้อนเอกสารที่ไม่น่าเชื่อถือเข้าสู่ระบบ AI เอกสารอาจเหมาะสมสำหรับการอ่านของมนุษย์ แต่มีการจัดรูปแบบที่ซ่อนอยู่ ข้อมูลเมตา หรือคำแนะนำที่เครื่องอ่านได้ซึ่งส่งผลต่อตัวสรุปหรือผู้ช่วยอัตโนมัติ ในศาล การยักยอกดังกล่าวอาจบิดเบือนบทสรุป จัดลำดับความสำคัญของการเรียกร้องของฝ่ายหนึ่ง ละเว้นบริบทที่เกี่ยวข้อง หรือสร้างความรู้สึกที่ไม่ถูกต้องของบันทึก ความเสี่ยงที่คล้ายกันอาจเกิดขึ้นในการจ้างงาน การศึกษา การประกันภัย และขั้นตอนการทำงานของภาครัฐ แม้ว่าตัวอย่างของรายงานเกี่ยวกับการตั้งค่าเหล่านั้นจะมาจากผู้พิพากษาและไม่ได้ตรวจสอบอย่างเป็นอิสระที่นี่

กรณีนี้ยังแยกความช่วยเหลือ AI ที่รับผิดชอบออกจากการพึ่งพาที่ไม่ได้รับการตรวจสอบ Spader เขียนว่าเครื่องมือ AI มีแนวโน้มที่จะยังคงเป็นส่วนหนึ่งของงานด้านกฎหมาย และกล่าวว่าเขาใช้ Google Gemini สำหรับการแปลที่ใช้งานได้ และใช้เครื่องมือ Westlaw AI เพื่อตรวจสอบเจ้าหน้าที่ ขณะเดียวกันก็ตรวจสอบผลลัพธ์อย่างอิสระ บทเรียนเชิงปฏิบัติไม่ใช่ว่าศาลจะต้องละทิ้ง AI แต่พวกเขาต้องการการควบคุมเกี่ยวกับแหล่งที่มา การแสดงเอกสาร การตรวจสอบโดยมนุษย์ และความสามารถในการสร้างวิธีสร้างผลลัพธ์ขึ้นมาใหม่ รายงานไม่ได้บอกว่าคอนเนตทิคัตได้นำการควบคุมดังกล่าวไปใช้หรือไม่

จะดูอะไรต่อไป.

คำถามสำคัญที่ยังไม่มีคำตอบคือ ศาลจะตรวจสอบเอกสารที่ส่งแบบดิจิทัลอย่างไร ในเมื่อหน้าที่มองเห็นอาจไม่มีทุกสิ่งที่ฝังอยู่ในไฟล์ รายงานไม่ได้ระบุนโยบายของศาลที่เหมือนกันในการตรวจจับข้อความที่ซ่อนอยู่ และไม่ได้ระบุว่าระบบ AI ใด ๆ ประมวลผลการแจ้งของ Elliott กรณีในอนาคตอาจชี้แจงการคว่ำบาตร หน้าที่การเปิดเผยข้อมูล การป้องกันการประมวลผลเอกสาร และวิธีที่ฝ่ายต่างๆ สามารถท้าทายการตัดสินใจที่ได้รับความช่วยเหลือจาก AI ซึ่งอาจได้รับผลกระทบจากเนื้อหาที่ปกปิด

ศาลและผู้ให้บริการด้านกฎหมายอาจต้องมีขั้นตอนที่เปรียบเทียบลักษณะที่ปรากฏของเอกสารกับข้อความและการจัดรูปแบบที่เกี่ยวข้อง การป้องกันที่เป็นไปได้ ได้แก่ การแปลงเอกสารที่ยื่นเป็นรูปแบบมาตรฐาน ตั้งค่าสถานะข้อความขาวบนขาวและอักขระที่ไม่พิมพ์ การสแกนหาเลเยอร์ที่ซ่อนอยู่ และต้องมีการตรวจสอบโดยมนุษย์ก่อนที่บทสรุปที่สร้างโดย AI จะส่งผลต่อการตัดสินใจ แหล่งที่มาไม่ได้รายงานว่าคอนเนตทิคัตได้ใช้มาตรการใดๆ เหล่านี้ ดังนั้นจึงไม่ควรถือว่ามีการใช้มาตรการเหล่านี้

ข้อพิพาทในอนาคตอาจทดสอบว่าคำสั่งที่ปกปิดนั้นละเมิดกฎที่มีอยู่เกี่ยวกับความจริงใจ ความซื่อสัตย์ในการยื่นฟ้อง การฉ้อโกงหรือการละเมิดกระบวนการศาล และการลงโทษควรแตกต่างออกไปเมื่อมีการแจ้งเพียงเท่านั้นเทียบกับการเปลี่ยนแปลงเอาต์พุต AI ที่แสดงให้เห็นอย่างชัดเจนหรือไม่ ในกรณีของ Elliott การลงโทษที่รายงานคือการสูญเสียสิทธิพิเศษในการยื่นฟ้องทางอิเล็กทรอนิกส์ แทนที่จะยกฟ้องคดี รายงานดังกล่าวไม่ได้ให้ตัวอย่างที่กว้างขึ้นหรือระบุว่าคำตัดสินได้รับการอุทธรณ์แล้วหรือไม่

คำถามสำคัญในการตรวจสอบคือศาล ฝ่าย หรือผู้ขายสามารถแสดงว่าระบบ AI ประมวลผลข้อความที่ซ่อนอยู่หรือไม่ รายงานของแผนกตุลาการคอนเนตทิคัตขาดระบบตรวจสอบการยื่นคำร้องด้วย AI ทำให้การเรียกร้องในทันทีแคบลง แต่นักกฎหมายและผู้ดำเนินคดีอาจใช้เครื่องมือของบุคคลที่สามนอกระบบของศาลเอง เจ้าหน้าที่สืบสวนจำเป็นต้องมีบันทึกการอัพโหลดเอกสาร เวอร์ชันซอฟต์แวร์ ข้อความแจ้ง ผลลัพธ์ และการตัดสินใจของมนุษย์ เพื่อตรวจสอบว่าการบิดเบือนส่งผลต่อผลลัพธ์หรือไม่

รายงานชี้ให้เห็นว่าคำแนะนำที่ปกปิดอาจระบุได้ยากขึ้น เนื่องจากขั้นตอนการทำงานทางกฎหมายต้องอาศัยการสรุปเอกสารและการตรวจสอบอัตโนมัติ มาตรการป้องกันเชิงปฏิบัติจะต้องรักษาการเข้าถึงของผู้ฟ้องร้องที่เป็นตัวแทนตนเอง ขณะเดียวกันก็ป้องกันไม่ให้การยื่นแบบดิจิทัลดำเนินการตามคำสั่งที่ไม่เปิดเผย จนกว่าศาลจะเผยแพร่มาตรฐานทางเทคนิคและขั้นตอนที่ชัดเจนยิ่งขึ้น ขอบเขตของความเสี่ยงยังคงไม่แน่นอน บัญชีของบทความนี้อิงตามรายงาน The Stamford Advocate ที่เผยแพร่ซ้ำโดย GovTech และเนื้อหาของศาลและบทสัมภาษณ์ที่อ้างถึง เอกสารสำคัญและบันทึกการประมวลผล AI ไม่ได้รับการตรวจสอบอย่างอิสระที่นี่

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง