พรรคเดโมแครตเรียกร้องให้มีการสอบสวนข้อผิดพลาดทางปัญญาทางการทหารที่ได้รับความช่วยเหลือจาก AI

เกิดอะไรขึ้น

วุฒิสมาชิกพรรคเดโมแครตส่งจดหมายถึงรัฐมนตรีกลาโหม Pete Hegseth และ DNI Jay Clayton เรียกร้องให้มีการสอบสวนข้อผิดพลาดที่เกี่ยวข้องกับ AI ในด้านข่าวกรองทหารโดยทันที

ตามข้อมูลของ news.meaww.com กลุ่มวุฒิสมาชิกพรรคเดโมแครต ซึ่งรวมถึงมาร์ค วอร์เนอร์, แจ็ค รีด และคริส คูน เขียนถึงรัฐมนตรีกลาโหม พีท เฮกเซธ และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ เจย์ เคลย์ตัน เมื่อวันที่ 19 กันยายน จดหมายดังกล่าวเรียกร้องให้ผู้ตรวจราชการที่เกี่ยวข้องสอบสวนเรื่องข้อผิดพลาดต่างๆ ในแผนการกำหนดเป้าหมายทางทหารของสหรัฐฯ ที่เกิดจากปัญญาประดิษฐ์โดยทันที

วุฒิสมาชิกอ้างถึงเหตุการณ์เฉพาะเจาะจงที่มีการเผยแพร่รายงานด้านกลาโหมไปทั่วกองทัพสหรัฐฯ โดยอ้างว่าเรือของจีนกำลังขนส่งส่วนประกอบของโครงการอาวุธนิวเคลียร์ในตะวันออกกลาง จดหมายระบุว่าหน่วยงานต่างๆ ได้ให้ความสำคัญกับการเร่งการนำความสามารถด้าน AI มาใช้และการทดลอง เหนือการกำกับดูแลที่มีประสิทธิผล

แหล่งข่าวตั้งข้อสังเกตว่าก่อนหน้านี้ CNN รายงานก่อนหน้านี้ว่านักวิเคราะห์คำสั่งปฏิบัติการพิเศษอาศัย AI เพื่อสร้างรายงานข่าวกรองนี้ ซึ่งได้รับการอธิบายว่า 'เท็จทั้งหมด' รายงานดังกล่าวกระตุ้นให้กองทัพสหรัฐฯ เตรียมปฏิบัติการสกัดกั้นเรือเหล่านั้น เจ้าหน้าที่เพียงแต่ค้นพบว่ารายงานดังกล่าวสร้างขึ้นโดย AI และไม่ถูกต้องในขณะที่ปฏิบัติการกำลังดำเนินอยู่ โดยมีเครื่องบินทหารลอยอยู่ในอากาศ

เหตุการณ์ดังกล่าวถูกหลีกเลี่ยงอย่างหวุดหวิด แต่แหล่งข่าวอ้างคำพูดของบุคคลหนึ่งว่าสถานการณ์นี้ "เกือบจะก่อให้เกิดสงคราม" วุฒิสมาชิกเรียกร้องให้มีการยกระดับความโปร่งใสของสาธารณะในการค้นพบขั้นสุดท้าย เพื่อฟื้นฟูความเชื่อมั่นของสาธารณชนต่อภารกิจข่าวกรองและการสู้รบ

รายละเอียดที่มา: news.meaww.com ↗

ทำไมมันถึงสำคัญ

เหตุการณ์ดังกล่าวเน้นย้ำถึงช่องว่างด้านความปลอดภัยและการกำกับดูแลที่สำคัญในการนำ AI มาใช้ของกองทัพ ซึ่งการวิเคราะห์อัตโนมัติเกือบจะนำไปสู่การตอบสนองทางจลน์ของกองทัพโดยอาศัยข้อมูลเท็จ

เหตุการณ์นี้แสดงให้เห็นถึงความขัดแย้งที่เพิ่มขึ้นอย่างมีนัยสำคัญเกี่ยวกับความปลอดภัยของ AI ในสภาพแวดล้อมความมั่นคงแห่งชาติที่มีเดิมพันสูง โดยเปลี่ยนการสนทนาจากความเสี่ยงทางทฤษฎีไปสู่การเกือบพลาดที่บันทึกไว้ซึ่งเกี่ยวข้องกับทรัพย์สินทางจลนศาสตร์ทางทหาร

เหตุการณ์ดังกล่าวตอกย้ำถึงอันตรายของ 'อคติด้านระบบอัตโนมัติ' ในการปฏิบัติการทางทหาร ซึ่งผู้ปฏิบัติงานอาจไว้วางใจหน่วยข่าวกรองที่สร้างโดย AI โดยไม่มีการตรวจสอบยืนยันโดยมนุษย์อย่างเพียงพอ โดยเฉพาะอย่างยิ่งภายใต้แรงกดดันด้านเวลา

โดยเน้นย้ำถึงความล้มเหลวในการกำกับดูแลที่ความเร็วของการนำ AI มาใช้แซงหน้าการพัฒนากลไกการกำกับดูแลและการตรวจสอบข้อผิดพลาดที่จำเป็นภายในกระทรวงกลาโหม

จะดูอะไรต่อไป.

การตอบสนองจากกระทรวงกลาโหมและขอบเขตการสอบสวนของผู้ตรวจราชการเกี่ยวกับระเบียบการกำกับดูแล AI

การตอบสนองอย่างเป็นทางการจากกระทรวงกลาโหมและชุมชนข่าวกรองต่อจดหมายของวุฒิสมาชิก

ขอบเขตและระยะเวลาของการสืบสวนของผู้ตรวจราชการ โดยเฉพาะอย่างยิ่งว่าจะตรวจสอบแนวทางปฏิบัติในการบูรณาการ AI ในวงกว้างทั่วทั้งกองทัพหรือไม่

การเปลี่ยนแปลงทางกฎหมายหรือนโยบายที่อาจเกิดขึ้นซึ่งมุ่งเป้าไปที่การบังคับใช้ข้อกำหนดของมนุษย์ในวงสำหรับข่าวกรองที่สร้างโดย AI ซึ่งใช้ในการกำหนดเป้าหมายการตัดสินใจ

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง