พรรคเดโมแครตเรียกร้องให้มีการสอบสวนเกี่ยวกับความผิดพลาดของข้อมูลทางการทหารของ AI

เกิดอะไรขึ้น

กลุ่มวุฒิสมาชิกอาวุโสจากพรรคเดโมแครต รวมถึงมาร์ค วอร์เนอร์, แจ็ค รีด และคริส คูนส์ ได้ส่งจดหมายอย่างเป็นทางการเมื่อวันศุกร์ เรียกร้องให้หน่วยงานเฝ้าระวังของรัฐบาลตรวจสอบข้อผิดพลาดที่สำคัญในแผนการกำหนดเป้าหมายทางทหารของสหรัฐฯ ที่เกิดจากปัญญาประดิษฐ์ จดหมายดังกล่าวอ้างถึงรายงานของ CNN ที่ให้รายละเอียดเกี่ยวกับเหตุการณ์ที่นักวิเคราะห์อาศัย AI เพื่อสร้างรายงานข่าวกรองที่ระบุเรือบรรทุกสินค้าของจีนอย่างไม่ถูกต้องว่าบรรทุกส่วนประกอบอาวุธนิวเคลียร์ ข้อผิดพลาดนี้ทำให้กองทัพสหรัฐฯ เตรียมปฏิบัติการสกัดกั้นที่จะถูกยกเลิกหลังจากที่เจ้าหน้าที่ตระหนักว่ารายงานที่สร้างโดย AI นั้นเป็นเท็จโดยสิ้นเชิง วุฒิสมาชิกยังกล่าวถึงการโจมตีครั้งร้ายแรงในอิหร่านเมื่อเดือนกุมภาพันธ์ ซึ่งทำให้มีผู้เสียชีวิตเกือบ 200 คน ซึ่งแหล่งข่าวบอกกับซีเอ็นเอ็นเกิดขึ้นหลังจากที่ผู้บังคับบัญชาหลีกเลี่ยงคำเตือนฐานข้อมูลที่ขับเคลื่อนด้วย AI เกี่ยวกับข่าวกรองที่ล้าสมัย จดหมายดังกล่าวเรียกร้องให้ผู้ตรวจราชการสอบสวนทันทีด้วยความโปร่งใสของสาธารณะ โดยอ้างว่าการจัดลำดับความสำคัญของการนำ AI มาใช้มากกว่าการกำกับดูแลได้ก่อให้เกิดความเสี่ยงในการปฏิบัติงานที่ร้ายแรง

กลุ่มวุฒิสมาชิกระดับสูงของพรรคเดโมแครต รวมถึงมาร์ค วอร์เนอร์, แจ็ค รีด และคริส คูนส์ ได้ส่งจดหมายเมื่อวันศุกร์ถึงรัฐมนตรีกระทรวงกลาโหม พีท เฮกเซธ และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ เจย์ เคลย์ตัน จดหมายดังกล่าวเรียกร้องให้ผู้ตรวจราชการที่เกี่ยวข้องสอบสวนข้อผิดพลาดต่างๆ ในแผนการกำหนดเป้าหมายทางทหารของสหรัฐฯ ที่เกิดจากปัญญาประดิษฐ์โดยทันที วุฒิสมาชิกแสดงความกังวลเพิ่มมากขึ้นว่าหน่วยงานภายใต้การดูแลของพวกเขาได้จัดลำดับความสำคัญของการเร่งการนำความสามารถ AI มาใช้และการทดลองเหนือการกำกับดูแลที่มีประสิทธิผล

จดหมายดังกล่าวอ้างถึงการรายงานของ CNN โดยเฉพาะเกี่ยวกับการพูดคุยอย่างใกล้ชิดเกี่ยวกับเรือของจีนในตะวันออกกลาง ตามแหล่งข่าวที่คุ้นเคยกับเหตุการณ์ดังกล่าว นักวิเคราะห์หน่วยปฏิบัติการพิเศษอาศัย AI เพื่อสร้างรายงานข่าวกรองที่ระบุวัสดุบนเรือบรรทุกสินค้าของจีนอย่างไม่ถูกต้อง รายงานดังกล่าวทำให้กองทัพสหรัฐฯ เชื่อว่าเรือลำดังกล่าวกำลังขนส่งส่วนประกอบของโครงการอาวุธนิวเคลียร์ ทหารเริ่มอำนวยความสะดวกในแผนการสกัดกั้นเรือลำนี้ก่อนที่เจ้าหน้าที่จะตระหนักว่ารายงานดังกล่าวถูกสร้างขึ้นด้วยความช่วยเหลือของ AI และเป็นเท็จโดยสิ้นเชิง แหล่งข่าวรายหนึ่งอธิบายว่าสิ่งนี้เป็น 'ภาพหลอน' ซึ่งไม่ใช่เหตุการณ์ที่เกิดขึ้นอย่างโดดเดี่ยวในชุมชนข่าวกรองนับตั้งแต่การใช้ AI เริ่มแพร่หลายในรัฐบาล

วุฒิสมาชิกยังอ้างถึงเหตุโจมตีโรงเรียนแห่งหนึ่งในเมืองมินาบ ประเทศอิหร่าน เมื่อเดือนกุมภาพันธ์ ซึ่งทำให้เด็กและผู้ใหญ่เสียชีวิตเกือบ 200 ราย แหล่งข่าว 3 รายบอกกับซีเอ็นเอ็นเมื่อต้นปีที่ผ่านมาว่า การโจมตีดังกล่าวเกิดขึ้นหลังจากผู้บัญชาการทหารอาวุโสของสหรัฐฯ เลี่ยงคำเตือนในฐานข้อมูลที่สำคัญ รวมถึงฐานข้อมูลที่ขับเคลื่อนโดย AI ว่าข่าวกรองเกี่ยวกับเป้าหมายที่อาจเป็นไปได้ในอิหร่านนั้นล้าสมัยอย่างมาก จดหมายระบุว่ารายงานสาธารณะเกี่ยวกับแพลตฟอร์มการกำหนดเป้าหมาย AI ที่สร้างผลลัพธ์ปลอมมีความเสี่ยงในการปฏิบัติงานที่ผิดพลาดร้ายแรง และบ่อนทำลายความเชื่อมั่นในหน่วยข่าวกรองและการกระทำทางจลน์ศาสตร์ของสหรัฐฯ

จดหมายดังกล่าวเรียกร้องให้ Hegseth และ Clayton ตรวจสอบเรื่องนี้โดยทันที และจัดให้มีการเข้าถึงทั้งสองกรณีอย่างไม่จำกัดแก่ผู้ตรวจทั่วไปในปีนี้ ซึ่งรายงานของสื่อได้ชี้ให้เห็นถึงข้อผิดพลาดที่สำคัญในเวิร์กโฟลว์การกำหนดเป้าหมายที่เปิดใช้งาน AI รวมถึงกรณีเพิ่มเติมใด ๆ ที่ยังไม่ได้รายงานต่อสาธารณะ วุฒิสมาชิกเน้นย้ำถึงความจำเป็นในการยกระดับความโปร่งใสของสาธารณะในการค้นพบขั้นสุดท้าย โดยคำนึงถึงผลกระทบที่ความล้มเหลวที่รับรู้เหล่านี้มีต่อความเชื่อมั่นของสาธารณชนต่อภารกิจข่าวกรองและการสู้รบ

รายละเอียดที่มา: edition.cnn.com ↗

ทำไมมันถึงสำคัญ

การพัฒนานี้เน้นย้ำถึงอันตรายที่จับต้องได้ของการบูรณาการ AI เข้ากับกระบวนการทางการทหารและข่าวกรองที่มีเดิมพันสูงโดยไม่มีการกำกับดูแลที่แข็งแกร่ง เหตุการณ์ที่ CNN บรรยายไว้ ซึ่งภาพหลอนของ AI เกือบจะก่อให้เกิดสงคราม ตอกย้ำถึงความจำเป็นที่สำคัญอย่างยิ่งในการกำกับดูแลและการตรวจสอบโดยมนุษย์ในระบบอัตโนมัติ การเรียกร้องของวุฒิสมาชิกให้มีการสอบสวนของผู้ตรวจราชการ ส่งสัญญาณถึงฉันทามติทางการเมืองที่เพิ่มมากขึ้นว่า การนำ AI มาใช้ในภาคกลาโหมในปัจจุบันอาจแซงหน้าการพัฒนาการควบคุมความปลอดภัยที่จำเป็น สิ่งนี้อาจนำไปสู่กรอบการกำกับดูแลใหม่หรือการเปลี่ยนแปลงนโยบายภายในภายในกระทรวงกลาโหมเพื่อให้มั่นใจถึงความน่าเชื่อถือของ AI ในการดำเนินงานจลน์ศาสตร์

เหตุการณ์ที่เกี่ยวข้องกับเรือบรรทุกสินค้าของจีนแสดงให้เห็นถึงความเสี่ยงร้ายแรงของการพึ่งพา AI ในการประเมินข่าวกรองที่สำคัญโดยไม่มีการตรวจสอบโดยมนุษย์อย่างเพียงพอ ความจริงที่ว่าข้อผิดพลาดนี้ตรวจพบได้ก่อนที่ปฏิบัติการทางทหารตามแผนจะเน้นย้ำถึงความเป็นไปได้ที่จะเกิดภัยพิบัติทางการฑูตและการทหารตามมา หากภาพหลอนของ AI ไม่ได้รับการจัดการอย่างเหมาะสม เหตุการณ์นี้เป็นตัวอย่างที่ชัดเจนว่าเหตุใดการควบคุมการกำกับดูแลและความปลอดภัยจึงมีความสำคัญในแอปพลิเคชัน AI ที่มีเดิมพันสูง

การอ้างอิงถึงการโจมตีครั้งร้ายแรงในอิหร่านยังตอกย้ำถึงความเสียหายของมนุษย์จากความล้มเหลวด้านข่าวกรองที่เกี่ยวข้องกับ AI การข้ามคำเตือนที่ขับเคลื่อนโดย AI เกี่ยวกับข้อมูลที่ล้าสมัย แสดงให้เห็นว่าระบบปัจจุบันอาจไม่สามารถบูรณาการเข้ากับกระบวนการตัดสินใจได้อย่างมีประสิทธิภาพ หรือผู้ปฏิบัติงานที่เป็นมนุษย์อาจเอาชนะการตรวจสอบความปลอดภัยที่สำคัญได้ สิ่งนี้ทำให้เกิดคำถามจริงจังเกี่ยวกับความน่าเชื่อถือของเวิร์กโฟลว์การกำหนดเป้าหมายที่ใช้ AI และความจำเป็นสำหรับกลไกการกำกับดูแลที่แข็งแกร่งยิ่งขึ้น

การเรียกร้องของวุฒิสมาชิกให้มีการสอบสวนผู้ตรวจราชการทั่วไปส่งสัญญาณถึงการเปลี่ยนแปลงในพลวัตทางการเมืองเกี่ยวกับ AI ในกองทัพ ในขณะที่การถกเถียงเรื่องกฎระเบียบของ AI ครอบงำสภาคองเกรส โดยพรรคเดโมแครตเรียกร้องให้มีการควบคุมที่เข้มงวดยิ่งขึ้น และพรรครีพับลิกันเตือนไม่ให้การพัฒนาช้าลง เหตุการณ์นี้เป็นกรณีที่น่าสนใจสำหรับความจำเป็นในการกำกับดูแลที่มีประสิทธิผล ผลลัพธ์ของการสอบสวนอาจมีอิทธิพลต่อการตัดสินใจเชิงนโยบายในอนาคต และอาจนำไปสู่กฎระเบียบใหม่หรือโปรโตคอลภายในเพื่อให้มั่นใจถึงความน่าเชื่อถือของ AI ในการปฏิบัติการทางทหาร

จะดูอะไรต่อไป.

ติดตามการตอบสนองของรัฐมนตรีกลาโหม พีท เฮกเซธ และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ เจย์ เคลย์ตัน ต่อจดหมายของวุฒิสมาชิก นอกจากนี้ ให้ตรวจสอบว่าผู้ตรวจราชการเริ่มการสอบสวนอย่างเป็นทางการเกี่ยวกับเหตุการณ์เฉพาะที่อ้างถึง รวมถึงการสกัดกั้นเรือของจีนและการโจมตีของอิหร่านหรือไม่ ผลลัพธ์ของการสอบสวนนี้อาจส่งผลต่อการอภิปรายในวงกว้างของรัฐสภาเกี่ยวกับกฎระเบียบด้าน AI ในกองทัพ และอาจส่งผลกระทบต่อการเจรจาที่กำลังดำเนินอยู่ระหว่างกระทรวงกลาโหมและบริษัท AI เช่น Anthropic เกี่ยวกับการใช้แบบจำลองของพวกเขาในอาวุธอัตโนมัติ

การตอบสนองจากรัฐมนตรีกลาโหม Pete Hegseth และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ Jay Clayton ต่อจดหมายของวุฒิสมาชิกจะเป็นตัวบ่งชี้ที่สำคัญของจุดยืนของฝ่ายบริหารเกี่ยวกับการกำกับดูแล AI ในกองทัพ ปฏิกิริยาของพวกเขาอาจเปิดเผยว่าพวกเขาเต็มใจที่จะให้ความร่วมมือกับการสอบสวนของจเรตำรวจ หรือพวกเขาจะปกป้องแนวทางการนำ AI มาใช้ในปัจจุบันหรือไม่

การเริ่มการสอบสวนอย่างเป็นทางการโดยผู้ตรวจราชการเกี่ยวกับเหตุการณ์เฉพาะที่อ้างถึงในจดหมายจะเป็นการพัฒนาที่สำคัญ ขอบเขตและการค้นพบของการสืบสวนนี้สามารถให้ข้อมูลเชิงลึกที่มีคุณค่าเกี่ยวกับขอบเขตของข้อผิดพลาดที่เกี่ยวข้องกับ AI ในเวิร์กโฟลว์การกำหนดเป้าหมายทางทหาร และประสิทธิผลของมาตรการกำกับดูแลในปัจจุบัน

การอภิปรายอย่างต่อเนื่องในสภาคองเกรสเกี่ยวกับกฎระเบียบของ AI อาจได้รับอิทธิพลจากผลลัพธ์ของการสอบสวนนี้ หากการสอบสวนเผยให้เห็นความล้มเหลวที่สำคัญในการกำกับดูแล AI ก็อาจทำให้กรณีนี้มีความเข้มแข็งมากขึ้นสำหรับกฎระเบียบที่เข้มงวดยิ่งขึ้น และกลไกการกำกับดูแลที่แข็งแกร่งยิ่งขึ้น ในทางกลับกัน หากการสอบสวนพบว่าเหตุการณ์ต่างๆ ถูกแยกออกจากกันและการควบคุมในปัจจุบันมีประสิทธิผล ก็อาจสนับสนุนข้อโต้แย้งในการนำ AI มาใช้อย่างรวดเร็วอย่างต่อเนื่อง

ความสัมพันธ์ระหว่างเพนตากอนและบริษัท AI เช่น Anthropic อาจได้รับผลกระทบจากเหตุการณ์นี้เช่นกัน กระทรวงกลาโหมได้โต้เถียงกับ Anthropic เกี่ยวกับการที่บริษัทปฏิเสธที่จะถอดราวกั้นความปลอดภัยภายในออก ที่จะป้องกันไม่ให้กองทัพใช้โมเดล Claude AI ในอาวุธอัตโนมัติและการสอดแนมจำนวนมาก ผลลัพธ์ของการสอบสวนอาจส่งผลต่อการเจรจาและความร่วมมือในอนาคตระหว่างกองทัพและนักพัฒนา AI

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง