หัวหน้าหน่วยข่าวกรองของจีนให้รายละเอียดเกี่ยวกับภัยคุกคามจาก AI ต่อความปลอดภัยและโครงสร้างพื้นฐาน

เกิดอะไรขึ้น

Bloomberg รายงานว่ารัฐมนตรีกระทรวงความมั่นคงแห่งรัฐ Chen Yixin ตีพิมพ์คำเตือนที่มีรายละเอียดมากที่สุดเรื่องหนึ่งของปักกิ่งเกี่ยวกับปัญญาประดิษฐ์ เขากล่าวว่าการใช้ AI อย่างไม่เหมาะสมโดยฝ่ายตรงข้ามอาจคุกคามความมั่นคงทางการเมือง สถาบัน และอุดมการณ์ของจีน และอ้างถึงความสามารถที่เพิ่มขึ้นของ AI ในการค้นหาข้อบกพร่องของระบบ และสร้างมัลแวร์หรือซอฟต์แวร์ที่ออกแบบมาเพื่อแสวงหาประโยชน์จากพวกเขา

Bloomberg อ้างบทความที่โพสต์เมื่อวันอาทิตย์ในนิตยสาร China Cyberspace อย่างเป็นทางการ รายงานว่า Chen Yixin เตือนว่าความก้าวหน้าของ AI ที่รวดเร็วอาจคุกคามเสถียรภาพทางการเมืองและโครงสร้างพื้นฐานที่สำคัญ Bloomberg กล่าวว่า Chen ระบุถึงการละเมิดฝ่ายตรงข้ามโดยเฉพาะซึ่งอาจคุกคามความมั่นคงทางการเมือง สถาบัน และอุดมการณ์ รวมถึงความสามารถที่เพิ่มขึ้นของ AI ในการค้นหาจุดอ่อนในระบบ และสร้างมัลแวร์หรือซอฟต์แวร์อื่น ๆ เพื่อใช้ประโยชน์จากพวกเขา

แหล่งที่มาไม่ได้ให้หลักฐานทางเทคนิค ตัวอย่างเหตุการณ์ รายละเอียดเกี่ยวกับระบบที่ได้รับผลกระทบ หรือข้อมูลเกี่ยวกับกฎระเบียบใหม่ ข้อจำกัด หรือคำสั่งการปฏิบัติงานที่ออกโดยทางการจีน นอกจากนี้ยังไม่ได้ยืนยันโดยอิสระถึงลักษณะเฉพาะของความสามารถด้าน AI ของรัฐมนตรีข่าวกรอง

รายละเอียดที่มา: bloomberg.com ↗

ทำไมมันถึงสำคัญ

รายงานดังกล่าวเชื่อมโยงการเติบโตของขีดความสามารถ AI โดยตรงกับความเสี่ยงด้านความมั่นคงของชาติที่ระบุโดยเจ้าหน้าที่ข่าวกรองอาวุโสของจีน นั่นทำให้คำเตือนมีความเกี่ยวข้องนอกเหนือจากการอภิปรายด้านความปลอดภัยของ AI ทั่วไป: เกี่ยวข้องกับการดำเนินงานทางไซเบอร์ โครงสร้างพื้นฐานที่สำคัญ และเสถียรภาพของรัฐ บัญชีของ Bloomberg เป็นแหล่งที่มาของการเรียกร้องเหล่านี้ แหล่งที่มาที่ให้ไว้ที่นี่ไม่ได้ตรวจสอบการประเมินของ Chen อย่างอิสระ บันทึกการโจมตีเฉพาะ หรือแสดงให้เห็นว่าจีนได้นำการควบคุมใหม่มาใช้เพื่อตอบโต้

กิจกรรมทางไซเบอร์ที่ได้รับความช่วยเหลือจาก AI สามารถเพิ่มความเร็วหรือขนาดของการค้นพบช่องโหว่และการพัฒนาซอฟต์แวร์ที่เป็นอันตราย ซึ่งอาจเพิ่มภาระให้กับรัฐบาลและผู้ให้บริการโครงสร้างพื้นฐานในการตรวจจับและควบคุมการโจมตี ความหมายเชิงปฏิบัตินั้นตามมาจากความสามารถของ Bloomberg ที่มีต่อ Chen แต่รายงานไม่ได้กำหนดว่าเครื่องมือดังกล่าวมีประสิทธิภาพเพียงใดในการดำเนินงานในโลกแห่งความเป็นจริง

แถลงการณ์ดังกล่าวมีความโดดเด่นเนื่องจากมาจากรัฐมนตรีกระทรวงความมั่นคงแห่งรัฐของจีน และตีกรอบให้ AI เป็นความเสี่ยงต่อความมั่นคงทางการเมืองและสถาบันภายในประเทศ รวมถึงความปลอดภัยทางไซเบอร์ อย่างไรก็ตาม บทความเพียงอย่างเดียวไม่สามารถระบุได้ว่าคำเตือนแสดงถึงทิศทางนโยบายใหม่ จุดยืนระหว่างประเทศที่มีการประสานงาน หรือการประเมินที่ได้รับการสนับสนุนจากข่าวกรองที่เปิดเผย

จะดูอะไรต่อไป.

ติดตามนโยบายของจีน มาตรการทางทหารหรือความปลอดภัยทางไซเบอร์ที่เป็นรูปธรรมตามคำเตือน รวมถึงเหตุการณ์ที่จัดทำเป็นเอกสารอย่างอิสระที่เกี่ยวข้องกับการค้นพบช่องโหว่ที่ได้รับความช่วยเหลือจาก AI หรือการสร้างมัลแวร์ ยังไม่ชัดเจนว่าคำแถลงดังกล่าวบ่งบอกถึงการเปลี่ยนแปลงนโยบายการดำเนินงานของปักกิ่งหรือเป็นการประเมินความเสี่ยงสาธารณะเป็นหลัก แหล่งที่มาไม่ได้ให้รายละเอียดเกี่ยวกับผู้นำด้านเทคโนโลยีของสหรัฐฯ ที่อ้างถึงในหัวข้อข่าว รวมถึงข้อเสนอหรือช่วงเวลาที่เฉพาะเจาะจงของพวกเขา

คำแนะนำอย่างเป็นทางการหรือการควบคุมเพิ่มเติมจากหน่วยงานรักษาความปลอดภัยทางไซเบอร์และความมั่นคงของรัฐของจีนจะชี้แจงว่าคำเตือนดังกล่าวมีผลกระทบต่อนโยบายในทันทีหรือไม่

การรายงานอิสระหรือการวิจัยทางเทคนิคที่บันทึกระบบ AI ที่พบข้อบกพร่องที่สามารถใช้ประโยชน์ได้หรือการสร้างมัลแวร์จะช่วยประเมินระดับความเสี่ยงในทางปฏิบัติที่อธิบายไว้

พาดหัวของแหล่งข่าวอ้างอิงถึงผู้นำเทคโนโลยีของสหรัฐฯ ที่เรียกร้องให้การพัฒนา AI ช้าลง แต่ข้อความในบทความที่ให้มาไม่ได้ให้รายละเอียดที่สำคัญเกี่ยวกับการโทรเหล่านั้น ดังนั้นความสัมพันธ์ระหว่างพวกเขากับคำเตือนของ Chen จึงยังไม่ชัดเจน

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง