เกิดอะไรขึ้น
South China Morning Post รายงานว่า Chen Yixin รัฐมนตรีกระทรวงความมั่นคงแห่งรัฐของจีน เตือนว่าปัญญาประดิษฐ์ได้กลายเป็นเวทีใหม่สำหรับการแข่งขันเชิงกลยุทธ์ ในบทความที่ตีพิมพ์โดย China Cyberspace ซึ่งเป็นวารสารที่ดำเนินการโดยหน่วยงานกำกับดูแลทางไซเบอร์สเปซของจีน Chen เรียกร้องให้มีกรอบการป้องกันความเสี่ยงที่แข็งแกร่งขึ้น ระบบเตือนภัยล่วงหน้า และการกำกับดูแล AI ระหว่างประเทศ เขากล่าวว่ากองกำลังที่ไม่เป็นมิตรสามารถใช้ AI เพื่อเผยแพร่ข้อมูลที่บิดเบือน ขโมยข้อมูลที่ละเอียดอ่อน และลดต้นทุนของการโจมตีทางไซเบอร์ รายงานยังกล่าวอีกว่า Chen วิพากษ์วิจารณ์ระบบนิเวศแบบปิดและการควบคุมเทคโนโลยีที่เขาโต้แย้งว่าทำให้การแบ่งแยก AI ทั่วโลกลึกซึ้งยิ่งขึ้น
ตามรายงานของ South China Morning Post Chen Yixin เขียนว่า AI อาจมีผลกระทบอย่างเป็นระบบต่อความมั่นคงทางอุดมการณ์ และกองกำลังที่ไม่เป็นมิตรสามารถนำมาใช้เพื่อสร้างข่าวลือและสร้างข้อมูลที่เป็นอันตรายจำนวนมาก นอกจากนี้เขายังเตือนด้วยว่า AI อาจคุกคามโครงสร้างพื้นฐานข้อมูลที่สำคัญโดยการลดเกณฑ์ทางเทคนิคและต้นทุนของการโจมตีทางไซเบอร์
รายงานระบุถึงความกังวลของ Chen เกี่ยวกับหน่วยข่าวกรองต่างประเทศที่ใช้โปรแกรมรวบรวมข้อมูลเว็บ การทำเหมืองข้อมูล และการทำโปรไฟล์เพื่อรวบรวมข้อมูลของรัฐ ความลับทางธุรกิจ และข้อมูลส่วนบุคคล Chen ยังเตือนอีกว่าผู้ใช้อาจทำให้ข้อมูลภายในประเทศรั่วไหลโดยการประมวลผลข้อมูลที่ละเอียดอ่อนผ่านเครื่องมือ AI ต่างประเทศ
ตามรายงาน Chen อ้างถึงช่องโหว่ในเอเจนต์ AI แบบโอเพ่นซอร์ส รวมถึงเอเจนต์ที่ระบุในรายงานว่าเป็น OpenClaw ที่อาจยอมให้มีการควบคุมอุปกรณ์ระยะไกลหรือการรั่วไหลของข้อมูลที่ละเอียดอ่อน แหล่งที่มาไม่มีการทดสอบอิสระ เอกสารทางเทคนิค หรือการตรวจสอบข้อเรียกร้องเหล่านั้น
เฉินเรียกร้องให้มีกลไกการเตือนภัยล่วงหน้าและคำแนะนำสาธารณะเกี่ยวกับการจารกรรม การโจรกรรมความลับของรัฐ ข้อมูลบิดเบือน และการควบคุมเชิงยุทธศาสตร์ รายงานยังเชื่อมโยงความคิดเห็นของเขากับการสนับสนุนของจีนสำหรับองค์กรความร่วมมือ AI โลกที่ได้รับการสนับสนุนจากจีน ซึ่งมีรายงานว่า 29 ประเทศเห็นพ้องกันในเดือนกรกฎาคมที่จะจัดตั้งขึ้นในเซี่ยงไฮ้
ทำไมมันถึงสำคัญ
คำกล่าวดังกล่าวทำให้ความปลอดภัยของ AI การควบคุมข้อมูล และการกำกับดูแลเทคโนโลยี เป็นศูนย์กลางของการแข่งขันเชิงกลยุทธ์ในวงกว้างของจีนกับสหรัฐอเมริกา พวกเขายังแสดงให้เห็นว่าเจ้าหน้าที่ความมั่นคงแห่งชาติวางกรอบการเข้าถึงโมเดลขั้นสูง การปกป้องข้อมูล และมาตรฐานสากลแบบเปิดในฐานะปัญหาทางภูมิรัฐศาสตร์ ไม่ใช่แค่ปัญหาทางเทคนิคหรือเชิงพาณิชย์เท่านั้น นัยสำคัญในทางปฏิบัติยังคงมีจำกัดจนกว่าจีนหรือรัฐบาลอื่นๆ จะบังคับใช้กฎเกณฑ์ มาตรการบังคับใช้ หรือมาตรการป้องกันในการปฏิบัติงานเฉพาะกับข้อกังวลที่ระบุไว้เหล่านี้
รายงานดังกล่าวอธิบายถึงกรอบการรักษาความปลอดภัยที่มีผลกระทบในทางปฏิบัติหลายประการ ได้แก่ องค์กรอาจเผชิญกับแรงกดดันมากขึ้นในการจำกัดการใช้บริการ AI ต่างประเทศที่มีความละเอียดอ่อน รัฐบาลอาจขยายการตรวจสอบการดำเนินงานที่มีอิทธิพลซึ่งเปิดใช้งาน AI และนักพัฒนาแบบจำลองหรือตัวแทนอาจได้รับการคาดหวังให้แสดงให้เห็นถึงการควบคุมที่แข็งแกร่งยิ่งขึ้นในการเข้าถึงข้อมูลและการทำงานของอุปกรณ์
มิติทางภูมิรัฐศาสตร์มีความสำคัญเนื่องจากความคิดเห็นของ Chen เชื่อมโยงความปลอดภัยของ AI และความปลอดภัยทางไซเบอร์เข้ากับการควบคุมการส่งออก ข้อจำกัดด้านห่วงโซ่อุปทาน การตั้งค่ามาตรฐาน และระบบนิเวศแบบปิด South China Morning Post นำเสนอสิ่งเหล่านี้โดยเป็นส่วนหนึ่งของการแข่งขันด้านเทคโนโลยีระหว่างสหรัฐฯ และจีนในวงกว้าง บทความนี้ไม่ได้ระบุอย่างอิสระว่าแบบจำลองหรือเครื่องมือที่อ้างถึงทำให้เกิดเหตุการณ์เฉพาะ
คำกล่าวดังกล่าวถือเป็นการส่งสัญญาณเชิงนโยบาย แต่ยังคงเป็นคำกล่าวของเจ้าหน้าที่อาวุโสของจีนที่รายงานโดย South China Morning Post แหล่งที่มาไม่ได้บันทึกกฎหมายใหม่ การดำเนินการบังคับใช้ การโจมตีที่ได้รับการตรวจสอบ หรือความสามารถของโมเดลที่วัดโดยอิสระ
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
คอยสังเกตกฎระเบียบของจีน คำแนะนำสาธารณะ หรือข้อกำหนดด้านความปลอดภัยที่เกี่ยวข้องกับข้อมูลที่ละเอียดอ่อนที่ป้อนเข้าไปในเครื่องมือ AI ต่างประเทศ การโจมตีทางไซเบอร์ที่เปิดใช้งาน AI และตัวแทนอิสระที่มีช่องโหว่ ยังไม่ชัดเจนว่ากรอบการกำกับดูแลระหว่างประเทศที่นำเสนอจะก่อให้เกิดมาตรฐานที่มีผลผูกพันหรือทำหน้าที่เป็นเวทีการทูตเป็นหลัก รายงานของ South China Morning Post ไม่ได้ยืนยันการประเมินทางเทคนิคของ Chen อย่างอิสระหรือระบุถึงความรุนแรงของช่องโหว่ที่ถูกกล่าวหา
สิ่งที่ไม่ทราบหลักคือการนำไปปฏิบัติ การเรียกร้องของ Chen สำหรับกรอบการป้องกันความเสี่ยงและกฎเกณฑ์ทั่วโลกไม่ได้ระบุถึงภาระผูกพันในการปฏิบัติตามกฎระเบียบ หน่วยงานที่รับผิดชอบ อำนาจในการบังคับใช้ หรือตารางเวลา
ไม่มีเงื่อนไขการเข้าถึงหรือการกำหนดราคา เนื่องจากนี่เป็นนโยบายและการพัฒนาความปลอดภัย ไม่ใช่การเปิดตัวผลิตภัณฑ์ แหล่งที่มาไม่ได้สร้างความพร้อมใช้งานทั่วไป สถานะการใช้งาน หรือความสามารถที่ได้รับการตรวจสอบโดยอิสระสำหรับระบบ AI และตัวแทนที่กล่าวถึง
การรายงานในอนาคตควรชี้แจงว่าองค์การความร่วมมือ AI โลกพัฒนามาตรฐานการปฏิบัติงาน จัดการกับความแตกต่างระหว่างนโยบายระดับชาติอย่างไร และรัฐบาลอื่นๆ นำข้อเสนอแนะของตนอย่างเป็นทางการหรือไม่
ยังคงจำเป็นต้องมีหลักฐานทางเทคนิคที่เป็นอิสระสำหรับการกล่าวอ้างของแหล่งที่มาเกี่ยวกับค่าใช้จ่ายในการโจมตีทางไซเบอร์ ช่องโหว่ของเอเจนต์โอเพ่นซอร์ส และความเสี่ยงในการรั่วไหลของข้อมูล