Chosunbiz รายงานคำเตือน Cloudflare เกี่ยวกับการรับส่งข้อมูล AI-agent และความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้นในเกาหลีใต้

เกิดอะไรขึ้น

Chosunbiz รายงานว่าผู้บริหาร Cloudflare ที่พูดในช่วงการศึกษาด้านสื่อในกรุงโซลเตือนว่าตัวแทน AI กำลังสร้างการรับส่งข้อมูลเครือข่ายที่เพิ่มขึ้นอย่างรวดเร็ว และขยายจำนวนบริการที่บริษัทต้องรักษาความปลอดภัย ผู้บริหารเรียกร้องให้องค์กรต่างๆ ระบุเครื่องมือ AI ภายใน จำกัดการเข้าถึงด้วยข้อมูลประจำตัวและการอนุญาต ควบคุมการเชื่อมต่อ MCP ที่ไม่ได้รับอนุมัติ และปกป้องข้อมูลที่ละเอียดอ่อนที่ส่งไปตามการแจ้งเตือน Cloudflare ยังได้หารือเกี่ยวกับการโจมตีทางไซเบอร์ที่ได้รับความช่วยเหลือจาก AI และการขยายการสนับสนุนการตรวจสอบความถูกต้องหลังควอนตัมตามแผน

Chosunbiz รายงานว่า Goran Risticsevich รองประธานบริหารของ Cloudflare และกรรมการผู้จัดการประจำภูมิภาคเอเชียแปซิฟิก กล่าวว่าการรับส่งข้อมูลของตัวแทน AI บนเครือข่ายของ Cloudflare เพิ่มขึ้นมากกว่า 1,700% จากปีก่อนหน้า และคิดเป็นประมาณ 60% ของการรับส่งข้อมูลเครือข่ายทั้งหมด บทความนี้ไม่ได้ให้ข้อมูลพื้นฐาน ระยะเวลาการวัดที่แม่นยำ ขอบเขตทางภูมิศาสตร์ของตัวเลข คำจำกัดความของการรับส่งข้อมูลของตัวแทน AI หรือแหล่งข้อมูลอิสระสำหรับการประมาณการ การละเว้นเหล่านั้นทำให้ระดับของการเพิ่มขึ้นนั้นยากต่อการประเมิน แม้ว่าข้อกล่าวอ้างดังกล่าวจะถูกนำเสนอเป็นหลักฐานหลักสำหรับคำเตือนของ Cloudflare ก็ตาม

Chosunbiz รายงานว่า Risticsevich เปรียบเทียบการท่องเว็บของมนุษย์ทั่วไปกับตัวแทนที่สามารถเชื่อมต่อกับเว็บไซต์และเซิร์ฟเวอร์จำนวนมากได้ในคราวเดียว บทความกล่าวว่าสิ่งนี้สร้างปัญหาการจัดการความปลอดภัยที่ใหญ่กว่า เนื่องจากบริษัทจำเป็นต้องรู้ว่าระบบ AI ใดที่เข้าถึงข้อมูลและระบบใด และการเข้าถึงนั้นจำเป็นหรือไม่ รายงานยังอธิบายถึง Shadow AI ซึ่งพนักงานใช้บริการ AI ที่ไม่ได้รับการอนุมัติและอาจส่งข้อมูลภายในที่ละเอียดอ่อนไปยังโมเดลภายนอก โดยระบุว่า Shadow MCP เป็นความเสี่ยงที่เกี่ยวข้องกับการเชื่อมต่อ Model Context Protocol ที่ไม่ได้รับอนุมัติกับเครื่องมือภายนอกหรือระบบภายใน

Cloudflare บอกกับ Chosunbiz ว่าบริษัทต่างๆ ควรระบุเครื่องมือ AI ที่ใช้ภายในก่อน จากนั้นจึงควบคุมข้อมูลและการเข้าถึงเครือข่าย บริษัทแนะนำให้บล็อกพร้อมท์ที่มีข้อมูลที่ละเอียดอ่อนและใช้หลักการแบบ Zero Trust ในการเข้าถึงเซิร์ฟเวอร์ MCP เพื่อให้ผู้ใช้สามารถเข้าถึงเฉพาะแอปพลิเคชันที่ได้รับอนุญาตตามข้อมูลประจำตัวและการอนุญาตเท่านั้น คำแนะนำเหล่านี้นำเสนอเป็นแนวทางของ Cloudflare ไม่ใช่เป็นผลมาจากมาตรฐานด้านกฎระเบียบที่รายงานโดยอิสระ การศึกษาของลูกค้า หรือการประเมินที่มีการควบคุม บทความนี้ไม่ได้ระบุองค์กรเฉพาะที่ประสบปัญหา Shadow-AI หรือ Shadow-MCP

รายงานยังครอบคลุมถึงการมีส่วนร่วมของ Cloudflare ใน Project Glasswing ซึ่งเป็นสมาคมด้านความปลอดภัยที่ดำเนินการกับ Anthropic Chosunbiz รายงานว่า Cloudflare ได้รับสิทธิ์เข้าถึงโมเดล Mythos AI ของ Anthropic ก่อนใคร สำหรับการทดสอบโดยทีมรักษาความปลอดภัยภายใน และ Cloudflare กล่าวว่าการทดสอบแสดงให้เห็นว่า AI มีความสามารถในการเชื่อมโยงช่องโหว่หลายรายการได้มากขึ้น และค้นหาช่องโหว่ใหม่ได้เร็วขึ้น บทความนี้ไม่ได้ระบุการออกแบบการทดสอบ กลุ่มการเปรียบเทียบ ผลการวัด หรือการตรวจสอบความถูกต้องโดยอิสระ ผู้บริหาร Cloudflare แย้งว่าองค์กรต่างๆ ไม่สามารถพึ่งพาการใช้แพตช์ช่องโหว่ทีละรายการได้เพียงอย่างเดียว และควรเสริมสร้างการควบคุมความปลอดภัยที่กว้างขึ้น

รายละเอียดที่มา: biz.chosun.com ↗

ทำไมมันถึงสำคัญ

ตัวแทน AI สามารถโต้ตอบกับเว็บไซต์ เครื่องมือ และระบบภายในภายนอกจำนวนมากในนามของผู้ใช้ ทำให้เกิดความเสี่ยงด้านความปลอดภัยและการควบคุมดูแลข้อมูลที่แตกต่างจากผู้ใช้ซอฟต์แวร์ทั่วไป รายงานเสนอข้อกังวลในทางปฏิบัติเกี่ยวกับ Shadow AI, Shadow MCP และการเชื่อมโยงช่องโหว่ แต่สถิติและผลการทดสอบที่สำคัญที่สุดคือการอ้างสิทธิ์ของ Cloudflare ที่รายงานโดย Chosunbiz และไม่ได้รับการยืนยันโดยอิสระ

ความสำคัญเชิงปฏิบัติของรายงานนี้คือ ตัวแทน AI สามารถขยายจำนวนและความเร็วในการโต้ตอบระหว่างพนักงาน โมเดล เครื่องมือ และที่จัดเก็บข้อมูลของบริษัทได้ แอปพลิเคชันทั่วไปอาจมีชุดสิทธิ์และปลายทางที่กำหนดไว้ ในขณะที่ตัวแทนสามารถเลือกเครื่องมือหรือบริการแบบไดนามิกภายในสิทธิ์ที่ได้รับ หากสิทธิ์อนุญาตเหล่านั้นกว้างเกินไป เอเจนต์ที่ถูกบุกรุก คำสั่งที่เป็นอันตราย หรือการผสานรวมที่มีการควบคุมไม่ดี อาจเปิดเผยข้อมูลหรือกระตุ้นให้เกิดการดำเนินการที่เกินกว่าที่ผู้ใช้ตั้งใจไว้ บัญชีของ Chosunbiz สนับสนุนความจำเป็นในการกำกับดูแลที่เข้มงวดมากขึ้น แต่ไม่ได้กำหนดว่าความล้มเหลวเหล่านี้เกิดขึ้นบ่อยเพียงใด

Shadow AI เป็นปัญหาระดับองค์กรที่คุ้นเคย แต่รายงานระบุว่า MCP สามารถทำให้มีความสำคัญในการปฏิบัติงานมากขึ้นโดยการเชื่อมต่อโมเดลเข้ากับระบบที่สามารถดึงข้อมูลหรือดำเนินการได้ การเชื่อมต่อที่ไม่ได้รับการอนุมัติอาจสร้างความเสี่ยงแม้ว่าตัวแบบจะไม่ใช่สาเหตุของปัญหาก็ตาม การเน้นย้ำของบทความนี้เกี่ยวกับการเข้าถึงตามข้อมูลประจำตัวและสิทธิ์ขั้นต่ำจึงเกี่ยวข้องกับบริษัทที่นำเครื่องมือตัวแทนมาใช้ อย่างไรก็ตาม Chosunbiz ไม่ได้รายงานหลักฐานที่เป็นอิสระว่า Shadow MCP แพร่หลายอยู่แล้วในเกาหลีใต้ หรือระบุปริมาณความสูญเสียที่เกิดขึ้น

คำกล่าวอ้างด้านความปลอดภัยทางไซเบอร์ก็มีความสำคัญเช่นกัน เนื่องจาก AI อาจส่งผลกระทบต่อวงจรการป้องกันทั้งสองด้าน บัญชีของ Cloudflare ตามที่รายงานโดย Chosunbiz อธิบายว่าระบบ AI มีความสามารถในการเชื่อมโยงช่องโหว่เข้ากับเส้นทางการโจมตีได้ดีขึ้น และดำเนินการได้เร็วขึ้นในการค้นพบช่องโหว่ หากได้รับการยืนยันอย่างเป็นอิสระ นั่นจะเพิ่มแรงกดดันต่อฝ่ายปกป้องเพื่อทำให้รายการสินทรัพย์ การตรวจจับ การจัดลำดับความสำคัญ และการตอบสนองเป็นแบบอัตโนมัติ อย่างไรก็ตาม แหล่งที่มาไม่ได้ให้รายละเอียดทางเทคนิคเกี่ยวกับการทดสอบของ Mythos และไม่มีหลักฐานว่าการค้นพบที่รายงานนั้นแปลเป็นการโจมตีองค์กรจริงได้สำเร็จ ดังนั้นการเรียกร้องควรถือเป็นการเตือนจากบริษัทรักษาความปลอดภัย ไม่ใช่เป็นมาตรการตรวจสอบความสามารถทางอาญาในปัจจุบัน

ปัญหาหลังควอนตัมเพิ่มข้อกังวลด้านโครงสร้างพื้นฐานในระยะยาว Chosunbiz รายงานว่า Cloudflare รองรับการเข้ารหัสแบบต้านทานควอนตัม และคาดว่าจะให้การรับรองความถูกต้องแบบต้านทานควอนตัมเต็มรูปแบบภายในปี 2571 ในขณะที่ผู้บริหารรายหนึ่งกล่าวว่าอุตสาหกรรมคาดว่า Q Day ที่เป็นไปได้ประมาณปี 2573 การย้ายออกจากระบบการเข้ารหัสที่มีช่องโหว่อาจใช้เวลาหลายปี เนื่องจากใบรับรอง โปรโตคอล อุปกรณ์ และบริการของบุคคลที่สามจะต้องได้รับการจัดทำและอัปเกรด รายงานไม่ได้ระบุว่าวันที่เหล่านั้นเป็นการคาดการณ์ที่เป็นเอกฉันท์ และไม่ได้อธิบายขอบเขตของการสนับสนุนในปัจจุบันของ Cloudflare คุณค่าสาธารณะอยู่ที่การเน้นการวางแผนการย้ายถิ่นฐาน ไม่ใช่การปฏิบัติต่อวันที่เป็นเพียงการคาดการณ์

จะดูอะไรต่อไป.

คำถามหลักคือว่าสามารถจัดทำเอกสารประมาณการการรับส่งข้อมูลของ Cloudflare ได้อย่างอิสระหรือไม่ กิจกรรมที่รายงานแสดงถึงงานของตัวแทนที่เป็นประโยชน์มากกว่าคำขออัตโนมัติมากน้อยเพียงใด และคำแนะนำด้านความปลอดภัยของบริษัทช่วยลดการเข้าถึงที่ไม่ได้รับอนุญาตหรือการรั่วไหลของข้อมูลได้หรือไม่ แผนการที่ระบุไว้ของ Cloudflare เพื่อสนับสนุนการรับรองความถูกต้องแบบควอนตัมอย่างเต็มที่ภายในปี 2571 ถือเป็นความมุ่งมั่นในอนาคตมากกว่าการใช้งานที่เสร็จสมบูรณ์

ขั้นแรก จำเป็นต้องมีการวัดผลโดยอิสระสำหรับการอ้างสิทธิ์การรับส่งข้อมูลของ Cloudflare การรายงานการติดตามผลที่เป็นประโยชน์จะระบุสิ่งที่ Cloudflare นับเป็นตัวแทน AI ไม่ว่าการเพิ่มขึ้น 1,700% จะเปรียบเทียบช่วงเวลาที่เท่ากัน ไม่ว่าตัวเลข 60% จะมีผลทั่วโลกหรือกับกลุ่มใดกลุ่มหนึ่ง และวิธีแยกทราฟฟิกของโปรแกรมรวบรวมข้อมูล การค้นหา การอนุมาน และตัวแทนอิสระ หากไม่มีข้อมูลดังกล่าว สถิติจะแสดงการประเมินของ Cloudflare แต่ไม่สามารถอธิบายอินเทอร์เน็ตทั้งหมดหรือเครือข่ายเกาหลีใต้ได้อย่างน่าเชื่อถือ

ประการที่สอง บริษัทที่ใช้ระบบเอเจนต์ควรเปิดเผยวิธีการใช้แบบจำลองสินค้าคงคลังและการใช้เครื่องมือ อนุมัติเซิร์ฟเวอร์ MCP จำกัดสิทธิ์ และป้องกันไม่ให้ข้อมูลแจ้งเตือนที่ละเอียดอ่อนออกจากสภาพแวดล้อมที่มีการควบคุม รายงานไม่ได้ให้หลักฐานว่าการควบคุมที่เสนอของ Cloudflare ได้รับการทดสอบอย่างเป็นอิสระ หลักฐานการติดตามผลควรรวมถึงผลการใช้งานจริง เหตุการณ์ที่บันทึกไว้ ข้อค้นพบจากการตรวจสอบ หรือการประเมินเปรียบเทียบที่แสดงให้เห็นว่าการควบคุมแบบ Zero Trust ลดการเรียกเครื่องมือที่ไม่ได้รับอนุญาต การเปิดเผยข้อมูล หรือการกระทำที่เป็นอันตรายหรือไม่

ประการที่สาม คำกล่าวอ้างของ Project Glasswing รับประกันการตรวจสอบทางเทคนิค รายงานของ Chosunbiz ไม่ได้บอกว่ามีช่องโหว่ใดบ้างที่เชื่อมโยงกัน วิธีการแจ้งแบบจำลอง การทดสอบใช้สภาพแวดล้อมที่สมจริง ประสิทธิภาพการทำงานเป็นอย่างไรเมื่อเปรียบเทียบกับเครื่องมือที่มีอยู่ หรือ Anthropic เห็นด้วยกับการตีความของ Cloudflare อย่างอิสระหรือไม่ นักวิจัยอิสระและผู้ปกป้องควรมองหาวิธีการที่ทำซ้ำได้และอธิบายผลลัพธ์ต่อสาธารณะก่อนที่จะสรุปข้อสรุปเกี่ยวกับก้าวของการค้นพบช่องโหว่ที่เปิดใช้งาน AI

สุดท้ายนี้ ควรติดตามไทม์ไลน์หลังควอนตัมของ Cloudflare ในฐานะผลิตภัณฑ์และความมุ่งมั่นในการโยกย้าย การรายงานการติดตามผลสามารถให้ความกระจ่างได้ว่าฟีเจอร์การเข้ารหัสใดที่มีอยู่แล้ว การตรวจสอบสิทธิ์แบบต้านทานควอนตัมเต็มรูปแบบจะครอบคลุมอะไรบ้าง และลูกค้าจะต้องเปลี่ยนใบรับรอง ซอฟต์แวร์ หรือฮาร์ดแวร์หรือไม่ แหล่งที่มายังไม่ได้รับการแก้ไขว่าปริมาณการรับส่งข้อมูลของตัวแทน AI ที่รายงานนั้นกระจุกตัวอยู่ในบริการขนาดใหญ่จำนวนไม่มากหรือสะท้อนถึงการใช้งานในวงกว้าง สิ่งที่ไม่ทราบเหล่านี้ถือเป็นหัวใจสำคัญในการตัดสินทั้งความเร่งด่วนและผลกระทบต่อสาธารณะจากคำเตือนของ Cloudflare

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง