เกิดอะไรขึ้น
Anthropic เผยแพร่รายงานรายละเอียดการโจมตีด้วยการกลั่นขนาดใหญ่โดยคู่แข่ง AI ของจีน บริษัทระบุว่า Alibaba, Moonshot, DeepSeek, Zhipu และ Xiaomi ร่วมกันสร้างปฏิสัมพันธ์ที่เป็นอันตรายกับ Claude เกือบ 190 ล้านครั้งตั้งแต่เดือนพฤษภาคมถึงกรกฎาคม การโจมตีเหล่านี้เกี่ยวข้องกับการกำหนดเส้นทางข้อความค้นหาของผู้ใช้สำหรับรุ่นในประเทศไปยัง Claude เพื่อรวบรวมข้อมูลการฝึกอบรม โดย Alibaba คิดเป็นการแลกเปลี่ยนมากกว่า 151 ล้านรายการผ่านบัญชีที่ฉ้อโกง 3,500 บัญชี
Anthropic ตีพิมพ์รายงานเมื่อวันพฤหัสบดี โดยกล่าวหาว่าห้องปฏิบัติการ AI ของจีนรายใหญ่ 5 แห่ง ได้แก่ Alibaba, Moonshot, DeepSeek, Zhipu และ Xiaomi ได้ดำเนินการกลั่นแกล้งเกือบ 190 ล้านครั้งต่อโมเดล Claude ระหว่างเดือนพฤษภาคมถึงกรกฎาคม การโจมตีด้วยการกลั่นเกี่ยวข้องกับการใช้ผลลัพธ์ของโมเดลขั้นสูงเพื่อฝึกโมเดลขั้นสูงน้อยกว่า ทำให้คู่แข่งสามารถใช้ประโยชน์จากความสามารถที่เป็นกรรมสิทธิ์ของ Anthropic ได้อย่างมีประสิทธิภาพโดยไม่ต้องทำงานร่วมกันโดยตรง
รายงานระบุว่า DeepSeek และ Moonshot AI เปลี่ยนเส้นทางคำขอของผู้ใช้สำหรับโมเดลของตนเองไปยัง Claude Anthropic บันทึกการเปลี่ยนเส้นทางดังกล่าว 23 ล้านครั้งโดย Moonshot และ 12.1 ล้านครั้งโดย DeepSeek ในช่วง 14 วันในเดือนกรกฎาคม นอกจากนี้ Anthropic ยังอ้างว่าคำขอเหล่านี้บางส่วนได้เปิดเผยข้อมูลที่ละเอียดอ่อน รวมถึงภาพ CCTV จากผู้ใช้ในเครือ PLA และข้อมูลจากฐานข้อมูลของรัฐบาลรัสเซียที่ส่งโดยผู้รับเหมาทางทหาร
อาลีบาบาถูกระบุว่าเป็นผู้กระทำผิดรายใหญ่ที่สุด โดยมีการแลกเปลี่ยนมากกว่า 151 ล้านครั้งดำเนินการโดยบัญชีที่ฉ้อโกง 3,500 บัญชี บัญชีเหล่านี้ทำให้ Claude ส่งออกกระบวนการให้เหตุผล ซึ่งจากนั้นจะใช้ในการฝึกโมเดล Qwen ของ Alibaba Anthropic ยังกล่าวหา Z.ai ว่ามีการโจมตีที่คล้ายกัน และตั้งข้อสังเกตว่า Xiaomi บันทึกการแชทของผู้ใช้ด้วยรุ่น MiMo และป้อนลงใน Claude เพื่อสร้างข้อมูลการฝึกอบรม
เพื่อตอบสนองต่อภัยคุกคามเหล่านี้ Anthropic ระบุว่าได้ใช้มาตรการป้องกันใหม่เพื่อแบนกิจกรรมที่น่าสงสัย และลดรายละเอียดของการถอดเสียงการให้เหตุผลเพื่อจำกัดยูทิลิตี้สำหรับการฝึกโมเดลอื่นๆ นอกจากนี้บริษัทยังจะต้องมีการยืนยันตัวตนสำหรับผู้ใช้ที่ดูเหมือนว่าดำเนินการจากจีน รัสเซีย หรืออิหร่าน ซึ่งเป็นภูมิภาคที่ Claude ไม่สามารถใช้งานได้อย่างเป็นทางการ ตัวแทนของบริษัทที่ถูกกล่าวหาไม่ตอบคำถามของ Business Insider และ Anthropic ไม่ได้ให้ความคิดเห็นเพิ่มเติมนอกเหนือจากรายงาน
รายละเอียดที่มา: businessinsider.com ↗
ทำไมมันถึงสำคัญ
เหตุการณ์นี้เน้นย้ำถึงช่องโหว่ด้านความปลอดภัยและทรัพย์สินทางปัญญาที่สำคัญในภูมิทัศน์ AI ทั่วโลก คู่แข่งสามารถเร่งการพัฒนาแบบจำลองขอบเขตของตนเองได้ โดยการแยกบันทึกการให้เหตุผลโดยละเอียด ซึ่งอาจทำให้ช่องว่างด้านความสามารถแคบลงด้วยห้องปฏิบัติการในสหรัฐฯ การเปิดเผยข้อมูลของรัฐบาลและทหารที่ละเอียดอ่อนในระหว่างการโจมตีเหล่านี้ ยิ่งตอกย้ำความเสี่ยงในการเข้าถึงระบบ AI ขั้นสูงที่ไม่ผ่านการตรวจสอบ ส่งผลให้ Anthropic ดำเนินการตรวจสอบตัวตนและจำกัดเอาต์พุตที่เข้มงวดยิ่งขึ้น
ขนาดของการโจมตีเหล่านี้แสดงถึงการถ่ายโอนทรัพย์สินทางปัญญาและความได้เปรียบทางคอมพิวเตอร์อย่างมีนัยสำคัญ ห้องปฏิบัติการของจีนสามารถลดเวลาและต้นทุนที่จำเป็นในการพัฒนาโมเดลขอบเขตการแข่งขันได้อย่างมาก ด้วยการแยกห่วงโซ่การให้เหตุผล ซึ่งท้าทายความเป็นผู้นำทางเทคโนโลยีของบริษัท AI ในสหรัฐฯ
การเปิดเผยข้อมูลของรัฐบาลและทหารที่ละเอียดอ่อนในระหว่างการโต้ตอบเหล่านี้ทำให้เกิดข้อกังวลด้านความปลอดภัยที่ร้ายแรง โดยชี้ให้เห็นว่าระบบ AI ขั้นสูงอาจเสี่ยงต่อการรั่วไหลของข้อมูลผ่านทางวิศวกรรมสังคมหรือการสร้างบัญชีที่ฉ้อโกง ซึ่งอาจส่งผลกระทบต่อผลประโยชน์ด้านความมั่นคงของชาติของหลายประเทศ
เหตุการณ์นี้อาจเร่งการดำเนินการด้านกฎระเบียบเกี่ยวกับการเข้าถึงโมเดล AI และอธิปไตยของข้อมูล ผู้ร่างกฎหมายในสหรัฐอเมริกาได้เรียกร้องให้ออกกฎหมายเพื่อจัดการกับการโจมตีดังกล่าว และรายงานนี้ให้หลักฐานที่เป็นรูปธรรมที่อาจมีอิทธิพลต่อการอภิปรายนโยบายเกี่ยวกับกระแสข้อมูล AI ข้ามพรมแดนและการควบคุมการส่งออก
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
ติดตามการตอบสนองทางกฎหมายในสหรัฐอเมริกาและจีนเกี่ยวกับการดึงข้อมูล AI และกระแสข้อมูลข้ามพรมแดน ติดตามมาตรการตอบโต้ทางเทคนิคเพิ่มเติมจาก Anthropic และผู้ให้บริการ AI อื่นๆ เพื่อป้องกันการกลั่นแกล้งแบบจำลอง สังเกตว่าห้องปฏิบัติการของจีนที่ถูกกล่าวหาตอบสนองต่อข้อกล่าวหาอย่างเปิดเผยหรือไม่ หรือหากการตรวจสอบอิสระตรวจสอบระดับของการรั่วไหลของข้อมูล
การพัฒนาด้านกฎหมายในสหรัฐอเมริกาและจีนเกี่ยวกับการดึงข้อมูล AI การกลั่นแบบจำลอง และความเป็นส่วนตัวของข้อมูลข้ามพรมแดน สหรัฐฯ อาจแนะนำกฎระเบียบที่เข้มงวดมากขึ้นเกี่ยวกับการเข้าถึงโมเดล AI สำหรับหน่วยงานต่างประเทศ ในขณะที่จีนอาจตอบสนองด้วยมาตรการปกป้องข้อมูลของตนเอง
มาตรการตอบโต้ทางเทคนิคจากผู้ให้บริการ AI เพื่อป้องกันการโจมตีด้วยการกลั่น ซึ่งอาจรวมถึงการยืนยันตัวตนที่มีประสิทธิภาพมากขึ้น การจำกัดอัตรา และทำให้เอาต์พุตของโมเดลซับซ้อนขึ้น เพื่อลดอรรถประโยชน์ในการฝึกโมเดลที่แข่งขันกัน
คำตอบสาธารณะจากห้องปฏิบัติการ AI ของจีนที่ถูกกล่าวหา การปฏิเสธหรือการชี้แจงอาจให้บริบทเพิ่มเติม ในขณะที่ความเงียบอาจถูกตีความว่าเป็นการยอมรับโดยปริยาย การตรวจสอบที่เป็นอิสระหรือการตรวจสอบโดยบุคคลที่สามเกี่ยวกับขนาดการโจมตีก็มีความสำคัญเช่นกัน