เกิดอะไรขึ้น
Anthropic เผยแพร่รายงานที่กล่าวหาว่าคู่แข่ง AI ของจีน โดยเฉพาะ Kimi จาก Moonshot และ DeepSeek ได้ส่งคำถามของผู้ใช้ไปยังโมเดล Claude ของ Anthropic อย่างลับๆ แทนที่จะประมวลผลด้วยซอฟต์แวร์ของตัวเอง รายงานให้รายละเอียดเกี่ยวกับการใช้บัญชีปลอม 5,380 บัญชีเพื่ออำนวยความสะดวกในการเปลี่ยนเส้นทางในช่วงสิบวัน ส่งผลให้มีการเปิดเผยข้อมูลที่ละเอียดอ่อน รวมถึงภาพการเฝ้าระวังใกล้กับสถานที่ทางทหารของจีน และข้อมูลรับรองการเข้าสู่ระบบที่ถูกต้องสำหรับฐานข้อมูลของรัฐบาลรัสเซีย
Anthropic เผยแพร่รายงานโดยละเอียดที่กล่าวหาว่าคู่แข่ง AI ของจีนแอบเปลี่ยนเส้นทางคำขอของผู้ใช้ไปยังโมเดล Claude บริษัทระบุว่าการกระทำนี้เกิดขึ้นแม้ว่าผู้ใช้จะเชื่อว่าพวกเขากำลังโต้ตอบกับบริการ AI ในประเทศจีนก็ตาม
รายงานระบุว่าบริการ Kimi ของ Moonshot ใช้เครือข่ายบัญชีปลอม 5,380 บัญชีเพื่อส่งคำถามของลูกค้าเกือบ 300,000 รายการไปยัง Claude ในช่วงระยะเวลาสิบวัน ตัวอย่างหนึ่งที่น่าสังเกตคือผู้ใช้อัปโหลดภาพวงจรปิดจากบริเวณใกล้เคียงฐานทัพทหารจีน โดยตั้งใจที่จะวิเคราะห์พฤติกรรมของบุคคลใดบุคคลหนึ่ง ซึ่งประมวลผลโดย Claude
Anthropic ยังกล่าวหาว่า DeepSeek มีส่วนร่วมในแนวทางปฏิบัติที่คล้ายกัน ซึ่งนำไปสู่การเปลี่ยนเส้นทางการสอบถามที่มีข้อมูลจากหน่วยงานที่เกี่ยวข้องกับกระทรวงกลาโหมรัสเซีย ซึ่งรวมถึงข้อมูลรับรองการเข้าสู่ระบบที่ถูกต้องสำหรับฐานข้อมูลของรัฐบาลรัสเซีย ซึ่งถูกเปิดเผยโดยระบบของ Anthropic โดยไม่ได้ตั้งใจ
นอกจากนี้ รายงานยังอ้างว่านักพัฒนาชาวจีนใช้เทคนิคที่เรียกว่าการกลั่นเพื่อฝึกโมเดลของตนกับซอฟต์แวร์ของอเมริกา Anthropic ระบุว่า Kimi เข้าถึง AI 23 ล้านครั้งระหว่างเดือนพฤษภาคมถึงกรกฎาคมเพื่อจุดประสงค์นี้
ทำไมมันถึงสำคัญ
เหตุการณ์นี้เน้นย้ำถึงความเสี่ยงด้านความปลอดภัยและความสมบูรณ์ที่สำคัญในระบบนิเวศ AI ทั่วโลก ซึ่งการพึ่งพาแบบจำลองของบุคคลที่สามอาจนำไปสู่การรั่วไหลของข้อมูลโดยไม่ได้ตั้งใจและภาวะแทรกซ้อนทางภูมิรัฐศาสตร์ มันท้าทายการรับรู้ของโมเดล AI ของจีนว่ามีความเป็นอิสระอย่างสมบูรณ์ และทำให้เกิดคำถามเกี่ยวกับแนวทางปฏิบัติด้านความปลอดภัยของผู้ให้บริการ AI รายใหญ่เกี่ยวกับการใช้ API และการแยกข้อมูล
ข้อกล่าวหาดังกล่าวบ่อนทำลายการเล่าเรื่องการพัฒนาที่เป็นอิสระในภาค AI ของจีน โดยชี้ให้เห็นถึงการพึ่งพาแบบจำลองจากสหรัฐฯ อย่างมากทั้งในการอนุมานและการฝึกอบรม สิ่งนี้มีผลกระทบอย่างมีนัยสำคัญต่อภูมิทัศน์การแข่งขันและความเป็นอิสระในการรับรู้ความสามารถด้าน AI ของจีน
การเปิดเผยข้อมูลของรัฐที่ละเอียดอ่อน รวมถึงภาพจากกล้องวงจรปิดของกองทัพและข้อมูลรับรองฐานข้อมูลของรัฐบาล ทำให้เกิดข้อกังวลด้านความปลอดภัยอย่างร้ายแรง มันแสดงให้เห็นถึงศักยภาพของการรั่วไหลของข้อมูลเมื่อบริการ AI ไม่ได้ถูกแยกออกอย่างเหมาะสมหรือเมื่อผู้ใช้ไม่ทราบถึงโครงสร้างพื้นฐานที่สำคัญ
เหตุการณ์นี้อาจกระตุ้นให้เกิดกฎระเบียบที่เข้มงวดและการตรวจสอบความปลอดภัยในอุตสาหกรรม AI โดยเฉพาะอย่างยิ่งเกี่ยวกับกระแสข้อมูลข้ามพรมแดนและการใช้โมเดลของบุคคลที่สามในบริการ AI เชิงพาณิชย์ นอกจากนี้ยังเน้นย้ำถึงความจำเป็นในการรายงานที่โปร่งใสเกี่ยวกับการใช้โมเดลและแนวทางปฏิบัติในการจัดการข้อมูล
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
ติดตามการตอบสนองอย่างเป็นทางการจาก Moonshot และ DeepSeek การตรวจสอบด้านกฎระเบียบที่อาจเกิดขึ้นเกี่ยวกับกระแสข้อมูล AI ข้ามพรมแดน และการเปลี่ยนแปลงใดๆ ในโปรโตคอลความปลอดภัย API โดยผู้ให้บริการ AI รายใหญ่ เพื่อป้องกันการกำหนดเส้นทางโมเดลที่ไม่ได้รับอนุญาต
ติดตามคำแถลงอย่างเป็นทางการหรือการดำเนินคดีทางกฎหมายจาก Moonshot และ DeepSeek เพื่อตอบสนองต่อข้อกล่าวหาของ Anthropic ปฏิกิริยาของพวกเขาจะบ่งชี้ว่าพวกเขารับทราบปัญหาหรือโต้แย้งข้อค้นพบ
สังเกตการตอบสนองด้านกฎระเบียบจากหน่วยงานของสหรัฐอเมริกาหรือจีนเกี่ยวกับความปลอดภัยและความเป็นส่วนตัวของข้อมูลโดยนัยของการใช้โมเดล AI ข้ามพรมแดน ซึ่งอาจนำไปสู่แนวทางหรือข้อจำกัดใหม่เกี่ยวกับกระแสข้อมูล AI
ติดตามการเปลี่ยนแปลงมาตรการรักษาความปลอดภัย API โดยผู้ให้บริการ AI รายใหญ่ เช่น Anthropic และ OpenAI เพื่อป้องกันการกำหนดเส้นทางหรือการกลั่นโดยไม่ได้รับอนุญาต การรับรองความถูกต้องและการตรวจสอบการใช้งาน API ที่ได้รับการปรับปรุงอาจกลายเป็นแนวปฏิบัติมาตรฐาน