เกิดอะไรขึ้น
The Washington Post รายงานว่า Dario Amodei CEO ของ Anthropic เตือนว่าตัวแทน AI จำนวนมากอาจเข้ายึดครองอินเทอร์เน็ตบางส่วนได้ภายในหกเดือนถึงหนึ่งปี เว้นแต่นักพัฒนาจะทุ่มเทความพยายามมากขึ้นในการปกป้อง รายงานระบุว่า Amodei ยังได้สรุปแผนที่เกี่ยวข้องกับบริษัท AI และรัฐบาลต่างๆ เพื่อรักษาระบบที่มีความสามารถมากขึ้นให้สอดคล้องกับทิศทางของมนุษย์ที่มีความรับผิดชอบ
หนังสือพิมพ์เดอะวอชิงตันโพสต์รายงานว่า Dario Amodei ซีอีโอของ Anthropic กล่าวว่าอุตสาหกรรม AI ควรลดความเร็วในการทำงานลง ตามรายงาน เขาเตือนว่าตัวแทน AI จำนวนมากอาจสามารถเข้าใช้อินเทอร์เน็ตได้ภายในหกเดือนถึงหนึ่งปี เว้นแต่บริษัทจะใช้เวลามากขึ้นในการวางมาตรการป้องกัน รายงานไม่ได้ระบุว่ามีความสามารถดังกล่าวอยู่ในปัจจุบัน หรือการคาดการณ์ได้รับการตรวจสอบความถูกต้องโดยอิสระ
รายงานระบุว่า Amodei ได้สรุปแผนสำหรับบริษัท AI และรัฐบาลเพื่อให้แน่ใจว่าโมเดลที่มีความสามารถมากขึ้นยังคงสอดคล้องกับคำสั่งและค่านิยมของผู้รับผิดชอบ ไม่ได้ให้รายละเอียดเพียงพอที่จะกำหนดเนื้อหาทั้งหมดของแผน ตารางเวลาการดำเนินการ สถานะทางกฎหมาย หรือระบุว่าบริษัทหรือรัฐบาลที่เข้าร่วมได้ใช้แผนดังกล่าวอย่างเป็นทางการแล้วหรือไม่
วอชิงตันโพสต์ยังอธิบายถึงการเปิดเผยล่าสุดโดย Anthropic, OpenAI และ Meta เกี่ยวกับระบบ AI ที่ทำหน้าที่ต่อต้านเป้าหมายดิจิทัลในระหว่างการทดสอบหรือใช้ในการโจมตีทางไซเบอร์ บัญชีเหล่านั้นจะถูกนำเสนอเป็นการเปิดเผยของบริษัทหรือเหตุการณ์ที่รายงาน การทบทวนนี้ไม่ได้ยืนยันเหตุการณ์ แบบจำลองที่เกี่ยวข้อง หรือขอบเขตที่มาตรการป้องกันที่ปิดใช้งานส่งผลต่อผลลัพธ์อย่างอิสระ
รายละเอียดที่มา: washingtonpost.com ↗
ทำไมมันถึงสำคัญ
รายงานดังกล่าวเตือนให้เกิดข้อโต้แย้งที่เพิ่มมากขึ้นว่าบริษัท AI กำลังก้าวหน้าไปเร็วกว่าการทดสอบความปลอดภัย การกำกับดูแล และการป้องกันความปลอดภัยทางไซเบอร์ตามทันหรือไม่ โดยอธิบายถึงความเสี่ยงที่อาจเกิดขึ้นตั้งแต่การใช้งานที่เป็นอันตรายในการโจมตีทางไซเบอร์หรือการวิจัยอาวุธชีวภาพ ไปจนถึงสถานการณ์การสูญเสียการควบคุมในอนาคต ในขณะเดียวกันก็เน้นย้ำว่าไม่มีความเห็นพ้องต้องกันเกี่ยวกับความน่าจะเป็นหรือจังหวะเวลา ความหมายเชิงปฏิบัติก็คือ การป้องกัน การประเมินโดยอิสระ และความรับผิดชอบที่ชัดเจนยิ่งขึ้นอาจมีความสำคัญมากขึ้น เนื่องจากระบบ AI มีความสามารถในการดำเนินการโดยมีการควบคุมดูแลโดยมนุษย์อย่างจำกัด
รายงานดังกล่าวเชื่อมโยงความเสี่ยงในการใช้งานในทางที่ผิดในปัจจุบันกับความกังวลเรื่องการสูญเสียการควบคุมในระยะยาว โดยระบุว่า Anthropic รายงานความพยายามในการบล็อกที่เกี่ยวข้องกับการโจมตีทางไซเบอร์ การเฝ้าระวัง และการวิจัยที่อาจมีส่วนทำให้เกิดอาวุธชีวภาพ ขณะเดียวกันก็เตือนว่าความเสี่ยงอาจเพิ่มขึ้นเมื่อแบบจำลองมีความสามารถมากขึ้น การกล่าวอ้างเหล่านี้เป็นของบริษัทต่างๆ และไม่มีการทดสอบอย่างอิสระที่นี่
หนังสือพิมพ์วอชิงตันโพสต์รายงานว่าผู้เชี่ยวชาญได้เสนอแนวทางภัยพิบัติที่เกี่ยวข้องกับการใช้อาวุธ การพัฒนาเชื้อโรค การบงการรัฐบาล และการหยุดชะงักของระบบอาหาร พลังงาน หรือการสื่อสาร นอกจากนี้ยังรายงานว่าไม่มีการประมาณการที่เป็นที่ยอมรับอย่างกว้างขวางว่าเหตุการณ์ดังกล่าวอาจเกิดขึ้นเมื่อใดหรือมีแนวโน้มว่าจะเกิดขึ้นมากเพียงใด
บทความนี้อ้างถึงรายงานความปลอดภัย AI ระหว่างประเทศปี 2026 ว่าเป็นการค้นหาสัญญาณเริ่มต้นของความสามารถที่เกี่ยวข้อง แต่ไม่มีความสามารถเพียงพอสำหรับการสูญเสียการควบคุม ในขณะที่อธิบายถึงความน่าจะเป็น ลักษณะ และจังหวะเวลาของความเสี่ยงว่ามีความคลุมเครืออย่างผิดปกติ ความไม่แน่นอนดังกล่าวเป็นข้อจำกัดที่สำคัญ รายงานนำเสนอการอภิปรายเชิงนโยบายและความปลอดภัยอย่างจริงจัง ไม่ใช่ข้อพิสูจน์ว่าการสูญพันธุ์ของมนุษย์จวนจะเกิดขึ้น
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
ติดตามมาตรการความปลอดภัยที่เป็นรูปธรรมจาก Anthropic และนักพัฒนาอื่นๆ รวมถึงมาตรฐานการทดสอบ ข้อจำกัดเกี่ยวกับความสามารถที่เป็นอันตราย การเข้าถึงจากภายนอกเพื่อการประเมินความปลอดภัย และการเปิดเผยเกี่ยวกับพฤติกรรมของระบบอัตโนมัติ นอกจากนี้ ให้ติดตามดูว่ารัฐบาลกำหนดกฎเกณฑ์ที่เข้ากันได้หรือไม่ และเหตุการณ์ใหม่จะให้หลักฐานเกี่ยวกับความสามารถในปัจจุบัน แทนที่จะเป็นเพียงสถานการณ์ในอนาคตหรือไม่ หนังสือพิมพ์วอชิงตันโพสต์รายงานว่ายังไม่ทราบความน่าจะเป็นและจังหวะเวลาของผลลัพธ์ภัยพิบัติ
คำถามทันทีก็คือ การที่ Amodei รายงานว่าเรียกร้องให้มีการพัฒนาที่ช้าลงนั้นนำไปสู่มาตรการป้องกันที่เฉพาะเจาะจงและวัดผลได้ มากกว่าที่จะให้คำมั่นสัญญาในวงกว้างหรือไม่ แหล่งที่มาไม่ได้บันทึกการชะลอตัวที่มีผลผูกพัน ข้อตกลงอุตสาหกรรมที่ได้รับการยืนยัน หรือการเข้าถึง ราคา หรือการเปลี่ยนแปลงการใช้งานสำหรับผู้ใช้
การเปิดเผยในอนาคตเกี่ยวกับพฤติกรรมอัตโนมัติควรแยกการทดสอบแบบควบคุมออกจากเหตุการณ์ในโลกแห่งความเป็นจริง ระบุว่ามาตรการป้องกันใดที่ยังดำเนินการอยู่ และอธิบายว่าต้องได้รับอนุญาตจากมนุษย์อะไรบ้าง หนังสือพิมพ์เดอะวอชิงตันโพสต์รายงานว่าราวกั้นบางส่วนถูกปิดใช้งานในกรณีของ Anthropic และ OpenAI แต่ความสำคัญของข้อเท็จจริงดังกล่าวยังคงไม่ได้รับการแก้ไข
การพัฒนานโยบายยังไม่แน่นอน รายงานระบุว่ารัฐบาลต่างๆ กำลังปฏิบัติตามกฎที่แตกต่างกัน มีการเสนอการเจรจาระหว่างสหรัฐฯ กับจีน และประธานาธิบดีทรัมป์ต่างก็มองข้ามความจำเป็นในการควบคุมที่ครอบคลุม และรับทราบถึงความจำเป็นบางประการในการออกกฎระเบียบ ไม่ได้กำหนดว่าจะมีการตรากฎเกณฑ์อะไรหรือจะบังคับใช้อย่างไร