เกิดอะไรขึ้น
CNN en Español รายงานว่า Dario Amodei CEO ของ Anthropic กระตุ้นให้บริษัท AI ชะลอการพัฒนาโมเดลชายแดน เขาเสนอผู้ประเมินอิสระที่เข้าถึงได้คล้ายกับพนักงาน โดยได้รับอำนาจในการทบทวนแนวทางปฏิบัติด้านความปลอดภัย รายงานเหตุการณ์ และติดตามแบบจำลองและขั้นตอนการฝึกอบรม รายงานระบุว่า Sam Altman ซีอีโอของ OpenAI รับรองข้อเสนอของผู้ประเมิน และ Elon Musk ซีอีโอของ xAI แสดงข้อตกลง CNN en Español ยังรายงานว่า Amodei ทำคดีนี้ในการสัมภาษณ์วันเสาร์และเรียงความสั้น ๆ ที่เผยแพร่บนเว็บไซต์ของเขา
CNN en Español รายงานว่า Amodei แย้งว่าอุตสาหกรรม AI ควรชะลออัตราการปรับปรุงความสามารถของโมเดลไปพร้อมกับพัฒนาเทคโนโลยีต่อไป เขากล่าวว่าบริษัทต่างๆ ควรทำงานร่วมกันเพื่อหลีกเลี่ยงเส้นทางการพัฒนาที่เป็นอันตราย และกล่าวว่า AI อาจถูกนำไปใช้ในทางที่ผิดสำหรับการโจมตีทางไซเบอร์ การก่อการร้ายทางชีวภาพ และการหยุดชะงักทางเศรษฐกิจอย่างรุนแรง นี่เป็นคำเตือนของ Amodei ตามที่รายงานโดย CNN en Español ซึ่งไม่ได้ยืนยันการค้นพบโดยอิสระในเอกสารที่ให้มา
มาตรการที่เป็นรูปธรรมที่อธิบายไว้ในรายงานคือความมุ่งมั่นของบริษัท AI ที่จะจ้างผู้ประเมินภายนอกที่จะรวมอยู่ในทีมของพวกเขา ตามรายงานของ CNN en Español ผู้ประเมินจะทบทวนแนวทางปฏิบัติด้านความปลอดภัย รายงานเหตุการณ์ และดูแลแบบจำลอง กระบวนการฝึกอบรม และขั้นตอนการทำงาน Amodei กล่าวว่า Anthropic ใช้แนวทางนี้เพียงฝ่ายเดียว แต่รายงานไม่ได้ระบุตัวตนของผู้ประเมิน อำนาจ ขีดจำกัดการเข้าถึง หรือข้อกำหนดในการตีพิมพ์
CNN en Español รายงานว่า Sam Altman กล่าวว่า OpenAI จะนำแนวทางที่คล้ายกันมาใช้ และ Elon Musk ก็เห็นด้วยกับ Amodei อย่างเปิดเผย รายงานยังวางข้อเสนอไว้ในบริบทของนโยบายที่กว้างขึ้น โดยระบุว่ารัฐบาลยังไม่ได้กำหนดกฎเกณฑ์การประสานงานที่ครอบคลุมและครอบคลุมสำหรับ Frontier AI ไม่มีการให้ข้อมูลการเปิดตัวผลิตภัณฑ์ การเปลี่ยนแปลงการเข้าถึงของผู้ใช้ หรือราคา
รายละเอียดที่มา: cnnespanol.cnn.com ↗
ทำไมมันถึงสำคัญ
ข้อเสนอดังกล่าวจะย้ายการกำกับดูแลความปลอดภัยของ AI นอกเหนือจากการตรวจสอบภายในโดยสมัครใจ ไปสู่โมเดลที่เกี่ยวข้องกับบุคลากรภายนอกที่สามารถเข้าถึงกระบวนการพัฒนาได้อย่างมีความหมาย หากนำมาใช้ สิ่งนี้สามารถปรับปรุงการรายงานเหตุการณ์และการตรวจสอบระบบที่มีความสามารถสูงได้ แต่รายงานไม่ได้ระบุว่าบริษัทต่างๆ ได้ตกลงตามกรอบการทำงานทั่วไป หรือผู้ประเมินจะมีอำนาจที่บังคับใช้ตามกฎหมาย
การกำกับดูแลที่เป็นอิสระอาจทำให้คำกล่าวอ้างด้านความปลอดภัยสามารถตรวจสอบได้มากขึ้น โดยให้ผู้ตรวจสอบที่มีคุณสมบัติเหมาะสมเข้าถึงแนวทางปฏิบัติในการพัฒนาและบันทึกเหตุการณ์ แทนที่จะอาศัยคำแถลงต่อสาธารณะของบริษัทเพียงอย่างเดียว นั่นอาจมีความสำคัญเมื่อโมเดลมีความสามารถมากขึ้นและรวมเข้ากับระบบที่มีความละเอียดอ่อน
ข้อเสนอยังคงเป็นความสมัครใจในบัญชีที่ให้ไว้ รายงานไม่ได้ตรวจสอบการดำเนินงานของ Anthropic อย่างเป็นอิสระ ยืนยันว่า OpenAI ได้แต่งตั้งผู้ประเมินแล้ว หรือแสดงให้เห็นว่าบริษัทใดบริษัทหนึ่งได้เผยแพร่มาตรฐานเกี่ยวกับความเป็นอิสระของผู้ประเมิน การรักษาความลับ การยกระดับ หรือการรายงานต่อสาธารณะ รายละเอียดเหล่านี้จะเป็นตัวกำหนดว่าแนวคิดดังกล่าวจะกลายเป็นการกำกับดูแลที่มีความหมายหรือยังคงเป็นคำมั่นสัญญา
ความหมายเชิงปฏิบัติสำหรับผู้กำหนดนโยบายก็คือผู้ประเมินที่นำโดยอุตสาหกรรมสามารถจัดให้มีการตรวจสอบข้อเท็จจริงเป็นระยะๆ ในขณะที่รัฐบาลอภิปรายกฎเกณฑ์ที่เป็นทางการ ตามรายงานที่ให้มา พวกเขาจะไม่แทนที่การบังคับใช้สาธารณะหรือสร้างภาระผูกพันร่วมกันระหว่างบริษัทต่างๆ
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
การทดสอบที่สำคัญคือ Anthropic, OpenAI และบริษัทอื่นๆ เป็นผู้กำหนดความเป็นอิสระของผู้ประเมิน สิทธิ์ในการเข้าถึง หน้าที่ในการรายงาน และการป้องกันจากการรบกวนหรือไม่ ความสามารถของรัฐบาลในการประสานงานเกี่ยวกับมาตรฐานความปลอดภัยทั่วไปยังไม่ได้รับการแก้ไขเช่นกัน CNN en Español ไม่รายงานตารางเวลาสรุป แผนการดำเนินงาน ต้นทุน หรือหลักฐานที่แสดงว่ามาตรการป้องกันที่เสนอได้ดำเนินการแล้วทั่วทั้งอุตสาหกรรม
เฝ้าดูผู้ประเมินที่ระบุชื่อ การรับประกันการเข้าถึงเป็นลายลักษณ์อักษร และหลักฐานที่ผู้ตรวจสอบสามารถตรวจสอบขั้นตอนการฝึกอบรม แบบจำลอง และเหตุการณ์ต่างๆ โดยไม่มีการยับยั้งบริษัท รายงานไม่ได้ให้รายละเอียดตารางเวลาหรือการปฏิบัติงาน
ติดตามว่าบริษัทต่างๆ นำมาตรฐานที่เทียบเคียงได้หรือไม่ และผู้ประเมินสามารถเปิดเผยข้อค้นพบที่ร้ายแรงต่อหน่วยงานกำกับดูแลหรือสาธารณะได้หรือไม่ CNN en Español รายงานการรับรอง ไม่ใช่ข้อตกลงอุตสาหกรรมที่เสร็จสมบูรณ์
เฝ้าระวังการดำเนินการของรัฐบาลในเรื่องมาตรฐานความปลอดภัยที่ใช้ร่วมกัน รายงานระบุว่าการประสานงานยังไม่ได้รับการแก้ไข และไม่ได้ระบุกฎหมายที่บังคับใช้หรือหน่วยงานที่ได้รับมอบหมายที่มีการกำกับดูแลอย่างครอบคลุม
การคาดการณ์ที่รายงานเกี่ยวกับการสูญเสียการควบคุมและการเติบโตอย่างรวดเร็วของความสามารถควรถือเป็นคำเตือนจาก Amodei และนักวิจัยอื่นๆ ไม่ใช่ผลลัพธ์ที่เป็นที่ยอมรับโดยอิสระ