เกิดอะไรขึ้น
The Guardian รายงานว่า Dario Amodei ซีอีโอของ Anthropic เสนอการชะลอการพัฒนา AI ชายแดนผ่านผู้ประเมินอิสระ ข้อตกลงด้านความปลอดภัยระหว่างประเทศ และการประสานงานกับจีนในประเด็นด้านความปลอดภัย Sam Altman ซีอีโอ OpenAI, Demis Hassabis หัวหน้า Google DeepMind และ Elon Musk เจ้าของ xAI แสดงการสนับสนุนต่อสาธารณะ รายงานยังระบุด้วยว่า โดนัลด์ ทรัมป์ ปฏิเสธการพัฒนาที่ชะลอตัว โดยอ้างถึงการแข่งขันกับจีน
The Guardian รายงานว่า Amodei ออกข้อเสนอชื่อ "เราต้องก้าวข้ามพรมแดน" หลังจากได้รับคำเตือนจากนักวิจัย Anthropic เกี่ยวกับความเสี่ยงที่อาจเกิดภัยพิบัติจาก AI แนวคิดหลักสามประการของบริษัท ได้แก่ ผู้ประเมินภายนอกที่สามารถเข้าถึงระดับพนักงานเพื่อติดตามความเสี่ยง ข้อตกลงระหว่างรัฐบาลประชาธิปไตยเกี่ยวกับมาตรฐานความปลอดภัย และการประสานงานระดับโลกกับรัฐบาลเผด็จการ รวมถึงจีนในประเด็นด้านความปลอดภัย
ตามรายงาน Altman กล่าวว่า OpenAI จะตรงกับความมุ่งมั่นของ Amodei ที่มีต่อผู้ประเมินอิสระ ในขณะที่ Hassabi และ Musk ก็แสดงการสนับสนุนเช่นกัน รายงานไม่ได้ให้เนื้อหาหลักทั้งหมดของข้อเสนอของ Amodei หรือหลักฐานอิสระที่แสดงว่าข้อความเหล่านี้ก่อให้เกิดข้อผูกพันที่เป็นทางการและบังคับใช้ได้
บทความนี้รายงานความขัดแย้งอย่างมากจากนักวิจารณ์ด้านกฎระเบียบของ AI และอดีตเจ้าหน้าที่ ซึ่งตั้งคำถามว่าผู้ประเมินที่ได้รับเลือกจากอุตสาหกรรมและการยกเว้นการต่อต้านการผูกขาดที่เป็นไปได้อาจเทียบได้กับการจับกุมตามกฎระเบียบหรือไม่ นอกจากนี้ยังรายงานว่าทรัมป์ปฏิเสธข้อเรียกร้องเพื่อชะลอการพัฒนา AI และประธานสภาผู้แทนราษฎร ไมค์ จอห์นสัน กล่าวว่าบริษัทต่างๆ ควรเป็นผู้นำด้านความปลอดภัยของ AI แทนที่จะเป็นสภาคองเกรส
รายละเอียดที่มา: theguardian.com ↗
ทำไมมันถึงสำคัญ
ตอนนี้เน้นย้ำถึงความขัดแย้งที่เพิ่มมากขึ้นระหว่างคำเตือนสาธารณะของบริษัท AI เกี่ยวกับความเสี่ยงร้ายแรง และสิ่งจูงใจทางการค้าและภูมิรัฐศาสตร์เพื่อให้ปล่อยระบบที่มีความสามารถมากขึ้นต่อไป ข้อผูกพันโดยสมัครใจสามารถปรับปรุงการกำกับดูแลได้หากผู้ประเมินได้รับการเข้าถึงและอำนาจที่แท้จริง แต่รายงานที่ให้มาไม่ได้ยืนยันอย่างอิสระว่าบริษัทใด ๆ ได้นำมาตรการที่มีผลผูกพันมาใช้ การอภิปรายยังทำให้เกิดคำถามว่าการประสานงานในอุตสาหกรรมจะปรับปรุงความปลอดภัยหรือสร้างความแข็งแกร่งให้กับผู้นำตลาดที่มีอยู่หรือไม่
การพัฒนาเป็นผลสืบเนื่องเนื่องจากผู้นำของบริษัท AI รายใหญ่หลายแห่งยอมรับอย่างเปิดเผยว่าการพัฒนาขีดความสามารถที่รวดเร็วยิ่งขึ้นอาจต้องมีการควบคุมความปลอดภัยที่แข็งแกร่งยิ่งขึ้น ตำแหน่งดังกล่าวอาจมีอิทธิพลต่อกฎระเบียบในอนาคต การกำกับดูแลกิจการ และการเจรจาระหว่างประเทศ แต่การสนับสนุนจากสาธารณะเพียงอย่างเดียวไม่ได้แสดงให้เห็นว่าการพัฒนาช้าลงหรือแนวทางปฏิบัติด้านความปลอดภัยมีการเปลี่ยนแปลงอย่างมีนัยสำคัญ
การรายงานของ The Guardian ยังเผยให้เห็นความตึงเครียดทางโครงสร้าง: บริษัทต่างๆ อาจขอความร่วมมือโดยสมัครใจ ในขณะที่ต่อต้านกฎเกณฑ์ที่อาจจำกัดผลิตภัณฑ์ของตนหรือปกป้องคู่แข่ง ผลลัพธ์ในทางปฏิบัติจะขึ้นอยู่กับว่าผู้ประเมินอิสระสามารถเข้าถึงระบบที่เกี่ยวข้อง เผยแพร่ผลการวิจัยที่น่าเชื่อถือ และดำเนินการนอกเหนือการควบคุมของบริษัทหรือไม่ เงื่อนไขเหล่านั้นยังคงไม่ได้รับการแก้ไขในรายงานที่ให้มา
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
Which component of an AI application is the machine-learning model itself?
จะดูอะไรต่อไป.
สิ่งที่ไม่ทราบหลักๆ ได้แก่ บริษัทต่างๆ จะทำพันธสัญญาของตนอย่างเป็นทางการหรือไม่ ใครจะเป็นผู้เลือกและให้อำนาจแก่ผู้ประเมินภายนอก และไม่ว่าผู้ประเมินจะสามารถเข้าถึงระดับพนักงานในทางปฏิบัติได้หรือไม่ คอยดูบทบาทของรัฐบาลกลางที่เสนอ การปฏิบัติต่อข้อกังวลเรื่องการต่อต้านการผูกขาด และฝ่ายบริหารของทรัมป์เปลี่ยนการต่อต้านการพัฒนาที่ชะลอตัวหรือไม่ ไม่มีการบันทึกการเข้าถึงผลิตภัณฑ์ ความพร้อมจำหน่าย หรือการเปลี่ยนแปลงราคา
การทดสอบทันทีคือการดำเนินการ รายงานไม่ได้กำหนดกำหนดเวลา กลไกการบังคับใช้ ตัวตนของผู้ประเมิน หรือผลที่ตามมาสำหรับบริษัทที่ไม่ปฏิบัติตาม การรายงานเพิ่มเติมควรแยกแยะคำแถลงสาธารณะออกจากข้อตกลงที่ลงนาม การหยุดการปฏิบัติงาน หรือการประเมินการเปลี่ยนแปลงด้านความปลอดภัยโดยอิสระ
องค์ประกอบระหว่างประเทศและการต่อต้านการผูกขาดของข้อเสนออาจเผชิญกับการต่อต้านทางการเมือง นักวิจารณ์ที่อ้างถึงในรายงานโต้แย้งว่าความร่วมมือสามารถใช้เพื่อจำกัดการแข่งขัน ในขณะที่รัฐบาลสหรัฐฯ ยังคงตีกรอบความเป็นผู้นำ AI ในการแข่งขันกับจีน ไม่ว่าผู้กำหนดนโยบายจะสร้างการกำกับดูแลที่บังคับใช้หรือปล่อยให้ความรับผิดชอบเป็นหลักกับบริษัทต่างๆ หรือไม่นั้นยังไม่เป็นที่ทราบแน่ชัด