เกิดอะไรขึ้น
พนักงาน AI จำนวนมากในบริษัทใหญ่ๆ เช่น OpenAI, Meta และ DeepMind มีความกังขาเกี่ยวกับแนวคิดที่ว่า AI ก่อให้เกิดภัยคุกคามต่อมนุษยชาติ พวกเขาแสดงความสงสัยผ่านอารมณ์ขันและชี้ให้เห็นการขาดหลักฐานที่เป็นรูปธรรมที่สนับสนุนคำกล่าวอ้างเหล่านี้ แม้ว่าจะมีความกังวลเกี่ยวกับความเสี่ยงที่เกิดขึ้นทันที เช่น ความปลอดภัยของ AI และการใช้งานอย่างมีจริยธรรม โดยเฉพาะอย่างยิ่งในสถานที่ทางทหาร คนงานรู้สึกว่าการสนทนานั้นเหมาะสมยิ่งขึ้นกว่าคำเตือนที่มีชื่อเสียงระดับสูงล่าสุด
บทความนี้แชร์ปฏิกิริยาจากพนักงาน AI ในบริษัทต่างๆ เช่น OpenAI, Meta และ DeepMind ที่ไม่มั่นใจเกี่ยวกับภัยคุกคามที่มีอยู่ที่เกิดจาก AI พวกเขาแสดงความสนุกสนานและสงสัยเกี่ยวกับการขาดหลักฐานที่เป็นรูปธรรมในการกล่าวอ้างของบุคคลในอุตสาหกรรมบางราย
Jacob Coxon อดีตพนักงาน Anthropic อ้างว่าเครื่องมือ AI ในอนาคตอาจเป็นอันตรายต่อผู้คน แต่คนงานจำนวนมากพบว่าคำกล่าวอ้างเหล่านี้คลุมเครือและไม่ได้รับการสนับสนุน
Rishub Jain ผู้ก่อตั้ง Sampura Research ตั้งข้อสังเกตว่าทัศนคติของคนทำงานด้าน AI นั้น 'ล้อเล่น' เล็กน้อยเกี่ยวกับความกลัวใหม่ๆ เกี่ยวกับ AI Colin Fraser นักวิทยาศาสตร์ข้อมูล Meta แย้งว่าไม่มีหลักฐานที่แท้จริงว่าโมเดล AI จะบรรลุเป้าหมายที่นำไปสู่ความตายของมนุษย์อย่างหลีกเลี่ยงไม่ได้
แม้จะมีความกังขา แต่พนักงาน AI ก็เห็นพ้องถึงความสำคัญของการลดความเสี่ยงต่างๆ รวมถึงการป้องกันไม่ให้รั้ว AI ล้มเหลว และการจัดการข้อกังวลด้านจริยธรรมเกี่ยวกับ AI ในการตั้งค่าทางทหาร
มีการสนับสนุนเพิ่มมากขึ้นในการนำผู้ประเมินจากภายนอกมาประเมินโมเดล AI ใหม่เพื่อความปลอดภัย โดยมีผู้นำอย่าง Dario Amodei จาก Anthropic และ Sam Altman จาก OpenAI สนับสนุนแนวทางนี้
ทำไมมันถึงสำคัญ
สิ่งนี้สำคัญเพราะมันเน้นย้ำถึงความแตกแยกภายในอุตสาหกรรม AI เกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจาก AI แม้ว่าบางคนจะเตือนถึงภัยคุกคามที่มีอยู่ แต่คนงานจำนวนมากรู้สึกว่าข้อกังวลเหล่านี้เกินจริงและไม่ได้รับการสนับสนุนจากหลักฐาน ความสงสัยนี้อาจส่งผลกระทบต่อวิธีที่อุตสาหกรรมเข้าใกล้ความปลอดภัยและกฎระเบียบของ AI
ความสงสัยในหมู่พนักงาน AI อาจส่งผลต่อแนวทางของอุตสาหกรรมด้านความปลอดภัยและกฎระเบียบ ซึ่งอาจนำไปสู่การอภิปรายที่มีความเหมาะสมและอิงหลักฐานมากขึ้น
ความเห็นที่แตกแยกเกี่ยวกับความเสี่ยงของ AI อาจส่งผลกระทบต่อการรับรู้ของสาธารณะและการตัดสินใจเชิงนโยบายเกี่ยวกับการพัฒนาและการใช้งาน AI
ความเสี่ยงที่เกิดขึ้นในทันที เช่น ความปลอดภัยของ AI และการใช้งานอย่างมีจริยธรรมกำลังได้รับความสนใจ โดยมุ่งเน้นไปที่ขั้นตอนการปฏิบัติเพื่อลดความเสี่ยงเหล่านี้
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
จะดูอะไรต่อไป.
แนวทางของอุตสาหกรรม AI ด้านความปลอดภัยและกฎระเบียบ การบูรณาการผู้ประเมินภายนอกในห้องปฏิบัติการ AI และวิธีจัดการกับความเสี่ยงที่เกิดขึ้นทันที เช่น ความล้มเหลวของรั้วกั้นของ AI
การบูรณาการของผู้ประเมินภายนอกในห้องปฏิบัติการ AI ที่สำคัญและผลกระทบต่อความปลอดภัยของ AI
วิธีที่อุตสาหกรรมจัดการกับความเสี่ยงที่เกิดขึ้นทันที เช่น ความล้มเหลวของรั้วกั้น AI และข้อกังวลด้านจริยธรรม
วิวัฒนาการของการอภิปรายสาธารณะและกฎระเบียบเกี่ยวกับความเสี่ยงและความปลอดภัยของ AI