ความปลอดภัยของเอไอ

ความปลอดภัยของ AI เป็นสาขาที่มุ่งเน้นไปที่การป้องกันระบบ AI ไม่ให้ก่อให้เกิดอันตรายร้ายแรง ตั้งแต่ความล้มเหลวในชีวิตประจำวันและการใช้งานในทางที่ผิด จนถึงภัยพิบัติและความเสี่ยงที่มีอยู่จากระบบขั้นสูงที่มีความสามารถสูง

ความปลอดภัยของ AI ครอบคลุมทุกขอบเขต ด้านหนึ่งคือความเสี่ยงของผลิตภัณฑ์ที่คุ้นเคย: ภาพหลอน อคติ การรั่วไหลของความเป็นส่วนตัว การหลอกลวง และคำแนะนำที่ไม่ปลอดภัย อีกด้านหนึ่งคือความเสี่ยงที่เติบโตตามความสามารถ: ระบบอัตโนมัติที่ไล่ตามเป้าหมายที่ไม่ได้ตั้งใจ โมเดลที่ช่วยจัดการกับภัยพิบัติในทางที่ผิด (เชื้อโรค การโจมตีทางไซเบอร์) และการแข่งขันที่กดดันห้องปฏิบัติการให้ปรับใช้ก่อนที่งานด้านความปลอดภัยจะพร้อม การอภิปรายเกี่ยวกับความเสี่ยงที่มีอยู่มุ่งเน้นไปที่ความเป็นไปได้ที่ระบบ AI ในอนาคตจะมีพลังมากพอที่ความล้มเหลวเพียงครั้งเดียว เช่น การวางแนวที่ไม่ถูกต้อง การสูญเสียการควบคุม หรือการแพร่กระจายที่ไม่สามารถย้อนกลับได้ อาจทำให้อนาคตของมนุษยชาติบั่นทอนลงอย่างถาวร คุณไม่จำเป็นต้องกำหนดความเป็นไปได้สูงให้กับผลลัพธ์นั้นเพื่อทำการวิจัยอย่างจริงจัง ความน่าจะเป็นต่ำและความเสี่ยงที่มีผลกระทบรุนแรงยังคงเป็นเหตุผลในการเตรียมการ เช่นเดียวกับที่เกิดขึ้นในความปลอดภัยทางชีวภาพและความปลอดภัยทางนิวเคลียร์ งานด้านความปลอดภัยในทางปฏิบัติในปัจจุบันประกอบด้วยการประเมิน การรวมทีมสีแดง การตีความได้ เทคนิคการควบคุม การกำกับดูแล (ใครจะฝึกอบรมอะไร) และความเข้าใจของสาธารณชนเพื่อให้สังคมสามารถสนับสนุนนโยบายที่ดีได้