ปัญญาประดิษฐ์ทั่วไป
ปัญญาประดิษฐ์ทั่วไป (AGI) หมายถึงระบบ AI ที่มีความสามารถในวงกว้าง ระดับมนุษย์ (หรือมากกว่า) ในงานด้านการรับรู้ส่วนใหญ่ ไม่ใช่แค่ทักษะเฉพาะด้านเดียว เช่น การแปลหรือการติดป้ายกำกับรูปภาพ
ภาพรวม
ปัญญาประดิษฐ์ทั่วไป (AGI) หมายถึงระบบ AI ที่มีความสามารถในวงกว้าง ระดับมนุษย์ (หรือมากกว่า) ในงานด้านการรับรู้ส่วนใหญ่ ไม่ใช่แค่ทักษะเฉพาะด้านเดียว เช่น การแปลหรือการติดป้ายกำกับรูปภาพ
ปัญญาประดิษฐ์ทั่วไปเป็นจุดที่มาบรรจบกันของความสามารถ อำนาจ และทางเลือกของสาธารณะ โดยที่ความปลอดภัย การกำกับดูแล และความชอบธรรมเป็นตัวตัดสินว่า AI ขั้นสูงจะช่วยหรือทำร้ายในวงกว้าง
เจาะลึก
ไม่มีคำจำกัดความที่ตกลงกันไว้ของ AGI บางคนหมายถึง 'จับคู่ผู้เชี่ยวชาญด้านมนุษย์ที่มีค่ามัธยฐานกับงานความรู้ส่วนใหญ่' บางคนหมายถึง 'สามารถทำให้งานที่มีคุณค่าทางเศรษฐกิจส่วนใหญ่เป็นไปโดยอัตโนมัติ' และคนอื่นๆ สงวนคำศัพท์สำหรับระบบที่สามารถปรับปรุงตนเองหรือแซงหน้ามนุษยชาติในด้านวิทยาศาสตร์และกลยุทธ์ คำจำกัดความมีความสำคัญเนื่องจากนโยบาย การลงทุน และการวางแผนความปลอดภัยทั้งหมดขึ้นอยู่กับว่าคุณคิดว่าระบบดังกล่าวจะมาถึงเมื่อใดและทำอะไรได้บ้าง โมเดลภาษาขนาดใหญ่ในปัจจุบันไม่ใช่ AGI ตามคำจำกัดความที่เข้มงวด แต่แสดงให้เห็นความสามารถในวงกว้างและการปรับปรุงอย่างรวดเร็ว ซึ่งเป็นเหตุผลว่าทำไมไทม์ไลน์จึงถูกโต้แย้ง และเหตุใดนักวิจัยความเสี่ยงที่มีอยู่จึงถือว่า AGI (และระบบที่นอกเหนือจากนั้น) เป็นปัญหาการวางแผนที่เกิดขึ้นจริงมากกว่านิยายวิทยาศาสตร์ หากระบบระดับ AGI สามารถดำเนินการโดยมีการควบคุมดูแลที่จำกัด ปัญหาการจัดตำแหน่งและการควบคุมก็จะเลิกเป็นเรื่องทางวิชาการ
ข้อมูลเชิงลึกทางเทคนิค
ความก้าวหน้าไปสู่ความสามารถที่กว้างขึ้นส่วนใหญ่มาจากการปรับขนาดข้อมูล การประมวลผล และอัลกอริธึม จากหลังการฝึกที่ทำให้โมเดลใช้งานได้มากขึ้น และจากเครื่องมือ/ตัวแทนที่ให้โมเดลดำเนินการในโลก ช่องว่างยังคงอยู่ในหน่วยงานขอบฟ้าที่เชื่อถือได้ โมเดลโลกที่มีพื้นฐาน และความจริงที่สอดคล้องกัน คำถามที่เกี่ยวข้องกับความปลอดภัยได้แก่: ความสามารถใดบ้างที่เกิดขึ้นอย่างกะทันหัน ไม่ว่าผู้ประเมินจะตรวจจับความสามารถเหล่านั้นหรือไม่ และห้องปฏิบัติการสามารถหยุดชั่วคราวหรือเปิดประตูการใช้งานเมื่อมีความเสี่ยงเพิ่มขึ้นหรือไม่
การเรียนรู้ปัญญาประดิษฐ์ทั่วไป
เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่าปัญญาประดิษฐ์ทั่วไปเป็นเพียงแบบจำลองการดำเนินงาน ไม่ใช่คุณลักษณะเดียว กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ
ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ปัญญาประดิษฐ์ทั่วไปจะจับคู่การเติบโตของขีดความสามารถกับการกำกับดูแล ความปลอดภัย และโครงสร้างความรับผิดชอบที่ชัดเจน โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน
ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้ ในเวลาเดียวกัน การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง
ผลกระทบเชิงกลยุทธ์
ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ
คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
การใช้งานจริงในโลกแห่งความเป็นจริง
ติดตามว่าโมเดลขอบเขตขยายจากการแชทไปสู่การเขียนโค้ด ความช่วยเหลือด้านการวิจัย และการใช้เครื่องมือหลายขั้นตอนอย่างไร
การเปรียบเทียบคำจำกัดความสาธารณะของห้องปฏิบัติการเกี่ยวกับ AGI และเกณฑ์ที่พวกเขาอ้างว่ามีความสำคัญต่อนโยบายความปลอดภัย
การวางแผนสำหรับผลกระทบทางเศรษฐกิจและความมั่นคงหากระบบสามารถทดแทนแรงงานทางปัญญาระยะไกลประเภทใหญ่ได้
การสร้างเวิร์กโฟลว์ปัญญาประดิษฐ์ทั่วไปที่สามารถทำซ้ำได้โดยมีเกณฑ์ความสำเร็จที่ชัดเจนและจุดตรวจสอบการตรวจสอบโดยมนุษย์
รูปแบบการดำเนินงาน
ปัญญาประดิษฐ์ทั่วไปในทางปฏิบัติ
ติดตามว่าโมเดลขอบเขตขยายจากการแชทไปสู่การเขียนโค้ด ความช่วยเหลือด้านการวิจัย และการใช้เครื่องมือหลายขั้นตอนอย่างไร
โดยปกติทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ปัญญาประดิษฐ์ทั่วไปในทางปฏิบัติ
การเปรียบเทียบคำจำกัดความสาธารณะของห้องปฏิบัติการเกี่ยวกับ AGI และเกณฑ์ที่พวกเขาอ้างว่ามีความสำคัญต่อนโยบายความปลอดภัย
โดยปกติทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ปัญญาประดิษฐ์ทั่วไปในทางปฏิบัติ
การวางแผนสำหรับผลกระทบทางเศรษฐกิจและความมั่นคงหากระบบสามารถทดแทนแรงงานทางปัญญาระยะไกลประเภทใหญ่ได้
โดยปกติทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ปัญญาประดิษฐ์ทั่วไปในทางปฏิบัติ
การสร้างเวิร์กโฟลว์ปัญญาประดิษฐ์ทั่วไปที่สามารถทำซ้ำได้โดยมีเกณฑ์ความสำเร็จที่ชัดเจนและจุดตรวจสอบการตรวจสอบโดยมนุษย์
โดยปกติทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ความเสี่ยงและรั้ว
การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ
แผนงานการดำเนินงาน
แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
ถือว่านี่เป็นประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
ถือว่านี่เป็นประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
ถือว่านี่เป็นประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น
ถือว่านี่เป็นประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
สำรวจต่อไป
Check your understanding
Test yourself: take the Artificial General Intelligence quiz