เกิดอะไรขึ้น
OpenAI กล่าวเมื่อวันที่ 31 สิงหาคมว่าสนับสนุนร่างกฎหมายวุฒิสภาแคลิฟอร์เนีย 1119 ซึ่งเป็นกฎหมายที่อธิบายว่าเป็นกรอบการทำงานสำหรับการใช้ AI ให้เหมาะสมกับวัยโดยวัยรุ่น บริษัทเรียกร้องให้ Gov. Gavin Newsom ลงนามในร่างกฎหมาย โดยกล่าวว่าจะจับคู่การป้องกันที่แข็งแกร่งยิ่งขึ้นกับการเข้าถึงเครื่องมือ AI อย่างต่อเนื่องเพื่อการเรียนรู้ ความคิดสร้างสรรค์ และการสำรวจ
OpenAI กล่าวว่าสนับสนุนร่างกฎหมายวุฒิสภาแคลิฟอร์เนีย 1119 และขอให้ Gov. Gavin Newsom ลงนามในกฎหมาย บริษัทให้เครดิต Newsom, ส.ส. Steve Padilla แห่งรัฐ, สมาชิกสภา Buffy Wicks และ Rebecca Bauer-Kahan และสภานิติบัญญัติแห่งรัฐแคลิฟอร์เนียในการผลักดันมาตรการนี้ แหล่งข่าวนำเสนอร่างกฎหมายดังกล่าวว่าอยู่ระหว่างการดำเนินการของผู้ว่าการรัฐ โดยไม่ได้ระบุวันที่ลงนาม ตารางเวลาการดำเนินงาน หรือรายละเอียดด้านกฎระเบียบขั้นสุดท้าย
ตามคำอธิบายของ OpenAI SB 1119 กำหนดให้ผู้ให้บริการ AI กำหนดอายุของผู้ใช้ ระบุและจัดการกับความเสี่ยงด้านความปลอดภัยก่อนที่จะผลิตผลิตภัณฑ์ให้กับเยาวชน ผ่านการตรวจสอบโดยอิสระ และปกป้องผู้เยาว์จากเนื้อหาที่เป็นอันตรายและการโต้ตอบที่มีความเสี่ยงสูง บริษัทแสดงรายการเนื้อหาเกี่ยวกับการทำร้ายตัวเองและการแสวงหาประโยชน์ทางเพศโดยเฉพาะท่ามกลางความเสี่ยงที่ครอบคลุม แหล่งที่มาไม่ได้ทำซ้ำภาษาตามกฎหมายของร่างกฎหมาย ดังนั้นจึงยังไม่ทราบคำจำกัดความที่แน่นอน กลไกการบังคับใช้ และบทลงโทษ
OpenAI กล่าวว่าร่างกฎหมายนี้ยังจำเป็นต้องมีเครื่องมือสำหรับผู้ปกครองในการแนะนำหรือจำกัดการใช้งานของเด็ก การเชื่อมต่อกับแหล่งข้อมูลที่สนับสนุนภาวะวิกฤติเมื่อเกิดความเสี่ยงด้านความปลอดภัยอย่างร้ายแรง การจำกัดการโฆษณาที่ตรงเป้าหมาย และการปกป้องข้อมูลส่วนบุคคลของเยาวชน บริษัทแสดงลักษณะของข้อเสนอที่แตกต่างจากกฎระเบียบด้านโซเชียลมีเดีย เนื่องจากมีจุดมุ่งหมายเพื่อรักษาฟีเจอร์ AI ที่เกี่ยวข้องกับการศึกษาและความปลอดภัย รวมถึงสิ่งที่เรียกว่าการใช้หน่วยความจำอย่างรับผิดชอบ
การประกาศดังกล่าวเชื่อมโยงจุดยืนทางนโยบายของ OpenAI กับ ChatGPT สำหรับวัยรุ่นที่เพิ่งเปิดตัวใหม่ OpenAI กล่าวว่าผู้ใช้ที่มีอายุต่ำกว่า 18 ปี หรือผู้ใช้ที่ระบุว่าตนมีอายุ 13 ถึง 17 ปี จะถูกจัดให้เข้าสู่ประสบการณ์นั้นโดยอัตโนมัติ นอกจากนี้ยังระบุด้วยว่าระบบสามารถประเมินได้ว่ามีคนอายุต่ำกว่า 18 ปีหรือไม่ แหล่งที่มาไม่ได้ให้ความแม่นยำ อัตราข้อผิดพลาด กระบวนการอุทธรณ์ แนวทางปฏิบัติในการเก็บรักษาข้อมูล หรือรายละเอียดเกี่ยวกับวิธีการประมาณการอายุของระบบ
OpenAI กล่าวว่าประสบการณ์สำหรับวัยรุ่นนั้นรวมถึงแบบทดสอบ การแสดงภาพการเรียนรู้ และโหมดการศึกษา ซึ่งได้รับการพัฒนาร่วมกับนักการศึกษาและผู้เชี่ยวชาญด้านการเรียนรู้ นอกจากนี้ ยังระบุด้วยว่าความทรงจำและบริบทอื่นๆ จากการสนทนาครั้งก่อนสามารถช่วยใช้มาตรการป้องกันได้อย่างสม่ำเสมอ รับรู้รูปแบบที่เกี่ยวข้อง และสนับสนุนการเรียนรู้ในระยะยาว แหล่งที่มาไม่ได้จัดให้มีการทดสอบการกล่าวอ้างหรือหลักฐานเหล่านี้โดยอิสระซึ่งแสดงให้เห็นว่าฟีเจอร์ต่างๆ สำเร็จหรือล้มเหลวบ่อยเพียงใด
ทำไมมันถึงสำคัญ
ข้อเสนอดังกล่าวจะวางข้อกำหนดทางกฎหมายเกี่ยวกับวิธีการที่ผลิตภัณฑ์ AI ระบุผู้ใช้ที่อายุน้อยกว่า ประเมินความเสี่ยงด้านความปลอดภัย จัดการเนื้อหาที่เป็นอันตราย และเกี่ยวข้องกับผู้ปกครอง จุดยืนของ OpenAI ก็มีความโดดเด่นเช่นกัน เนื่องจากบริษัทกำลังอธิบายถึงการปกป้องผลิตภัณฑ์ที่เน้นวัยรุ่นเป็นหลัก เพื่อเป็นตัวอย่างของแนวทางที่ต้องการให้ผู้กำหนดนโยบายนำมาใช้
หากมีการประกาศใช้ตามที่อธิบายไว้ SB 1119 จะย้ายการป้องกันเยาวชน-AI หลายรายการจากการออกแบบผลิตภัณฑ์โดยสมัครใจไปสู่กรอบทางกฎหมาย การกำหนดอายุ การประเมินความเสี่ยงก่อนเผยแพร่ การตรวจสอบ และการป้องกันอัตโนมัติอาจส่งผลต่อวิธีที่บริษัทออกแบบระบบการเริ่มต้นใช้งาน การกลั่นกรอง การโฆษณา และข้อมูลสำหรับวัยรุ่น ผลในทางปฏิบัติจะขึ้นอยู่กับข้อความสุดท้ายของร่างกฎหมายและกฎเกณฑ์ที่ออกระหว่างการดำเนินการเป็นอย่างมาก
การรับประกันอายุถือเป็นข้อแลกเปลี่ยนที่ยังไม่ได้รับการแก้ไข ระบบที่จำแนกผู้ใหญ่ว่าเป็นผู้เยาว์อย่างไม่ถูกต้องอาจจำกัดการเข้าถึงฟีเจอร์ต่างๆ ในขณะที่ระบบที่ไม่สามารถจดจำวัยรุ่นได้อาจทำให้ผู้ใช้รายนั้นอยู่นอกขอบเขตการคุ้มครองที่กำหนดไว้ การประกาศของ OpenAI สนับสนุนการประมาณอายุตามหลักการ แต่ไม่มีหลักฐานเกี่ยวกับความถูกต้อง ประสิทธิภาพทางประชากรศาสตร์ การปกป้องความเป็นส่วนตัว หรือวิธีที่ผู้ใช้สามารถท้าทายการจัดหมวดหมู่ที่ไม่ถูกต้อง
ข้อกำหนดการตรวจสอบที่นำเสนอสามารถให้ข้อมูลเพิ่มเติมแก่ครอบครัว หน่วยงานกำกับดูแล และสาธารณชนว่าคำกล่าวอ้างด้านความปลอดภัยของเยาวชนตรงกับพฤติกรรมของระบบที่เกิดขึ้นจริงหรือไม่ แต่แหล่งข่าวไม่ได้อธิบายว่าใครจะเลือกผู้ตรวจสอบ หลักฐานใดที่จะตรวจสอบ ไม่ว่าการค้นพบจะเปิดเผยต่อสาธารณะหรือไม่ หรือการตรวจสอบจะเกิดขึ้นบ่อยแค่ไหน รายละเอียดเหล่านั้นจะกำหนดว่าการตรวจสอบทำหน้าที่เป็นความรับผิดชอบที่มีความหมายหรือเป็นการตรวจสอบตามขั้นตอนหรือไม่
นโยบายนี้ยังทำให้เกิดคำถามเกี่ยวกับการออกแบบระบบ AI ที่รักษาบริบทไว้ OpenAI กล่าวว่าหน่วยความจำสามารถช่วยตรวจจับรูปแบบที่เกี่ยวข้องและหลีกเลี่ยงการเสริมรูปแบบที่เป็นอันตราย ขณะเดียวกันก็สนับสนุนความต่อเนื่องในการทำงานทางการศึกษา นั่นทำให้เกิดความตึงเครียดระหว่างประโยชน์ด้านความปลอดภัยและความอ่อนไหวของข้อมูลเกี่ยวกับการสนทนาของเยาวชน ประกาศดังกล่าวไม่ได้ระบุว่าข้อมูลใดจะถูกเก็บไว้ ระยะเวลาที่ใครสามารถเข้าถึงได้ หรือวิธีที่การควบคุมโดยผู้ปกครองโต้ตอบกับความเป็นส่วนตัวของวัยรุ่น
การประกาศดังกล่าวเป็นแถลงการณ์สนับสนุนจากบริษัทที่อาจได้รับผลกระทบจากกฎหมายที่เสนอ การสนับสนุนของ OpenAI แสดงให้เห็นว่ามาตรการดังกล่าวสอดคล้องกับการตั้งค่านโยบายที่ระบุไว้ของบริษัท แต่ไม่ใช่หลักฐานที่เป็นอิสระว่า ChatGPT สำหรับวัยรุ่นหรือมาตรการป้องกันที่เสนอของร่างกฎหมายนั้นมีประสิทธิภาพ แหล่งที่มาไม่มีการประเมินภายนอก ข้อมูลผู้ใช้ การวิเคราะห์การบังคับใช้ หรือคำให้การจากครอบครัว นักการศึกษา ผู้เชี่ยวชาญด้านความปลอดภัยของเด็ก หรือกลุ่มเสรีภาพของพลเมือง
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
จะดูอะไรต่อไป.
คำถามทันทีคือ Newsom ลงนามใน SB 1119 หรือไม่ และจะปฏิบัติตามข้อกำหนดอย่างไร ปัญหาสำคัญที่ยังไม่ได้รับการแก้ไข ได้แก่ ความแม่นยำและความเป็นส่วนตัวของการประมาณอายุ ขอบเขตของการตรวจสอบที่เป็นอิสระ ความหมายของภาระผูกพันในการสนับสนุนภาวะวิกฤติ และวิธีที่หน่วยงานกำกับดูแลจะประเมินว่าการป้องกันใช้งานได้จริงหรือไม่
ขั้นตอนที่เป็นทางการต่อไปคือการตัดสินใจของผู้ว่าการรัฐ OpenAI กำลังเรียกร้องให้ Newsom ลงนาม SB 1119 แต่แหล่งข่าวไม่ได้ระบุว่าผู้ว่าราชการมีความมุ่งมั่นที่จะทำเช่นนั้นหรือไม่ หากร่างกฎหมายดังกล่าวกลายเป็นกฎหมาย คำแนะนำของหน่วยงานที่ตามมาและกำหนดเวลาการปฏิบัติตามจะมีความสำคัญพอๆ กับข้อกำหนดพาดหัวข่าว
การนำไปปฏิบัติควรชี้แจงให้ชัดเจนว่าอะไรถือเป็นการกำหนดอายุของผู้ใช้ และผู้ให้บริการอาจอาศัยการประมาณอายุ อายุที่ระบุ เอกสารประจำตัว หรือวิธีการอื่นๆ หรือไม่ นอกจากนี้ยังควรแสดงให้เห็นว่ารัฐแคลิฟอร์เนียตั้งใจที่จะลดการรวบรวมข้อมูลที่ละเอียดอ่อนให้เหลือน้อยที่สุด และป้องกันไม่ให้การตรวจสอบอายุกลายเป็นแหล่งใหม่ของการจัดทำโปรไฟล์ การยกเว้น หรือการเปิดเผยข้อมูล
ข้อกำหนดการตรวจสอบที่เป็นอิสระรับประกันการตรวจสอบอย่างใกล้ชิด คำถามสำคัญ ได้แก่ มาตรฐานที่ผู้ตรวจสอบต้องใช้ พวกเขาสามารถทดสอบระบบได้โดยตรงหรือไม่ บริษัทต่างๆ จะต้องเปิดเผยความล้มเหลวหรือไม่ และจะเกิดอะไรขึ้นเมื่อการตรวจสอบระบุความเสี่ยงที่ยังไม่ได้รับการแก้ไข แหล่งที่มาไม่ได้ตอบคำถามเหล่านี้
ข้อกำหนดในการสนับสนุนภาวะวิกฤตยังต้องมีขอบเขตที่ชัดเจนอีกด้วย OpenAI กล่าวว่าร่างกฎหมายจะเชื่อมโยงคนหนุ่มสาวกับทรัพยากรที่สนับสนุนวิกฤติเมื่อมีความเสี่ยงด้านความปลอดภัยร้ายแรง แต่ไม่ได้กำหนดเกณฑ์สำหรับการแทรกแซงหรืออธิบายว่าระบบจะจัดการกับความไม่แน่นอน ผลบวกลวง และเหตุฉุกเฉินในเขตอำนาจศาลที่แตกต่างกันอย่างไร รายละเอียดเหล่านี้จะส่งผลต่อทั้งความปลอดภัยและความเป็นส่วนตัวของผู้ใช้
OpenAI กล่าวว่าคาดว่าจะมีการศึกษาและการทำงานร่วมกันอย่างต่อเนื่องในระหว่างการดำเนินการ และงานด้านความปลอดภัยของเยาวชนนั้นรวมถึงการควบคุมโดยผู้ปกครอง การทำนายอายุ พิมพ์เขียวความปลอดภัยของวัยรุ่น และหลักพฤติกรรมที่มีอายุต่ำกว่า 18 ปี ระวังหลักฐานนอกเหนือจากคำอธิบายของบริษัท: การประเมินโดยอิสระ ผลการตรวจสอบที่ตีพิมพ์ ข้อมูลเกี่ยวกับการจัดประเภทอายุที่ไม่ถูกต้อง และผลลัพธ์ที่วัดได้สำหรับการป้องกันเนื้อหาที่เป็นอันตรายและการเข้าถึงการสนับสนุน