เกิดอะไรขึ้น
รัฐนิวยอร์กได้กำหนดกรอบเวลาการปฏิบัติตามกฎหมาย Responsible and Security (RAISE) ที่เป็นรูปธรรม ผู้ว่าการ Kathy Hochul ประกาศเมื่อวันที่ 21 กันยายนว่า นักพัฒนาโมเดล AI ระดับแนวหน้าขนาดใหญ่จะต้องลงทะเบียนกับสำนักงานนวัตกรรมดิจิทัล ธรรมาภิบาล ความซื่อสัตย์ และความน่าเชื่อถือ (DIGIT) แห่งใหม่ของรัฐ โดยเริ่มตั้งแต่เดือนพฤศจิกายน ข้อกำหนดฉบับเต็ม รวมถึงระเบียบปฏิบัติด้านความปลอดภัยสาธารณะ การประเมินความเสี่ยงรายไตรมาส และการรายงานเหตุการณ์ที่เกิดขึ้นภายใน 72 ชั่วโมง จะมีผลในเดือนมกราคม รัฐยังได้แต่งตั้ง Marc Gilman ให้เป็นรองผู้อำนวยการสำหรับ RAISE Act ภายใน DIGIT ซึ่งดำเนินงานภายใต้ Department of Financial Services
ผู้ว่าการ Kathy Hochul ได้ประกาศกำหนดการดำเนินการสำหรับกฎหมาย RAISE Act ของนิวยอร์กเมื่อวันที่ 21 กันยายน 2026 ตารางดังกล่าวกำหนดให้นักพัฒนาโมเดล AI ระดับแนวหน้าขนาดใหญ่ต้องลงทะเบียนกับสำนักงานนวัตกรรมดิจิทัล ธรรมาภิบาล ความซื่อสัตย์ และความน่าเชื่อถือ (DIGIT) ของรัฐ โดยเริ่มตั้งแต่เดือนพฤศจิกายน 2026 ในเดือนมกราคม 2027 นักพัฒนาเหล่านี้จะต้องเริ่มเผยแพร่กรอบการทำงานด้านความปลอดภัยและความโปร่งใส ส่งการประเมินความเสี่ยงจากภัยพิบัติรายไตรมาส และรายงานเหตุการณ์ด้านความปลอดภัยที่สำคัญไปยัง หลักภายใน 72 ชั่วโมง
รัฐได้แต่งตั้ง Marc Gilman เป็นรองผู้อำนวยการฝ่าย RAISE Act ภายใน DIGIT ซึ่งเป็นสำนักงานแห่งใหม่ใน Department of Financial Services กฎหมายกำหนดบทลงโทษทางแพ่งสำหรับการไม่ปฏิบัติตาม โดยมีค่าปรับสูงสุด 1 ล้านดอลลาร์สำหรับการละเมิดครั้งแรก และ 3 ล้านดอลลาร์สำหรับการละเมิดครั้งต่อไป ซึ่งบังคับใช้โดยอัยการสูงสุดของรัฐ ภาระผูกพันเหล่านี้มีผลโดยเฉพาะกับนักพัฒนาโมเดลชายแดนขนาดใหญ่มากกว่าผู้ใช้ AI ทั้งหมด แต่จะสร้างห่วงโซ่การกำกับดูแลที่ส่งผลกระทบต่อลูกค้าขั้นปลาย
การประกาศดังกล่าวเน้นย้ำถึงความท้าทายในทางปฏิบัติสำหรับธนาคารและฟินเทคที่ใช้โมเดลเหล่านี้สำหรับการบริการลูกค้า การตรวจจับการฉ้อโกง หรือการชำระเงิน หากผู้ให้บริการ AI รายงานเหตุการณ์ร้ายแรง นักพัฒนาอาจจำเป็นต้องตรวจสอบ เปลี่ยนแปลงการเข้าถึง หรือเปลี่ยนแปลงพฤติกรรมของโมเดล ซึ่งอาจส่งผลกระทบต่อการดำเนินงานของสถาบันการเงิน ขณะนี้กฎหมายไม่ได้บังคับใช้ 'สวิตช์ฆ่า' แม้ว่าผู้ว่าการ Hochul ได้กล่าวถึงแนวคิดนี้เป็นแนวคิดเชิงสำรวจ
ทำไมมันถึงสำคัญ
การพัฒนานี้เปลี่ยนพระราชบัญญัติ RAISE Act จากกฎหมายที่ลงนามแล้วไปเป็นกรอบการกำกับดูแลการปฏิบัติงานโดยมีกำหนดเวลาที่บังคับใช้ได้ ข้อกำหนดการรายงานเหตุการณ์ภายใน 72 ชั่วโมงและบทลงโทษทางแพ่งที่อาจเกิดขึ้นสูงถึง 3 ล้านดอลลาร์สำหรับการละเมิดทำให้เกิดความเสี่ยงในการปฏิบัติงานทันทีสำหรับสถาบันการเงินที่ต้องพึ่งพาผู้ขาย AI เหล่านี้ ขณะนี้ธนาคารและฟินเทคต้องประเมินการพึ่งพาผู้ให้บริการ AI บางรายและเตรียมขั้นตอนสำรอง เนื่องจากเหตุการณ์ที่ผู้ขายรายงานอาจขัดขวางบริการที่สำคัญ เช่น การตรวจจับการฉ้อโกงหรือการชำระเงิน กฎหมายดังกล่าวมุ่งเป้าไปที่ผู้พัฒนาโมเดลชายแดนขนาดใหญ่โดยเฉพาะ แต่ผลกระทบขั้นปลายน้ำต่อลูกค้าองค์กรมีความสำคัญอย่างยิ่ง ทำให้ต้องมีการประเมินกลยุทธ์การบริหารความเสี่ยงของผู้ขายในภาค AI อีกครั้ง
ตารางการดำเนินการของ RAISE Act ช่วยให้นิวยอร์กมีกลไกในการติดตามความเสี่ยงที่ร้ายแรงของโมเดลแบบเรียลไทม์ กรอบเวลาการรายงานเหตุการณ์ภายใน 72 ชั่วโมงถือเป็นข้อจำกัดในการปฏิบัติงานที่สำคัญสำหรับนักพัฒนา AI ซึ่งจำเป็นต้องตอบสนองต่อปัญหาด้านความปลอดภัยอย่างรวดเร็ว สำหรับสถาบันการเงิน สิ่งนี้จะสร้างความเสี่ยงชั้นใหม่ให้กับผู้ขาย ซึ่งจะต้องรวมเข้ากับกรอบการปฏิบัติตามกฎระเบียบและความยืดหยุ่นในการดำเนินงานที่มีอยู่
ความแตกต่างระหว่างนักพัฒนาและผู้ใช้เป็นสิ่งสำคัญ แม้ว่าธนาคารจะไม่อยู่ภายใต้ข้อกำหนดการลงทะเบียนของ RAISE Act โดยตรง แต่การพึ่งพาผู้จำหน่าย AI เฉพาะรายทำให้พวกเขาเสี่ยงต่อผลที่ตามมาจากการไม่ปฏิบัติตามข้อกำหนดของผู้ขายหรือเหตุการณ์ที่ต้องรายงาน ศักยภาพในการลงโทษทางแพ่งจะเพิ่มน้ำหนักให้กับภาระผูกพันของนักพัฒนา ซึ่งอาจส่งผลต่อแนวทางปฏิบัติในการบริหารความเสี่ยง และโดยการขยายเสถียรภาพของบริการที่พวกเขามอบให้กับลูกค้าทางการเงิน
การดำเนินการตามนโยบายนี้บังคับให้สถาบันการเงินประเมินการพึ่งพา AI ในเชิงรุก พวกเขาจะต้องพิจารณาว่าพวกเขาจะได้รับแจ้งเหตุการณ์ของผู้จำหน่ายได้เร็วแค่ไหน บริการใดบ้างที่จะได้รับผลกระทบ และพวกเขาสามารถระงับการเข้าถึงข้อมูลที่ละเอียดอ่อนของโมเดลหรืออำนาจในการดำเนินการได้หรือไม่ การเปลี่ยนแปลงจากการพึ่งพาเชิงรับไปสู่การบริหารความเสี่ยงเชิงรุกถือเป็นการเปลี่ยนแปลงครั้งสำคัญในวิธีที่ภาคการเงินเข้าใกล้การนำ AI มาใช้
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
จะดูอะไรต่อไป.
ติดตามกระบวนการลงทะเบียนสำหรับนักพัฒนา AI รายใหญ่ในเดือนพฤศจิกายน เพื่อดูว่าบริษัทใดบ้างที่ปฏิบัติตาม และพวกเขาจัดโครงสร้างกรอบการทำงานด้านความปลอดภัยอย่างไร ติดตามการประเมินความเสี่ยงภัยพิบัติรายไตรมาสครั้งแรกที่จะครบกำหนดในต้นปี 2027 นอกจากนี้ ติดตามว่าการอภิปรายเชิงสำรวจของผู้ว่าการ Hochul เกี่ยวกับ 'สวิตช์ฆ่า' ของ AI พัฒนาไปสู่ข้อกำหนดด้านกฎระเบียบอย่างเป็นทางการหรือยังคงเป็นแนวทางปฏิบัติที่ดีที่สุดโดยสมัครใจสำหรับสถาบันการเงินหรือไม่
กำหนดเวลาการลงทะเบียนในเดือนพฤศจิกายนจะเปิดเผยว่านักพัฒนา AI รายใหญ่รายใดที่ต้องปฏิบัติตามกฎหมาย RAISE Act และพวกเขาตีความคำจำกัดความของ 'โมเดลชายแดน' อย่างไร ความพยายามในการปฏิบัติตามกฎระเบียบอาจแตกต่างกัน โดยบางบริษัทอาจท้าทายขอบเขตของกฎหมายหรือขอคำชี้แจงจาก DIGIT
การประเมินความเสี่ยงจากภัยพิบัติรายไตรมาสครั้งแรกซึ่งมีกำหนดในต้นปี 2570 จะให้ข้อมูลเชิงลึกแก่สาธารณะเป็นครั้งแรกเกี่ยวกับวิธีที่นักพัฒนาประเมินและรายงานเกี่ยวกับศักยภาพของโมเดลที่จะเกิดอันตราย รายงานเหล่านี้อาจเน้นย้ำถึงความเสี่ยงเฉพาะในด้านต่างๆ เช่น บริการทางการเงิน ซึ่งมีการใช้ AI ในการตัดสินใจมากขึ้น
การอภิปรายของผู้ว่าการ Hochul เกี่ยวกับ 'สวิตช์ฆ่า' ของ AI อาจนำไปสู่คำแนะนำด้านกฎระเบียบเพิ่มเติมหรือมาตรฐานโดยสมัครใจสำหรับสถาบันการเงิน แม้ว่าจะไม่จำเป็นในปัจจุบัน แต่แนวคิดในการปิดใช้งานเครื่องมือ AI อย่างรวดเร็วในกรณีฉุกเฉินกำลังกลายเป็นจุดสนใจหลักสำหรับผู้จัดการความเสี่ยงในภาคการธนาคาร