무슨 일이 일어났나요?
뉴욕주는 책임 있는 AI 안전 및 보안(RAISE)법에 대한 구체적인 준수 일정을 수립했습니다. Kathy Hochul 주지사는 9월 21일 대규모 개척 AI 모델 개발자가 11월부터 주의 새로운 디지털 혁신, 거버넌스, 무결성 및 신뢰 사무국(DIGIT)에 등록해야 한다고 발표했습니다. 공공 안전 프로토콜, 분기별 위험 평가, 72시간 사고 보고를 포함한 전체 요구 사항은 1월부터 시행됩니다. 주정부는 또한 Marc Gilman을 금융서비스부 산하에서 운영되는 DIGIT 내의 RAISE Act 부국장으로 임명했습니다.
Kathy Hochul 주지사는 2026년 9월 21일에 뉴욕의 RAISE 법안 시행 일정을 발표했습니다. 이 일정에 따르면 대규모 개척자 AI 모델 개발자는 2026년 11월부터 주의 디지털 혁신, 거버넌스, 무결성 및 신뢰 사무국(DIGIT)에 등록해야 합니다. 2027년 1월, 이러한 개발자는 안전 및 투명성 프레임워크를 게시하고, 심각한 위험에 대한 분기별 평가를 제출하고, 중요한 안전 사고를 보고해야 합니다. 72시간 이내에 DIGIT로 보내주세요.
주정부는 금융서비스부(Department of Financial Services) 산하의 새 사무실인 DIGIT 내의 RAISE Act 부국장으로 Marc Gilman을 임명했습니다. 법은 비준수에 대해 민사 처벌을 부과하며, 주 법무장관이 집행하는 첫 번째 위반의 경우 최대 100만 달러, 후속 위반의 경우 최대 300만 달러의 벌금을 부과합니다. 이러한 의무는 모든 AI 사용자가 아닌 대규모 프론티어 모델 개발자에게 특별히 적용되지만 다운스트림 고객에게 영향을 미치는 규제 체인을 생성합니다.
이번 발표는 고객 서비스, 사기 탐지 또는 결제를 위해 이러한 모델을 사용하는 은행 및 핀테크 기업의 실질적인 과제를 강조합니다. AI 제공업체가 심각한 사고를 보고하는 경우 개발자는 조사, 액세스 변경 또는 모델 동작을 변경해야 할 수 있으며 잠재적으로 금융 기관의 운영을 방해할 수 있습니다. Hochul 주지사는 탐색적 아이디어로 이 개념을 논의했지만 현재 이 법은 '킬 스위치'를 의무화하지 않습니다.
왜 중요한가요?
이 개발은 RAISE Act를 서명된 법령에서 시행 가능한 기한이 있는 운영 규제 프레임워크로 전환합니다. 72시간 사고 보고 요구 사항과 위반 시 최대 300만 달러의 민사 처벌 가능성은 이러한 AI 공급업체에 의존하는 금융 기관에 즉각적인 운영 위험을 초래합니다. 은행과 핀테크 기업은 이제 특정 AI 제공업체에 대한 의존도를 평가하고 대체 절차를 준비해야 합니다. 공급업체가 보고해야 하는 사고로 인해 사기 탐지나 결제와 같은 중요한 서비스가 중단될 수 있기 때문입니다. 이 법은 특히 대규모 프론티어 모델 개발자를 대상으로 하지만 기업 고객에 대한 다운스트림 영향은 상당하므로 AI 부문의 벤더 위험 관리 전략을 재평가해야 합니다.
RAISE Act의 시행 일정은 뉴욕에 심각한 모델 위험을 실시간으로 추적할 수 있는 메커니즘을 제공합니다. 72시간 사고 보고 기간은 AI 개발자에게 심각한 운영 제약으로 안전 문제에 대한 신속한 대응이 필요합니다. 금융 기관의 경우 이는 기존 규정 준수 및 운영 탄력성 프레임워크에 통합되어야 하는 새로운 공급업체 위험 계층을 생성합니다.
개발자와 사용자의 구분은 매우 중요합니다. 은행은 RAISE Act의 등록 요건을 직접적으로 적용받지는 않지만, 특정 AI 공급업체에 의존하므로 공급업체의 비준수 또는 보고 가능한 사고의 결과에 취약해집니다. 민사 처벌 가능성은 개발자의 의무에 무게를 더해 잠재적으로 위험 관리 관행에 영향을 미치고 더 나아가 금융 고객에게 제공하는 서비스의 안정성에도 영향을 미칩니다.
이 정책 조치로 인해 금융 기관은 AI 종속성을 사전에 평가해야 합니다. 공급업체 사고에 대한 알림을 얼마나 빨리 받을지, 어떤 서비스가 영향을 받을지, 민감한 데이터에 대한 모델의 액세스나 조치를 취할 수 있는 권한을 일시 중지할 수 있는지 여부를 결정해야 합니다. 수동적 의존에서 능동적 위험 관리로의 전환은 금융 부문이 AI 채택에 접근하는 방식에 있어 중요한 변화입니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
다음에 무엇을 볼 것인가
11월에 대규모 AI 개발자의 등록 프로세스를 모니터링하여 어떤 회사가 이를 준수하고 안전 프레임워크를 어떻게 구성하는지 확인하세요. 2027년 초에 예정된 첫 번째 분기별 재앙적 위험 평가를 지켜보십시오. 또한 AI '킬 스위치'에 대한 Hochul 주지사의 탐색적 논의가 공식적인 규제 요구 사항으로 발전하는지 아니면 금융 기관을 위한 자발적인 모범 사례로 남아 있는지 추적하십시오.
11월 등록 마감일에는 어떤 대규모 AI 개발자가 RAISE 법의 적용을 받고 '프론티어 모델' 정의를 어떻게 해석하는지 공개됩니다. 규정 준수 노력은 다양할 수 있으며, 일부 회사는 잠재적으로 법률 범위에 이의를 제기하거나 DIGIT의 설명을 요구할 수 있습니다.
2027년 초에 예정된 첫 번째 분기별 재난 위험 평가는 개발자가 모델의 피해 가능성을 평가하고 보고하는 방법에 대한 최초의 공개 통찰력을 제공할 것입니다. 이러한 보고서는 AI가 의사 결정에 점점 더 많이 사용되는 금융 서비스와 같은 영역의 특정 위험을 강조할 수 있습니다.
AI '킬 스위치'에 대한 호철 주지사의 논의는 금융 기관에 대한 추가 규제 지침이나 자발적 표준으로 이어질 수 있습니다. 현재는 필수 사항은 아니지만 긴급 상황에서 AI 도구를 신속하게 비활성화할 수 있다는 개념이 은행 부문의 위험 관리자에게 핵심 초점이 되고 있습니다.