무슨 일이 일어났나요?
National Law Review에 따르면 콜로라도 법무부는 2027년 1월 1일 발효 예정인 두 가지 AI 법률을 시행하기 위해 8월 11일에 제안된 규칙을 제출했습니다. 규칙 초안은 채용, 승진, 해고 및 기타 결과적인 고용 결정에 자동화된 의사 결정 기술을 사용하는 고용주에 대한 자세한 통지, 데이터 액세스, 수정 및 독립적인 인적 검토 의무를 생성합니다. 이 규칙은 주 정부의 규칙 제정 과정에 따라 달라지며 여기에서 최종적으로 독립적으로 확인되지 않았습니다.
National Law Review에 따르면 콜로라도주 법무부는 2026년 8월 11일 국무장관에게 자동화된 의사결정 기술 및 대화형 인공지능 서비스 규칙 제안을 제출했습니다. 이 기사에서는 규칙 초안이 지난 5월 Jared Polis 주지사가 서명한 두 가지 법률(상원 법안 26-189, 결과적 결정에 대한 자동화된 의사결정 기술법)과 하원 법안 26-1263, 챗봇 안전을 시행하기 위한 것이라고 밝혔습니다. 행위. 법률과 제안된 규칙은 모두 2027년 1월 1일에 발효될 예정이라고 설명되어 있습니다. 이 기사에서는 규칙이 초기 초안이며 최종이 아님을 분명히 밝혔습니다.
제안된 요구 사항은 고용 결정에 중점을 두고 있습니다. National Law Review에 따르면, 자동화된 의사결정 기술을 사용하는 고용주는 고용이나 해고에 대한 결정을 포함한 중대한 결정을 내리기 전에 그 사용을 공개해야 합니다. 결정이 부정적인 결과를 낳는 경우, 고용주는 시스템의 구체적인 목적, 역할, 인간 검토자 또는 기타 시스템의 역할, 결과에 대한 주요 이유를 설명해야 합니다. 기사에서는 설명이 너무 광범위하거나 모호해서 피해를 입은 사람이 어떻게 결정이 내려졌는지 이해할 수 없다고 말합니다.
National Law Review에서는 영향을 받는 직원과 지원자가 시스템에서 고려하는 데이터에 대한 추가 정보를 요청할 수 있다고 보고합니다. 초안 규칙에는 신용, 건강, 범죄 이력 정보와 같은 데이터 범주에 대한 설명과 각 데이터 소스의 이름별 식별이 필요합니다. 정보가 수집자를 통해 제공된 경우 공개는 원래 소스에 대한 체인을 추적하고 중개자를 식별해야 하는 것으로 알려졌습니다. 기사에서는 고용주가 배경 조사 회사, 평가 플랫폼 및 데이터 브로커와의 계약을 검토해야 할 수 있다고 말합니다.
초안 규칙은 사람들이 자신의 권리를 행사할 수 있는 방법도 명시합니다. National Law Review에서는 부정적인 결과 통지에는 요청 메커니즘에 대한 명확하게 표시된 링크와 함께 우편 주소 또는 무료 전화번호가 필요하다고 보고합니다. 고용주는 최소한 두 가지 제출 방법이 필요하며, 요청을 처리할 수 있는 사람을 통해 이를 모니터링하고 언제든지 제출을 허용합니다. 기사에서는 또한 개인이 순위, 점수, 분류, 추천, 예측 및 기타 추론을 포함하여 결정에 사용되는 특정 개인 데이터를 요청할 수 있으며 잘못된 정보는 일반적으로 기존 시스템에서 수정되어야 한다고 말합니다.
왜 중요한가요?
이 규칙이 채택되면 고용주가 AI 고용 도구를 불투명한 공급업체 제품으로 취급하기가 더 어려워질 것입니다. 고용주는 시스템이 어떻게 부정적인 결과에 영향을 미쳤는지 설명하고, 사용된 개인 데이터의 출처를 식별하고, 부정확한 정보를 수정하고, 결과를 무시할 권한이 있는 진정으로 독립적인 검토자를 마련해야 할 수 있습니다. 요구 사항은 규정 준수 시스템, 공급업체 계약, 기록 보관, AI 지원 결정에 이의를 제기하는 근로자와 지원자의 실질적인 능력에 영향을 미칠 수 있습니다.
제안된 규칙은 고용주가 기술에 대한 공급업체의 일반적인 설명에 전적으로 의존하도록 허용하는 대신 AI 시스템을 배포하는 고용주에게 책임을 전가합니다. National Law Review의 설명에 따르면 시스템이 결정에 어떻게 실질적으로 영향을 미쳤는지, 개인 데이터를 어떻게 사용했는지 또는 불리한 결과에 대한 주요 이유가 무엇인지 설명할 수 없는 경우 고용주가 규정을 준수하지 않을 수 있습니다. 실제로 이는 고용주가 영향력이 큰 환경에서 자동화된 도구를 사용하기 전에 입력, 출력, 가중치, 인간 참여 및 의사 결정 경로를 문서화하도록 강요할 수 있습니다.
데이터 소스 조항은 운영상 심각한 결과를 초래할 수 있습니다. 여러 공급업체 또는 중개자로부터 정보를 얻는 고용주는 개인 데이터의 출처와 데이터가 자동화된 평가에 도달하기 전에 어떤 변환이 발생했는지 재구성해야 할 수 있습니다. 이는 조달, 계약 언어, 감사 권한, 데이터 보존 관행 및 직원의 요청에 신속하게 대응하는 능력에 영향을 미칠 수 있습니다. National Law Review는 이러한 의무를 제안의 특징으로 보고합니다. 이 기사는 고용주나 공급업체가 이를 어떻게 충족할 수 있는지에 대한 독립적인 테스트를 제공하지 않습니다.
인적 검토 조항은 명목상의 인적 승인 이상의 것을 요구하도록 설계되었습니다. National Law Review에 따르면, 검토자는 독립적이어야 하고 결정을 승인, 수정 또는 무시할 권한이 있어야 하며 관련 피해에 비례하는 주제 지식을 보유해야 합니다. 검토자는 일반적으로 최초 의사 결정자나 그 사람의 부하 직원이 되어서는 안 됩니다. 기사에서는 요청 접수를 확인하는 데 10일, 검토를 완료하는 데 45일이라는 제안된 기한을 보고합니다.
또한 결정이 기본적인 인간의 필요를 위협하는 경우 규칙은 검토를 더욱 까다롭게 만들 수 있습니다. 국가법 검토(National Law Review)는 불리한 결과로 인해 그러한 필요성이 심각하고 돌이킬 수 없이 거부될 경우 초안이 검토가 상업적으로 합리적이라는 반박 가능한 추정을 생성할 것이라고 보고합니다. 고용주는 기술적 또는 재정적 불가능성을 입증하거나 검토를 통해 결과가 변경될 수 없음을 입증해야 하는 부담을 지게 됩니다. 기사에서는 고용 종료 또는 필수 직위의 갱신 거부가 이 기준과 관련될 수 있다고 제안하지만 최종 범위와 법적 해석은 아직 알려지지 않았습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
Why can ethical evaluation not be reduced to one model score?
다음에 무엇을 볼 것인가
가장 큰 불확실성은 콜로라도가 최종 규칙에 무엇을 포함할지, 특히 소규모 고용주와 개인의 생계에 영향을 미치는 결정에 대해 주정부가 상업적 합리성을 어떻게 해석할 것인지입니다. 선별, 평가, 배경 조사 또는 기타 자동화 도구를 사용하는 고용주는 규칙 제정을 모니터링하고 데이터 흐름을 매핑하며 검토 절차를 준비해야 합니다. 또한 근로자와 지원자는 결정이 AI와 관련된 경우와 수정 또는 재검토를 요청하는 방법에 대한 명확한 정보가 필요합니다.
당장의 문제는 국가의 규칙 제정 과정이다. National Law Review에서는 이 제출물을 의견을 위해 공개된 초기 초안으로 설명하므로 최종 텍스트에서는 정의, 기한, 면제, 문서 요구 사항 또는 인적 검토 기준이 변경될 수 있습니다. 이 기사는 공개적으로 인용된 국가 문서를 통해 제출된 내용을 독립적으로 확인하지 않으며 공개 댓글의 수나 내용을 보고하지 않습니다. 따라서 독자는 설명된 의무를 이미 시행 중인 시행 가능한 규칙이 아닌 제안된 의무로 간주해야 합니다.
채용, 성과 관리, 승진, 해고 또는 관련 결정에 AI를 사용하는 고용주는 자신의 도구가 자동화된 의사 결정 기술 및 결과적 의사 결정의 최종 정의에 속하는지 여부를 결정해야 합니다. 실제 준비에는 인벤토리 시스템, 점수 또는 권장 사항이 결과에 미치는 영향을 문서화하고 모든 개인 데이터 소스를 식별하고 공급업체가 수정 및 설명 요청을 지원할 수 있는지 평가하는 것이 포함될 수 있습니다. 이는 소스가 현재 구속력이 있는 것으로 설정한 요구 사항이 아니라 제안된 프레임워크에서 도출된 규정 준수 관련 사항입니다.
의미 있는 인적 검토의 의미는 특히 중요합니다. 제안된 프레임워크는 오작동과 시스템 요소, 데이터 또는 의도된 사용과 관련된 더 깊은 문제를 구별합니다. National Law Review는 오작동으로 인해 도구를 수정하고 프로세스를 다시 실행할 수 있는 반면, 시스템 자체에 문제가 있으면 추가 증거와 결과에 대한 재검토가 필요할 수 있다고 보고합니다. 규제 기관이 검토자의 독립성, 교육, 문서화, 실제 사례에서 결정을 무효화할 수 있는 권한을 어떻게 평가할지는 여전히 불분명합니다.
최종 규칙은 또한 제안이 다른 주 및 연방 고용, 개인 정보 보호, 소비자 보호 및 차별 금지 요구 사항과 상호 작용하는 방식을 결정합니다. 출처는 집행 내역, 예상 준수 비용, 실제 분쟁 사례 또는 고용주, 근로자, 기술 공급업체 또는 민권 단체의 대응을 제공하지 않습니다. 이는 의미 있는 미지수입니다. 규칙 제정이 완료될 때까지 가장 신뢰할 수 있는 결론은 콜로라도가 AI 지원 고용 결정에 대한 상세한 책임 프레임워크를 제안하고 있으며 프레임워크가 확정되거나 테스트되었다는 것이 아닙니다.