A continuaciónSiguiente guía
Auditorías de sesgo de reconocimiento facial y matices de género
sociedad
GUÍA de sociedad
Ley local 144 de la ciudad de Nueva York y auditorías de sesgo de contratación de IA
La Ley Local 144 de la Ciudad de Nueva York exige que los empleadores y las agencias de empleo que utilizan herramientas automatizadas de decisión de empleo (AEDT, por sus siglas en inglés) para la contratación o la promoción en la ciudad de Nueva York obtengan una auditoría independiente de prejuicios cada año, publiquen un resumen de los resultados y notifiquen a los candidatos antes de que se utilice la herramienta.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Fue una de las primeras leyes en el mundo que exigió auditorías sesgadas en los algoritmos de contratación, y sus primeros registros muestran lo que dichas auditorías pueden revelar y lo difícil que es hacerlas cumplir.
Buceo profundo
El Ayuntamiento de Nueva York aprobó la Ley Local 144 en 2021. Entró en vigor el 1 de enero de 2023, y el Departamento de Protección del Consumidor y de los Trabajadores (DCWP) comenzó a aplicarla el 5 de julio de 2023. Un AEDT es un proceso computacional derivado del aprendizaje automático, el modelado estadístico, el análisis de datos o la IA que emite un resultado simplificado, como una puntuación, una clasificación o una recomendación, que se utiliza para ayudar o reemplazar sustancialmente la toma de decisiones discrecionales en materia de empleo. Las reglas finales leídas ayudan sustancialmente en sentido estricto: por ejemplo, confiar únicamente en el resultado, ponderarlo más que otros criterios o utilizarlo para anular el juicio humano. Los críticos argumentan que esto permite a muchos empleadores decidir que sus herramientas están fuera de su alcance. Antes de utilizar un AEDT, un empleador debe realizar una auditoría de sesgo realizada por un auditor independiente durante el último año y publicar un resumen en línea, que incluya la fecha de la auditoría, la fecha de distribución de la herramienta y las tasas de selección o puntuación y los índices de impacto por sexo, raza/etnia y categorías interseccionales. Los candidatos y empleados que sean residentes de la ciudad de Nueva York deben recibir un aviso al menos 10 días hábiles antes de su uso, incluidas las calificaciones y características laborales que evalúa la herramienta, e instrucciones para solicitar un proceso o adaptación alternativa. La ley no exige que el empleador proporcione esa alternativa y no establece una puntuación para aprobar: una auditoría que muestre disparidades no convierte por sí sola el uso en ilegal, aunque las leyes federales y estatales contra la discriminación aún se aplican. Las sanciones son de $500 por una primera infracción y de hasta $1,500 por las siguientes. La aplicación de la ley parece débil hasta el momento. Un estudio académico de 2024 encontró que solo una pequeña fracción de cientos de empleadores verificados habían publicado auditorías, y una auditoría de la Contraloría del Estado de Nueva York publicada a fines de 2025 criticó la aplicación del DCWP basada en quejas. Un error común es creer que la ley prohíbe las herramientas sesgadas; exige principalmente transparencia.
Implementación en el mundo real
Un minorista que contrata en Manhattan utiliza un software que clasifica a los solicitantes según la coincidencia de su currículum, por lo que contrata a un auditor independiente, calcula las proporciones de impacto por sexo y raza/etnicidad y publica el resumen en su página de carreras.
Una agencia de personal que utiliza una herramienta de puntuación de entrevistas en video de inteligencia artificial para puestos en la ciudad de Nueva York envía a los candidatos un aviso con al menos 10 días hábiles de anticipación, explicando la herramienta que se utilizará y cómo solicitar un proceso o adaptación alternativa.
Una empresa utiliza una herramienta sólo para programar entrevistas y no la utiliza para calificar o clasificar a los candidatos, por lo que concluye que la herramienta probablemente no ayude sustancialmente a una decisión de contratación según las reglas.
Un auditor descubre que menos del 2 por ciento de los datos de auditoría provienen de una categoría racial, y el resumen publicado señala que esa categoría fue excluida del cálculo del índice de impacto según lo permiten las reglas.
El futuro de la Ley Local 144 de la Ciudad de Nueva York y las auditorías de sesgo de contratación de IA
La Ley Local 144 se ha convertido en un punto de referencia para otras propuestas, incluidos proyectos de ley estatales y la Ley de IA de Colorado, que sitúan la contratación entre los usos de alto riesgo. Su historial inicial ha llevado a los formuladores de políticas a considerar definiciones más amplias de las herramientas cubiertas, una aplicación más clara y deberes que van más allá de la divulgación. Los funcionarios de la ciudad y los miembros del consejo han discutido enmiendas en respuesta a las críticas, aunque el resultado es incierto. Para los empleadores, la lección duradera es que las pruebas de índice de impacto, las auditorías independientes y los avisos a los candidatos se están convirtiendo en una práctica estándar para la IA en la contratación, independientemente de dónde se establezcan finalmente las reglas.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the NYC Local Law 144 and AI Hiring Bias Audits quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué es la Ley Local 144 de la Ciudad de Nueva York y las auditorías de sesgo de contratación de IA?
La Ley Local 144 de la Ciudad de Nueva York exige que los empleadores y las agencias de empleo que utilizan herramientas automatizadas de decisión de empleo (AEDT, por sus siglas en inglés) para la contratación o la promoción en la ciudad de Nueva York obtengan una auditoría independiente de prejuicios cada año, publiquen un resumen de los resultados y notifiquen a los candidatos antes de que se utilice la herramienta. Fue una de las primeras leyes en el mundo que exigió auditorías sesgadas en los algoritmos de contratación, y sus primeros registros muestran lo que dichas auditorías pueden revelar y lo difícil que es hacerlas cumplir.
¿Qué agencia hace cumplir la Ley Local 144 de la Ciudad de Nueva York?
DCWP adoptó las reglas y comenzó a hacerlas cumplir el 5 de julio de 2023.
¿Cómo se calcula el índice de impacto de una herramienta de selección?
La tasa de selección de cada categoría se compara con la tasa de selección de la categoría más alta.
¿Cuántos días hábiles antes de utilizar un AEDT se debe notificar a los candidatos?
La ley exige un aviso al menos 10 días hábiles antes de su uso.
¿Qué exige la Ley Local 144 si una auditoría muestra grandes disparidades?
La ley exige transparencia en lugar de un estándar de aprobación/reprobación, aunque aún se aplican otras leyes contra la discriminación.
Para las herramientas que generan puntuaciones, ¿cuál es la tasa de puntuación?
Las tasas de puntuación utilizan la mediana de la muestra como punto de corte y luego se comparan entre categorías.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.