HƯỚNG DẪN xã hội

Luật địa phương 144 của NYC và Kiểm tra thiên vị tuyển dụng AI

Luật Địa phương 144 của NYC yêu cầu các nhà tuyển dụng và cơ quan tuyển dụng sử dụng các công cụ ra quyết định tuyển dụng tự động (AEDT) để tuyển dụng hoặc thăng chức tại Thành phố New York phải thực hiện kiểm toán thiên kiến độc lập hàng năm, công bố tóm tắt kết quả và thông báo cho ứng viên trước khi sử dụng công cụ này.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Luật Địa phương 144 của NYC và Kiểm toán Thiên kiến Tuyển dụng bằng AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Đây là một trong những luật đầu tiên trên thế giới yêu cầu kiểm toán thiên kiến đối với các thuật toán tuyển dụng, và hồ sơ ban đầu của nó cho thấy cả những gì các cuộc kiểm toán như vậy có thể tiết lộ và mức độ khó khăn trong việc thực thi chúng.

Lặn sâu

The New York City Council passed Local Law 144 in 2021. It took effect on January 1, 2023, and the Department of Consumer and Worker Protection (DCWP) began enforcing it on July 5, 2023. An AEDT is a computational process derived from machine learning, statistical modeling, data analytics or AI that issues a simplified output, such as a score, classification or recommendation, used to substantially assist or replace discretionary decision-making for employment decisions. The final rules read substantially assist narrowly: for example, relying solely on the output, weighting it more than other criteria, or using it to overrule human judgment. Critics argue this lets many employers decide their tools are out of scope. Before using an AEDT, an employer must have a bias audit conducted by an independent auditor within the past year and post a summary online, including the date of the audit, the distribution date of the tool, and selection or scoring rates and impact ratios by sex, race/ethnicity and intersectional categories. Candidates and employees who are NYC residents must receive notice at least 10 business days before use, including the job qualifications and characteristics the tool assesses, and instructions for requesting an alternative process or accommodation. The law does not require the employer to provide that alternative, and it does not set a passing score: an audit showing disparities does not by itself make use unlawful, though federal and state anti-discrimination laws still apply. Penalties are $500 for a first violation and up to $1,500 for subsequent ones. Enforcement has looked weak so far. A 2024 academic study found that only a small fraction of hundreds of employers checked had posted audits, and a New York State Comptroller audit released in late 2025 criticized DCWP's complaint-driven enforcement. A common misconception is that the law bans biased tools; it mainly mandates transparency.

Triển khai trong thế giới thực

Một nhà bán lẻ đang tuyển dụng tại Manhattan sử dụng phần mềm xếp hạng ứng viên dựa trên mức độ phù hợp của sơ yếu lý lịch, vì vậy họ thuê một kiểm toán viên độc lập, tính toán tỷ lệ tác động theo giới tính và chủng tộc/dân tộc, đồng thời đăng bản tóm tắt trên trang nghề nghiệp của mình.

Một cơ quan tuyển dụng sử dụng công cụ chấm điểm phỏng vấn qua video bằng AI cho các vị trí tại NYC sẽ gửi thông báo cho ứng viên trước ít nhất 10 ngày làm việc, giải thích rằng công cụ này sẽ được sử dụng và cách yêu cầu quy trình thay thế hoặc hỗ trợ đặc biệt.

Một công ty chỉ sử dụng công cụ để lên lịch phỏng vấn và không dùng nó để chấm điểm hoặc xếp hạng ứng viên, vì vậy họ kết luận rằng công cụ này có khả năng không hỗ trợ đáng kể cho quyết định tuyển dụng theo các quy định.

Một kiểm toán viên phát hiện ra rằng dưới 2 phần trăm dữ liệu kiểm toán đến từ một danh mục chủng tộc, và bản tóm tắt được công bố lưu ý rằng danh mục đó đã bị loại trừ khỏi phép tính tỷ lệ tác động như các quy định cho phép.

Tương lai của Luật Địa phương 144 của NYC và Kiểm toán Thiên kiến Tuyển dụng bằng AI

Luật Địa phương 144 đã trở thành điểm tham chiếu cho các đề xuất khác, bao gồm các dự luật của tiểu bang và Đạo luật AI của Colorado, vốn xếp việc tuyển dụng vào nhóm các mục đích sử dụng có rủi ro cao. Hồ sơ ban đầu của luật này đã thúc đẩy các nhà hoạch định chính sách xem xét các định nghĩa rộng hơn về các công cụ được bảo vệ, việc thực thi rõ ràng hơn và các nghĩa vụ vượt ra ngoài việc công bố thông tin. Các quan chức thành phố và thành viên hội đồng đã thảo luận về các sửa đổi để phản hồi lại những chỉ trích, mặc dù kết quả vẫn chưa chắc chắn. Đối với các nhà tuyển dụng, bài học lâu dài là việc kiểm tra tỷ lệ tác động, kiểm toán độc lập và thông báo cho ứng viên đang trở thành thông lệ tiêu chuẩn cho AI trong tuyển dụng bất kể các quy định cuối cùng sẽ được thiết lập như thế nào.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Tham gia bài kiểm tra về Luật Địa phương 144 của NYC và Kiểm toán Thiên kiến Tuyển dụng bằng AI

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Luật Địa phương 144 của NYC và Kiểm toán Thiên kiến Tuyển dụng bằng AI là gì?

Luật Địa phương 144 của NYC yêu cầu các nhà tuyển dụng và cơ quan tuyển dụng sử dụng các công cụ ra quyết định tuyển dụng tự động (AEDT) để tuyển dụng hoặc thăng chức tại Thành phố New York phải thực hiện kiểm toán thiên kiến độc lập hàng năm, công bố tóm tắt kết quả và thông báo cho ứng viên trước khi sử dụng công cụ này. Đây là một trong những luật đầu tiên trên thế giới yêu cầu kiểm toán thiên kiến đối với các thuật toán tuyển dụng, và hồ sơ ban đầu của nó cho thấy cả những gì các cuộc kiểm toán như vậy có thể tiết lộ và mức độ khó khăn trong việc thực thi chúng.

Which agency enforces NYC Local Law 144?

DCWP đã thông qua các quy định và bắt đầu thực thi vào ngày 5 tháng 7 năm 2023.

Tỷ lệ tác động được tính như thế nào cho một công cụ lựa chọn?

Tỷ lệ lựa chọn của mỗi danh mục được so sánh với tỷ lệ lựa chọn của danh mục cao nhất.

Ứng viên phải được thông báo bao nhiêu ngày làm việc trước khi sử dụng AEDT?

Luật yêu cầu thông báo trước ít nhất 10 ngày làm việc trước khi sử dụng.

Luật Địa phương 144 yêu cầu gì nếu một cuộc kiểm toán cho thấy sự chênh lệch lớn?

Luật yêu cầu sự minh bạch thay vì tiêu chuẩn đạt/không đạt, mặc dù các luật chống phân biệt đối xử khác vẫn được áp dụng.

Đối với các công cụ xuất ra điểm số, tỷ lệ tính điểm là gì?

Tỷ lệ tính điểm sử dụng trung vị mẫu làm ngưỡng cắt, sau đó được so sánh giữa các danh mục.