Tiếp theoHướng dẫn tiếp theo
Kiểm tra sắc thái giới tính và nhận dạng khuôn mặt
xã hội
HƯỚNG DẪN xã hội
Luật Địa phương 144 của NYC yêu cầu các nhà tuyển dụng và cơ quan tuyển dụng sử dụng các công cụ ra quyết định tuyển dụng tự động (AEDT) để tuyển dụng hoặc thăng chức tại Thành phố New York phải thực hiện kiểm toán thiên kiến độc lập hàng năm, công bố tóm tắt kết quả và thông báo cho ứng viên trước khi sử dụng công cụ này.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Đây là một trong những luật đầu tiên trên thế giới yêu cầu kiểm toán thiên kiến đối với các thuật toán tuyển dụng, và hồ sơ ban đầu của nó cho thấy cả những gì các cuộc kiểm toán như vậy có thể tiết lộ và mức độ khó khăn trong việc thực thi chúng.
The New York City Council passed Local Law 144 in 2021. It took effect on January 1, 2023, and the Department of Consumer and Worker Protection (DCWP) began enforcing it on July 5, 2023. An AEDT is a computational process derived from machine learning, statistical modeling, data analytics or AI that issues a simplified output, such as a score, classification or recommendation, used to substantially assist or replace discretionary decision-making for employment decisions. The final rules read substantially assist narrowly: for example, relying solely on the output, weighting it more than other criteria, or using it to overrule human judgment. Critics argue this lets many employers decide their tools are out of scope. Before using an AEDT, an employer must have a bias audit conducted by an independent auditor within the past year and post a summary online, including the date of the audit, the distribution date of the tool, and selection or scoring rates and impact ratios by sex, race/ethnicity and intersectional categories. Candidates and employees who are NYC residents must receive notice at least 10 business days before use, including the job qualifications and characteristics the tool assesses, and instructions for requesting an alternative process or accommodation. The law does not require the employer to provide that alternative, and it does not set a passing score: an audit showing disparities does not by itself make use unlawful, though federal and state anti-discrimination laws still apply. Penalties are $500 for a first violation and up to $1,500 for subsequent ones. Enforcement has looked weak so far. A 2024 academic study found that only a small fraction of hundreds of employers checked had posted audits, and a New York State Comptroller audit released in late 2025 criticized DCWP's complaint-driven enforcement. A common misconception is that the law bans biased tools; it mainly mandates transparency.
Một nhà bán lẻ đang tuyển dụng tại Manhattan sử dụng phần mềm xếp hạng ứng viên dựa trên mức độ phù hợp của sơ yếu lý lịch, vì vậy họ thuê một kiểm toán viên độc lập, tính toán tỷ lệ tác động theo giới tính và chủng tộc/dân tộc, đồng thời đăng bản tóm tắt trên trang nghề nghiệp của mình.
Một cơ quan tuyển dụng sử dụng công cụ chấm điểm phỏng vấn qua video bằng AI cho các vị trí tại NYC sẽ gửi thông báo cho ứng viên trước ít nhất 10 ngày làm việc, giải thích rằng công cụ này sẽ được sử dụng và cách yêu cầu quy trình thay thế hoặc hỗ trợ đặc biệt.
Một công ty chỉ sử dụng công cụ để lên lịch phỏng vấn và không dùng nó để chấm điểm hoặc xếp hạng ứng viên, vì vậy họ kết luận rằng công cụ này có khả năng không hỗ trợ đáng kể cho quyết định tuyển dụng theo các quy định.
Một kiểm toán viên phát hiện ra rằng dưới 2 phần trăm dữ liệu kiểm toán đến từ một danh mục chủng tộc, và bản tóm tắt được công bố lưu ý rằng danh mục đó đã bị loại trừ khỏi phép tính tỷ lệ tác động như các quy định cho phép.
Luật Địa phương 144 đã trở thành điểm tham chiếu cho các đề xuất khác, bao gồm các dự luật của tiểu bang và Đạo luật AI của Colorado, vốn xếp việc tuyển dụng vào nhóm các mục đích sử dụng có rủi ro cao. Hồ sơ ban đầu của luật này đã thúc đẩy các nhà hoạch định chính sách xem xét các định nghĩa rộng hơn về các công cụ được bảo vệ, việc thực thi rõ ràng hơn và các nghĩa vụ vượt ra ngoài việc công bố thông tin. Các quan chức thành phố và thành viên hội đồng đã thảo luận về các sửa đổi để phản hồi lại những chỉ trích, mặc dù kết quả vẫn chưa chắc chắn. Đối với các nhà tuyển dụng, bài học lâu dài là việc kiểm tra tỷ lệ tác động, kiểm toán độc lập và thông báo cho ứng viên đang trở thành thông lệ tiêu chuẩn cho AI trong tuyển dụng bất kể các quy định cuối cùng sẽ được thiết lập như thế nào.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Luật Địa phương 144 của NYC yêu cầu các nhà tuyển dụng và cơ quan tuyển dụng sử dụng các công cụ ra quyết định tuyển dụng tự động (AEDT) để tuyển dụng hoặc thăng chức tại Thành phố New York phải thực hiện kiểm toán thiên kiến độc lập hàng năm, công bố tóm tắt kết quả và thông báo cho ứng viên trước khi sử dụng công cụ này. Đây là một trong những luật đầu tiên trên thế giới yêu cầu kiểm toán thiên kiến đối với các thuật toán tuyển dụng, và hồ sơ ban đầu của nó cho thấy cả những gì các cuộc kiểm toán như vậy có thể tiết lộ và mức độ khó khăn trong việc thực thi chúng.
DCWP đã thông qua các quy định và bắt đầu thực thi vào ngày 5 tháng 7 năm 2023.
Tỷ lệ lựa chọn của mỗi danh mục được so sánh với tỷ lệ lựa chọn của danh mục cao nhất.
Luật yêu cầu thông báo trước ít nhất 10 ngày làm việc trước khi sử dụng.
Luật yêu cầu sự minh bạch thay vì tiêu chuẩn đạt/không đạt, mặc dù các luật chống phân biệt đối xử khác vẫn được áp dụng.
Tỷ lệ tính điểm sử dụng trung vị mẫu làm ngưỡng cắt, sau đó được so sánh giữa các danh mục.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Kiểm tra sắc thái giới tính và nhận dạng khuôn mặt
xã hội