概述
聯邦就業歧視法適用於雇主使用軟體或 AI 來做出或協助做出招募與職場決策的情況。供應商的工具或偏見稽核並不能免除雇主的責任,且身心障礙者無障礙調整義務亦可適用於自動化評估。
深入探討
Title VII prohibits covered employers from discriminating because of race, color, religion, sex, or national origin. This applies to selection procedures whether they are administered by a person or software. A neutral rule that disproportionately excludes a protected group may raise disparate-impact concerns even without discriminatory intent. Under Title VII, an employer may need to show the practice is job-related and consistent with business necessity; a plaintiff may still identify an available, less discriminatory alternative the employer declined to use. The facts and legal context determine the outcome. The EEOC’s 2023 technical assistance explains that Title VII applies when automated systems make or inform selection decisions. It discusses the four-fifths rule as one practical indicator, while warning that meeting the threshold does not guarantee a procedure is lawful and that the measure is not appropriate in every situation. Small samples, job grouping, selection rates, and statistical significance can change interpretation. An audit report is evidence to examine, not a legal safe harbor. The Americans with Disabilities Act creates separate concerns. A tool can screen out a qualified applicant because a disability affects speech, eye movement, timing, or another input unrelated to job performance. Employers may need to provide reasonable accommodation so applicants can be fairly assessed, and must avoid prohibited disability-related inquiries or medical examinations before a conditional offer. Vendors can create risks, but employers remain responsible for the selection procedures they choose to use. A sound process inventories each tool and decision, identifies the job-related construct it measures, tests outcomes across relevant groups, and checks accessibility. Tell applicants how to request an accommodation, offer an alternative assessment when needed, and investigate complaints. Preserve vendor documentation and validate the tool in the employer’s own context; a general validation study may not predict results for a different job or applicant pool.
現實世界的實施
視訊面試工具對因身心障礙而有所不同的應徵者語音模式進行評分,因此雇主提供了一個無障礙的替代方案。
履歷排序模型在不同種族群體之間產生了顯著不同的錄取率,促使進行工作相關性審查。
雇主在依賴四分之四計算結果之前,會先檢查稽核的樣本是否夠大。
供應商更改了模型版本,導致雇主必須針對相關職位重新執行驗證。
EEOC 與 AI 招募歧視的未來
AI 工具與機構資源會隨時間改變,但《第七章》(Title VII)與《美國身心障礙法》(ADA)仍持續規範受管轄的就業決策。雇主在依賴舊的摘要之前,應先查閱最新的 EEOC 技術協助、聯邦與州政府要求,以及相關法院判決。保留驗證、無障礙調整、決策與供應商變更的記錄。由於工作標準、應徵者族群和模型版本可能會有所變動,因此應定期重新測試。記錄雇主上次審查供應商說詞的時間,以及各職位工具的核准人。針對每個變更後的評估,依其目前的工作標準與無障礙調整途徑重新進行驗證。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是 EEOC 與 AI 招募歧視?
美國聯邦就業歧視法適用於雇主使用軟體或 AI 來做出或協助做出招募與職場決策的情況。供應商的工具或偏見稽核並不能免除雇主的責任,且身心障礙者無障礙調整義務亦可適用於自動化評估。
當軟體提供招募決策參考時,《第七章》(Title VII)是否適用?
EEOC 表示,《第七章》(Title VII)適用於做出或提供選拔決策參考的系統。
四分之四法則規定了什麼?
EEOC 警告說,符合該指標並不保證合法。
在產生不利影響的案件中,雇主可能需要證明什麼?
《第七章》(Title VII)的架構著重於工作相關性與業務必要性。
在雇主確立業務必要性之後,原告可能會證明什麼?
侵害較小的替代方案在《第七章》(Title VII)下可能是相關的。
哪個問題是自動化評估中 ADA 特有的問題?
ADA 可能要求在評估過程中提供無障礙調整。