Quiz połączony z przewodnikiem · Średni Poziom

Quiz dotyczący narzędzia rekrutacyjnego Scrapped AI Amazon

Testuje, jak model życiorysu Amazon nauczył się uprzedzeń z historycznych etykiet rekrutacyjnych, dlaczego nie udało się usunąć słów związanych z płcią i jak wyciekają zmienne zastępcze.

Powiązane ścieżki prowadząceAmazon Sprawa błędu narzędzia rekrutacyjnego AI
Pytanie 1 z 8

Na jakich danych trenowany był model rekrutacyjny Amazon?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Na jakich danych trenowany był model rekrutacyjny Amazon?
    • Anonymous public job postings from competitors
    • Résumés submitted to Amazon over a ten-year period
    • Synthetic résumés generated to be gender-balanced
    • Performance reviews of current senior executives only
  2. Jakim słowem Reuters podał, że modelka została ukarana?
    • "Manager"
    • "Executed"
    • "Captured"
    • "Women's"
  3. Dlaczego edycja modelu w celu zignorowania określonych terminów związanych z płcią nie rozwiązała problemu?
    • There was no guarantee the model would not find other proxies to sort candidates in discriminatory ways
    • The edits made the model reject every applicant
    • The law forbade any changes to the model
    • The edits deleted all training data
  4. Jaka jest główna lekcja dotycząca etykiety szkoleniowej w tym przypadku?
    • Labels should always be generated at random
    • The model had too few parameters to learn fairly
    • The label reflected past hiring decisions, which contained bias
    • Labels do not affect what a model learns
  5. Które czasowniki podobno preferowała modelka, ponieważ częściej pojawiały się w życiorysach mężczyzn?
    • "Led" and "built"
    • "Executed" and "captured"
    • "Designed" and "coded"
    • "Managed" and "supported"
  6. What is the selective labels problem in hiring models?
    • Recruiters choose which labels to delete
    • Models can only read résumés shorter than one page
    • Only certain job titles are allowed as labels
    • Outcomes are observed only for people who were hired, so rejected candidates' potential is never measured
  7. Under the four-fifths rule of thumb, what signals possible adverse impact?
    • One group's selection rate is below 80 percent of the highest group's rate
    • More than four-fifths of applicants are rejected
    • A model uses more than five features
    • Fewer than four in five recruiters approve the tool
  8. What does New York City's Local Law 144 require of employers using automated employment decision tools?
    • A ban on all AI in hiring
    • Paying candidates who are rejected by software
    • An independent bias audit and a published summary of results
    • Registering every applicant with the city