Quiz połączony z przewodnikiem · Ciężko Poziom
Quiz na temat stronniczości AI
Oceń stronniczość sztucznej inteligencji na podstawie etykiet, pełnomocników, dowodów podgrup, kryteriów uczciwości, osób, których to dotyczy, decyzji dotyczących przepływu pracy i ciągłego przeglądu.
Pytanie 1 z 8
Gdzie według poradnika uprzedzenia mogą wejść do systemu AI?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Gdzie według poradnika uprzedzenia mogą wejść do systemu AI?
- Dane, pomiary, wybory dotyczące modelowania, ludzkie oceny i towarzyszący im przepływ pracy
- Tylko przez wrażliwą kolumnę
- Tylko poprzez interfejs użytkownika
- Dopiero po wdrożeniu modelu
- Dlaczego usunięcie wrażliwego atrybutu nie eliminuje stronniczości?
- Jedynym źródłem są zawsze wrażliwe atrybuty
- Inne funkcje lub etykiety historyczne mogą kodować powiązane wzorce
- Usunięcie kolumn gwarantuje uczciwość
- Ocena modelu nie wymaga już grup
- Etykieta zbioru danych odzwierciedla przeszłą decyzję człowieka. O co powinien zapytać zespół?
- Określa, czy wrażliwa kolumna została usunięta
- Czy etykieta jest łatwa do przewidzenia
- Czy etykieta oddaje zamierzony wynik, czy stary proces
- Czy model ma wystarczającą liczbę warstw
- Po co podawać wielkość próby i niepewność w przypadku wskaźników podgrup?
- Średni wynik jest zawsze wystarczający
- Każda podgrupa ma tę samą liczebność próby
- Niepewność uniemożliwia testowanie grupowe
- Małe grupy mogą mieć niewiarygodne szacunki, a średnie mogą ukrywać rozbieżności
- Dlaczego wybór jednego kryterium sprawiedliwości może pozostawić inne problemy nierozwiązane?
- Jedno kryterium statystyczne rozwiązuje wszystkie wątpliwości prawne
- Różne kryteria odpowiadają na różne pytania i mogą być ze sobą sprzeczne
- Dowolny pojedynczy wskaźnik gwarantuje uczciwość w każdym kontekście
- Wybór metryki eliminuje potrzebę wprowadzania danych przez społeczność, której to dotyczy
- Kto powinien pomóc w wyborze kryteriów sprawiedliwości dla systemu wynikowego?
- Tylko zespół inżynierów
- Tylko sprzedawca modelu
- Eksperci dziedzinowi i osoby dotknięte systemem
- Model językowy bez recenzji
- Po co przeglądać przepływ pracy wokół modelu?
- Sposób wykorzystywania i kwestionowania prognoz może zmienić rozkład szkód
- Dane wyjściowe modelu w pełni determinują uczciwość
- Odwołania nie mogą mieć wpływu na wyniki
- Przepływ pracy nie ma wpływu po szkoleniu
- Co zespół powinien zrobić po zastosowaniu łagodzenia stronniczości?
- Ukryj wyniki podgrupy
- Załóżmy, że złagodzenie potwierdza uczciwość
- Przestań monitorować
- Oceń zamierzony efekt i możliwe nowe problemy