Il prossimoProssima guida
Bias sulla disabilità nell’intelligenza artificiale
Società
GUIDA della Società
I bias legati all’età nell’intelligenza artificiale possono apparire in una decisione automatizzata, nel linguaggio di un modello o nei tassi di errore biometrico.
Ascolta questa guidaNarrato dall'IA · ~3 min
Le prove sono specifiche per attività e campione: un caso di assunzione, una valutazione del riconoscimento facciale e un benchmark dello stereotipo LLM misurano risultati diversi e non possono essere compressi in un'affermazione su tutti i sistemi di intelligenza artificiale o su tutti gli anziani.
Age bias is not one technical problem. It may arise from protected-age rules in a decision workflow, from stereotypes in language, or from demographic differences in biometric performance. In 2022, the U.S. Equal Employment Opportunity Commission sued iTutorGroup, alleging its application software automatically rejected female tutor applicants age 55 or older and male applicants age 60 or older. The case was resolved by a consent decree in 2023. This is a concrete employment example, but it does not establish that all automated hiring tools discriminate by age. NIST’s Face Recognition Vendor Test evaluated algorithms submitted by developers and found demographic differentials, including by age, in many tested algorithms. NIST cautions against broad claims across systems: results depend on algorithm, application and data. A separate 2024 NIST evaluation of age-estimation software found sensitivity to image quality, gender, region of birth and age; accuracy of age estimates is different from recognizing a person’s identity. In LLMs, a 2024 study tested six models using value-orientation prompts and reported age-related patterns, while a 2026 AgeismSet study created a benchmark for measuring ageism in model outputs. These are prompt-based research evaluations, not proof of how all older users are treated in products. Age groups are internally diverse. Chronological age, life stage, disability, health, language, digital access and experience may affect a task differently. A fairness review should test the actual use, compare specific age bands, and distinguish an adverse employment decision from a face-matching error or stereotyped text generation. Avoid building an “older user” persona from assumptions; include older adults in research and give people accessible ways to correct outputs.
Un team di assunzione verifica se un sistema di screening rifiuta i candidati in base a soglie di età o campi correlati all'età come l'anno di laurea.
Un fornitore di sistemi di riconoscimento facciale segnala tassi di falsa corrispondenza e falsa non corrispondenza in base ai gruppi di età e alle condizioni delle immagini.
Un team di chatbot verifica se le risposte alla stessa attività cambiano quando cambia solo l’età di un utente.
Un progettista di prodotto verifica le esigenze di accesso degli anziani invece di presumere che un gruppo di età abbia una preferenza uniforme per la tecnologia.
I dati demografici legati all’età e il comportamento dei modelli cambiano nel tempo e nuove valutazioni stanno misurando gli effetti specifici dell’età nei sistemi biometrici e generativi. Rifare i test dopo importanti cambiamenti di modello o di politica, coinvolgere gli anziani negli studi di usabilità e utilizzare le attuali leggi sull’occupazione e sui diritti civili per le decisioni piuttosto che trattare i parametri di ricerca come risultati legali. La valutazione futura dovrebbe riportare le versioni del modello, le popolazioni di studio e i risultati misurati in modo che i risultati possano essere confrontati senza generalizzare oltre l’evidenza. I test di accessibilità dovrebbero includere adulti più anziani con diverse esigenze di accesso visivo, uditivo, motorio e cognitivo.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
I bias legati all’età nell’intelligenza artificiale possono apparire in una decisione automatizzata, nel linguaggio di un modello o nei tassi di errore biometrico. Le prove sono specifiche per attività e campione: un caso di assunzione, una valutazione del riconoscimento facciale e un benchmark dello stereotipo LLM misurano risultati diversi e non possono essere compressi in un'affermazione su tutti i sistemi di intelligenza artificiale o su tutti gli anziani.
L'EEOC ha affermato che la società ha programmato il proprio software applicativo tutor per rifiutare i candidati a quelle soglie di età.
Il NIST ha riscontrato differenziali demografici nella maggior parte degli algoritmi di riconoscimento facciale testati e ha messo in guardia dal generalizzare tra i sistemi.
Il NIST valuta la corrispondenza dei volti e la stima dell'età dei volti come attività separate con parametri diversi.
La valutazione del NIST segnala la sensibilità a molteplici caratteristiche demografiche e di immagine.
Lo studio ha testato sei LLM con una pipeline tempestiva sugli orientamenti di valore legati all'età.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Bias sulla disabilità nell’intelligenza artificiale
Società