GUIDA della Società

Divieto dell'UE sul riconoscimento delle emozioni sul lavoro e nelle scuole

L'AI Act dell'UE proibisce l'uso dell'IA per dedurre le emozioni delle persone fisiche in ambito lavorativo e scolastico, salvo quando il sistema è destinato a scopi medici o di sicurezza.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina3 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro del divieto dell'UE sul riconoscimento delle emozioni sul lavoro e nelle scuole
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Il divieto è in vigore dal 2 febbraio 2025 ed è distinto dagli obblighi per i sistemi ad alto rischio.

Immersione profonda

Article 5(1)(f) prohibits placing on the market, putting into service for this specific purpose, or using AI systems to infer emotions of natural persons in workplace and education institutions. The exception is for systems intended to be put in place or on the market for medical or safety reasons. It is a purpose-specific exception, not a general permission for employers or schools to monitor mood. The Act defines an emotion recognition system as an AI system identifying or inferring emotions or intentions from biometric data. The prohibition does not cover physical states such as pain or fatigue under the statutory definition, and it does not treat detection of readily apparent expressions, gestures, or movements as emotion recognition merely because those signals correlate with feelings. But a vendor’s claim that it measures engagement, attention, enthusiasm, or frustration should be examined by what the system actually infers from biometric data and how it is used. Renaming an emotion score does not decide legal scope. This is a prohibited practice, not a high-risk classification that can be satisfied through documentation, accuracy, or human review. A workplace medical or safety purpose may fall within the exception, but teams need a real, documented fit between that purpose and the system. A general productivity or performance goal is not transformed into a safety purpose by assertion. Other laws, including data protection and employment protections, remain relevant even if an exception applies. The prohibition entered into application on 2 February 2025. Employers, schools, and providers should identify biometric inputs, intended outputs, purpose, affected people, and any onward decisions. If the system infers emotional state in a covered setting, stop and obtain qualified legal review before deployment. Do not collect biometric data simply to test whether a prohibited feature might be useful.

Implementazione nel mondo reale

Una scuola rifiuta uno strumento basato su webcam che etichetta gli studenti come annoiati in base ai movimenti facciali.

Un datore di lavoro verifica se una dashboard per il “benessere” deduce lo stato emotivo dei lavoratori dai dati vocali o facciali.

Un team di sicurezza valuta un avviso di stanchezza per un conducente e documenta lo specifico scopo di sicurezza e le relative tutele.

Un acquirente chiede a un fornitore cosa deduca effettivamente il suo punteggio di coinvolgimento prima di approvare l'acquisto.

Il futuro del divieto dell'UE sul riconoscimento delle emozioni sul lavoro e nelle scuole

L'attuale pagina dell'AI Act della Commissione elenca il riconoscimento delle emozioni sul lavoro e nell'istruzione tra le pratiche vietate e conferma che tali divieti si applicano da febbraio 2025. Gli orientamenti interpretativi possono chiarire i sistemi al limite, mentre i tribunali e le autorità nazionali valutano le implementazioni concrete. Le organizzazioni dovrebbero conservare un'analisi datata della funzione, dell'impostazione e dello scopo del sistema e rivederla quando i fornitori cambiano i modelli o aggiungono nuove inferenze. Le eccezioni mediche e di sicurezza richiedono un'attenta valutazione ai sensi della legge e non sostituiscono altre tutele. Ripeti la revisione dell'ambito se un sistema aggiunge input biometrici, nuove etichette di emozione o un nuovo percorso decisionale.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Fai il quiz sul divieto dell'UE sul riconoscimento delle emozioni sul lavoro e nelle scuole

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cos'è il divieto dell'UE sul riconoscimento delle emozioni sul lavoro e nelle scuole?

L'AI Act dell'UE proibisce l'uso dell'IA per dedurre le emozioni delle persone fisiche in ambito lavorativo e scolastico, salvo quando il sistema è destinato a scopi medici o di sicurezza. Il divieto è in vigore dal 2 febbraio 2025 ed è distinto dagli obblighi per i sistemi ad alto rischio.

Quale uso proibisce l'articolo 5(1)(f)?

Il divieto riguarda l'inferenza delle emozioni negli ambiti menzionati.

Quando ha iniziato ad applicarsi questo divieto?

La Commissione conferma che le norme sulle pratiche vietate hanno iniziato ad applicarsi a febbraio 2025.

Su cosa si concentra la definizione di riconoscimento delle emozioni dell'Atto?

La definizione normativa si concentra sull'inferenza dai dati biometrici.

Il divieto copre ogni movimento o espressione visibile?

La definizione dell'Atto ha dei limiti che richiedono un'interpretazione contestuale.