GUIDA della Società

Audit dell'intelligenza artificiale e garanzia di terze parti

An AI audit is a structured evaluation of an AI system, or the organization running it, against defined criteria such as accuracy, fairness, safety, legal requirements or governance standards, carried out internally, by an independent third party, or under a regulator's mandate.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. The Future of AI Audits and Third-Party Assurance
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Third-party assurance matters because claims about AI systems are hard for outsiders to verify, and audits are becoming a main way regulators, buyers and the public check them.

Immersione profonda

AI audits differ in who does them and what they examine. Internal audits are run by the organization itself, ideally by a team separate from the builders; Raji and colleagues' 2020 framework proposed an end-to-end internal audit process across a system's development. External audits come from outsiders. Some are cooperative, with access to data and code; others are adversarial, like journalists or researchers testing a system through its public interface. Regulatory audits are required or performed under law. Methods fall into three broad groups. Governance or process audits check policies, documentation, roles and risk management. Technical audits test the model: performance across subgroups, robustness, security, and behaviour on edge cases, sometimes including red teaming. Outcome audits look at real-world effects, for example comparing decisions across groups or using sock-puppet accounts to probe a recommendation system. Conformity assessment is a related legal concept. Under the EU AI Act, providers of high-risk systems must show compliance before placing them on the market. For most standalone high-risk uses this is an internal control procedure, while certain biometric systems and AI in products already covered by EU safety laws may involve a notified body. New York City's Local Law 144 requires independent bias audits for automated employment decision tools, and the EU Digital Services Act requires independent audits of very large online platforms. Independence is the persistent weakness. Auditors are usually paid by the company being audited, may receive limited access, and often work without agreed standards for what counts as passing. Critics warn of audit-washing, where a narrow audit is presented as a clean bill of health. A common misconception is that an audit certifies a system as safe or fair in general; it only speaks to the criteria, scope and time period examined.

Implementazione nel mondo reale

An employer in New York City using an automated resume screening tool commissions an independent bias audit that reports selection rate impact ratios by sex and race or ethnicity categories, as the city's Local Law 144 requires.

Researchers query commercial face analysis services with a balanced set of faces and publish error rates by skin type and gender, an external audit carried out without the vendors' cooperation, like the 2018 Gender Shades study.

A software company seeks certification of its AI management system against ISO/IEC 42001 from an accredited certification body so enterprise customers can see its governance controls have been checked.

A very large online platform in the EU undergoes an annual independent audit of its risk management, including its recommender systems, under the Digital Services Act.

The Future of AI Audits and Third-Party Assurance

An AI assurance industry is forming, including accounting firms, specialist startups, testing labs and certification bodies. Standards work, such as ISO/IEC 42001 for management systems and related standards for bodies that certify them, aims to make audits more comparable. Governments including the UK have published plans to grow AI assurance as a market. Key unresolved issues are auditor accreditation, access to model internals for external researchers, and who pays without creating conflicts of interest. Audits of general-purpose models are especially immature, since their uses are open-ended. Expect gradual professionalisation rather than a single agreed method in the near term.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the AI Audits and Third-Party Assurance quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

What is AI Audits and Third-Party Assurance?

An AI audit is a structured evaluation of an AI system, or the organization running it, against defined criteria such as accuracy, fairness, safety, legal requirements or governance standards, carried out internally, by an independent third party, or under a regulator's mandate. Third-party assurance matters because claims about AI systems are hard for outsiders to verify, and audits are becoming a main way regulators, buyers and the public check them.

Che cosa descrive un audit esterno contraddittorio?

Gli audit esterni contraddittori vengono eseguiti da soggetti esterni, come giornalisti o ricercatori, che sondano un sistema senza cooperazione o accesso privilegiato.

Che cosa esamina principalmente un audit di governance o di processo?

Gli audit dei processi verificano il modo in cui l’organizzazione gestisce l’intelligenza artificiale, anziché testare direttamente il modello.

Cosa richiede la legge locale 144 di New York per gli strumenti automatizzati per le decisioni in materia di assunzione?

La legge locale 144 richiede controlli indipendenti sui pregiudizi, compresi i rapporti di impatto per categorie demografiche.

Come viene calcolato il rapporto di impatto utilizzato negli audit sui bias di New York?

Il rapporto di impatto confronta il tasso di selezione di ciascuna categoria con quello della categoria più selezionata.

Ai sensi della legge UE sull’intelligenza artificiale, in che modo la maggior parte dei sistemi autonomi ad alto rischio viene sottoposta a valutazione della conformità?

La maggior parte degli usi autonomi ad alto rischio seguono il controllo interno, mentre alcuni sistemi biometrici e prodotti regolamentati possono coinvolgere un organismo notificato.