Il prossimoProssima guida
APPI del Giappone e IA generativa
Società
GUIDA della Società
NIST AI 600-1 è un profilo volontario trasversale ai settori che applica il NIST AI Risk Management Framework all'AI generativa.
Ascolta questa guidaNarrato dall'IA · ~3 min
Organizza 12 rischi identificati e azioni suggerite attraverso Govern, Map, Measure e Manage, fornendo ai team una risorsa strutturata anziché un elenco di controllo vincolante per la certificazione.
NIST published Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, numbered NIST AI 600-1, on July 26, 2024. It is a companion to AI RMF 1.0 and applies the framework’s functions, categories and subcategories to generative AI. NIST describes the underlying framework as intended for voluntary use. AI 600-1 therefore offers a common vocabulary and recommended risk-management actions; it does not itself impose legal duties or certify a product. The profile identifies 12 risks that are novel to or intensified by generative AI, including confabulation, harmful bias or homogenization, information integrity, information security, privacy, intellectual property, overreliance, environmental impacts, and value-chain or component-integration issues. It then provides suggested actions for managing those risks. Actions are organized against the AI RMF’s four functions: Govern establishes policies and accountability; Map identifies context and risks; Measure evaluates them; Manage prioritizes response and monitoring. Organizations can tailor the actions to their needs and priorities. AI 600-1 is cross-sectoral: it covers common generative-AI activities rather than one industry or model type. It can help developers, deployers, evaluators and buyers structure design reviews, procurement questions, testing and monitoring. A profile action may be useful even when it is not required by a regulation or contract. If an organization incorporates it into binding internal policy, procurement terms or a regulator-approved process, those separate sources can make compliance obligatory for that organization. A team should not mistake a voluntary NIST publication for law, a test pass, or evidence that all material risks have been eliminated.
Un team di prodotto utilizza la discussione sulla confabulazione del profilo per testare se un assistente di supporto inventa dettagli delle policy.
Un gruppo di approvvigionamento mappa i rischi per la privacy dei dati e la sicurezza informatica in requisiti per un servizio generativo ospitato.
Un team di sicurezza AI utilizza il profilo per pianificare test red-team per input di prompt malevoli e rischi di uso improprio.
Una startup adatta le azioni suggerite al proprio modello, contesto d'uso, risorse e tolleranza al rischio, invece di considerare ogni azione obbligatoria.
Il profilo del 2024 del NIST rimane un compagno pubblicato dell'AI RMF e la sua pagina di pubblicazione è stata aggiornata ad aprile 2026. Le azioni suggerite dal profilo possono supportare i programmi di rischio man mano che gli strumenti cambiano, mentre il framework rimane volontario in assenza di un mandato separato. Controlla la pagina delle risorse del NIST per revisioni successive, playbook o profili correlati. I professionisti dovrebbero rivedere le azioni suggerite quando cambiano le capacità del modello, il contesto di distribuzione o le dipendenze esterne. Confronta le risorse NIST successive con questo profilo e con eventuali requisiti vincolanti, anziché considerare le nuove raccomandazioni come sostituzioni automatiche.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
NIST AI 600-1 è un profilo volontario trasversale ai settori che applica il NIST AI Risk Management Framework all'AI generativa. Organizza 12 rischi identificati e azioni suggerite attraverso Govern, Map, Measure e Manage, fornendo ai team una risorsa strutturata anziché un elenco di controllo vincolante per la certificazione.
Il NIST descrive AI 600-1 come un profilo compagno trasversale ai settori per il volontario AI RMF.
AI 600-1 fornisce azioni suggerite che le organizzazioni adattano ai propri obiettivi, tolleranza al rischio e risorse.
La confabulazione è uno dei rischi specificamente identificati nel profilo.
Il profilo è una guida volontaria e non crea né un certificato di prodotto né obblighi legali di per sé.
La funzione Map dell'AI RMF stabilisce il contesto e identifica i potenziali rischi.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
APPI del Giappone e IA generativa
Società