LegközelebbKövetkező útmutató
Japán APPI és generatív AI
Társadalom
Társadalom ÚTMUTATÓ
A NIST AI 600-1 egy önkéntes, ágazatközi profil, amely a NIST AI kockázatkezelési keretrendszerét alkalmazza a generatív AI-ra.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
12 azonosított kockázatot és javasolt intézkedést rendszerez a Kormányzás (Govern), Feltérképezés (Map), Mérés (Measure) és Kezelés (Manage) funkciók mentén, így a csapatok egy strukturált erőforrást kapnak, nem pedig egy kötelező tanúsítási ellenőrzőlistát.
NIST published Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, numbered NIST AI 600-1, on July 26, 2024. It is a companion to AI RMF 1.0 and applies the framework’s functions, categories and subcategories to generative AI. NIST describes the underlying framework as intended for voluntary use. AI 600-1 therefore offers a common vocabulary and recommended risk-management actions; it does not itself impose legal duties or certify a product. The profile identifies 12 risks that are novel to or intensified by generative AI, including confabulation, harmful bias or homogenization, information integrity, information security, privacy, intellectual property, overreliance, environmental impacts, and value-chain or component-integration issues. It then provides suggested actions for managing those risks. Actions are organized against the AI RMF’s four functions: Govern establishes policies and accountability; Map identifies context and risks; Measure evaluates them; Manage prioritizes response and monitoring. Organizations can tailor the actions to their needs and priorities. AI 600-1 is cross-sectoral: it covers common generative-AI activities rather than one industry or model type. It can help developers, deployers, evaluators and buyers structure design reviews, procurement questions, testing and monitoring. A profile action may be useful even when it is not required by a regulation or contract. If an organization incorporates it into binding internal policy, procurement terms or a regulator-approved process, those separate sources can make compliance obligatory for that organization. A team should not mistake a voluntary NIST publication for law, a test pass, or evidence that all material risks have been eliminated.
Egy termékcsapat a profil konfabulációval kapcsolatos útmutatóját használja annak tesztelésére, hogy egy ügyfélszolgálati asszisztens kitalál-e szabályzati részleteket.
Egy beszerzési csoport az adatvédelmi és információbiztonsági kockázatokat térképezi fel egy hosztolt generatív szolgáltatás követelményeihez.
Egy AI-biztonsági csapat a profilt használja a rosszindulatú prompt-bevitelek és a visszaélési kockázatok elleni red-team tesztelés megtervezéséhez.
Egy startup a javasolt intézkedéseket a modelljéhez, a használati környezetéhez, az erőforrásaihoz és a kockázattűrő képességéhez igazítja, ahelyett, hogy minden intézkedést kötelezőnek tekintene.
A NIST 2024-es profilja továbbra is egy közzétett AI RMF kiegészítő, és a publikációs oldala 2026 áprilisában frissült. A profil javasolt intézkedései támogathatják a kockázatkezelési programokat az eszközök változása során, miközben a keretrendszer külön megbízás hiányában önkéntes marad. Ellenőrizze a NIST erőforrásoldalát a későbbi felülvizsgálatok, útmutatók vagy kapcsolódó profilok tekintetében. A szakembereknek újra meg kell vizsgálniuk a javasolt intézkedéseket, amikor a modell képességei, a telepítési környezet vagy a külső függőségek változnak. Hasonlítsa össze a későbbi NIST-erőforrásokat ezzel a profillal és az esetleges kötelező követelményekkel, ahelyett, hogy az új ajánlásokat automatikus helyettesítésként kezelné.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A NIST AI 600-1 egy önkéntes, ágazatközi profil, amely a NIST AI kockázatkezelési keretrendszerét alkalmazza a generatív AI-ra. 12 azonosított kockázatot és javasolt intézkedést rendszerez a Kormányzás, Feltérképezés, Mérés és Kezelés funkciók mentén, így a csapatok egy strukturált erőforrást kapnak, nem pedig egy kötelező tanúsítási ellenőrzőlistát.
A NIST az AI 600-1-et az önkéntes AI RMF ágazatközi kiegészítő profiljaként írja le.
Az AI 600-1 olyan javasolt intézkedéseket tartalmaz, amelyeket a szervezetek a céljaikhoz, kockázattűrő képességükhöz és erőforrásaikhoz igazítanak.
A konfabuláció az egyik olyan kockázat, amelyet a profil kifejezetten azonosít.
A profil önkéntes útmutatás, és önmagában nem hoz létre terméktanúsítványt vagy jogi kötelezettségeket.
Az AI RMF Feltérképezés (Map) funkciója határozza meg a környezetet és azonosítja a potenciális kockázatokat.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Japán APPI és generatív AI
Társadalom