DalšíDalší průvodce
Japonsko APPI a generativní AI
Společnost
PRŮVODCE společností
NIST AI 600-1 je dobrovolný meziodvětvový profil, který aplikuje rámec řízení rizik NIST AI na generativní AI.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Organizuje 12 identifikovaných rizik a navrhovaných akcí napříč Governance, Map, Measure and Manage, čímž poskytuje týmům strukturovaný zdroj spíše než závazný certifikační kontrolní seznam.
NIST published Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, numbered NIST AI 600-1, on July 26, 2024. It is a companion to AI RMF 1.0 and applies the framework’s functions, categories and subcategories to generative AI. NIST describes the underlying framework as intended for voluntary use. AI 600-1 therefore offers a common vocabulary and recommended risk-management actions; it does not itself impose legal duties or certify a product. The profile identifies 12 risks that are novel to or intensified by generative AI, including confabulation, harmful bias or homogenization, information integrity, information security, privacy, intellectual property, overreliance, environmental impacts, and value-chain or component-integration issues. It then provides suggested actions for managing those risks. Actions are organized against the AI RMF’s four functions: Govern establishes policies and accountability; Map identifies context and risks; Measure evaluates them; Manage prioritizes response and monitoring. Organizations can tailor the actions to their needs and priorities. AI 600-1 is cross-sectoral: it covers common generative-AI activities rather than one industry or model type. It can help developers, deployers, evaluators and buyers structure design reviews, procurement questions, testing and monitoring. A profile action may be useful even when it is not required by a regulation or contract. If an organization incorporates it into binding internal policy, procurement terms or a regulator-approved process, those separate sources can make compliance obligatory for that organization. A team should not mistake a voluntary NIST publication for law, a test pass, or evidence that all material risks have been eliminated.
Produktový tým využívá diskuzi o konfabulaci profilu k testování, zda asistent podpory vymýšlí podrobnosti o zásadách.
Nákupní skupina mapuje rizika ochrany dat a bezpečnosti informací na požadavky na hostovanou generativní službu.
Bezpečnostní tým umělé inteligence používá profil k plánování testování červeného týmu na škodlivé rychlé vstupy a rizika zneužití.
Startup přizpůsobuje navrhované akce svému modelu, využívá kontext, zdroje a toleranci k riziku namísto toho, aby každou akci považoval za závaznou.
Profil NIST pro rok 2024 zůstává publikovaným společníkem AI RMF a jeho publikační stránka byla aktualizována v dubnu 2026. Navrhované akce profilu mohou podporovat rizikové programy, protože se mění nástroje, zatímco rámec zůstává dobrovolný bez samostatného pověření. Podívejte se na stránku zdrojů NIST pro pozdější revize, příručky nebo související profily. Když se změní možnosti modelu, kontext nasazení nebo externí závislosti, měli by se odborníci vrátit k navrhovaným akcím. Porovnejte pozdější zdroje NIST s tímto profilem a jakýmikoli závaznými požadavky, než abyste nová doporučení považovali za automatické náhrady.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
NIST AI 600-1 je dobrovolný meziodvětvový profil, který aplikuje rámec řízení rizik NIST AI na generativní AI. Organizuje 12 identifikovaných rizik a navrhovaných akcí napříč Governance, Map, Measure and Manage, čímž poskytuje týmům strukturovaný zdroj spíše než závazný certifikační kontrolní seznam.
NIST popisuje AI 600-1 jako mezisektorový doprovodný profil pro dobrovolné AI RMF.
AI 600-1 poskytuje navrhované akce, které organizace přizpůsobují svým cílům, toleranci rizik a zdrojům.
Konfabulace je jedním z rizik konkrétně identifikovaných v profilu.
Profil je dobrovolným vodítkem a sám o sobě nevytváří ani certifikát produktu, ani právní povinnosti.
Funkce AI RMF Map vytváří kontext a identifikuje potenciální rizika.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Japonsko APPI a generativní AI
Společnost