NIST AI kockázatkezelési keretrendszer
A NIST AI Risk Management Framework (AI RMF) az Egyesült Államok kormányának önkéntes játékkönyve a megbízható mesterséges intelligencia kialakításához azáltal, hogy azonosítja és kezeli kockázatait az életciklus során.
Áttekintés
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Mély merülés
Az Egyesült Államok Nemzeti Szabványügyi és Technológiai Intézete által 2023 januárjában kiadott AI RMF 1.0 önkéntes és ágazat-agnosztikus. Négy fő funkció köré szerveződik: Kormányzás (kultúra és irányelvek kialakítása a mesterséges intelligencia kockázatára vonatkozóan), Feltérképezés (a kontextus megértése és a kockázatok azonosítása), Mérés (kockázatok elemzése és nyomon követése mérőszámokkal) és Kezelés (a kockázatok rangsorolása és cselekvése). A keretrendszer meghatározza a megbízható mesterséges intelligencia jellemzőit: érvényes és megbízható, biztonságos, biztonságos és ellenálló, elszámoltatható és átlátható, magyarázható és értelmezhető, fokozottan védett és méltányos a káros előítéletekkel. A NIST egy kísérő Playbookot is kiad, amely konkrét cselekvési javaslatokat tartalmaz, és 2024-ben hozzáadott egy Generatív mesterségesintelligencia-profilt, amely a nagy nyelvi modellek egyedi kockázatait kezeli, például a konfabulációt, az adatszivárgást és a káros tartalmakat.
Technikai betekintés
Az ellenőrzőlistától eltérően az RMF a megbízhatóságot kiegyensúlyozandó kompromisszumok halmazaként kezeli, mivel az egyik tulajdonság javítása (mondjuk a pontosság) ronthat egy másikat (mondjuk a magánéletet vagy a méltányosságot). A Kormányzás funkció több területet érint, és táplálja a másik hármat. A Measure a kvantitatív mérőszámok és a kvalitatív módszerek – köztük a red-teaming és az emberi értékelés – alkalmazására helyezi a hangsúlyt, mivel sok mesterséges intelligencia ártalom ellenáll a pusztán numerikus rögzítésnek. A keretrendszer meghatározza az eredményeket, nem pedig a konkrét eszközöket.
Stratégiai hatás
Kockázat és biztonság
A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
Tisztább döntések
A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
Átvágva a felhajtáson
A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.
A NIST AI kockázatkezelési keretrendszer jövője
Arra számíthat, hogy az RMF olyan közös referencia-alapvonalmá válik, amely az olyan kötelező érvényű szabályokhoz illeszkedik, mint az EU AI-törvénye és a kialakulóban lévő amerikai államok törvényei, megkönnyítve a több joghatóságra kiterjedő megfelelést. A NIST továbbra is speciális kontextusokhoz és technológiákhoz ad ki profilokat, a generatív mesterséges intelligencia középpontjában. A szövetségi beszerzési és ügynökségi útmutatások egyre inkább az RMF-re utalnak, és az ISO/IEC 42001-hez hasonló szabványokhoz való átkelőhelyek egyre nőnek, így a globális mesterségesintelligencia-irányítás kötőszövetévé válik, bár továbbra is önkéntes.
Valós megvalósítás
Egy technológiai vállalat feltérképezi egy új felvételi mesterséges intelligencia kontextusát, felsorolja az érintett csoportokat és a lehetséges károkat, mielőtt bármilyen kód kiszállna, teljesítve a térkép funkciót.
A bankok létrehoznak egy mesterséges intelligencia irányítási bizottságot, és írnak kockázati szabályzatokat, hogy minden modelljében megfeleljenek a kormányzási funkciónak.
Egy csapat red-teaming és torzítási mérőszámokat használ a chatbot meghibásodási módjainak számszerűsítésére a Measure funkció alatt.
Az egészségbiztosító a Generatív AI-profilt követi, hogy kezelje a konfabulációs és adatszivárgási kockázatokat az ügyfelekkel szembesülő LLM-nél.
Kockázatok és védőkorlátok
Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.
Végrehajtási ütemterv
Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
AI termékmenedzsment
Gyakran ismételt kérdések
What is NIST AI Risk Management Framework?
A NIST AI Risk Management Framework (AI RMF) az Egyesült Államok kormányának önkéntes játékkönyve a megbízható mesterséges intelligencia kialakításához azáltal, hogy azonosítja és kezeli kockázatait az életciklus során. Ez azért fontos, mert praktikus, rugalmas struktúrát ad a szervezeteknek a felelős mesterséges intelligencia működtetéséhez anélkül, hogy kötelező erejű törvény lenne.
Mi a NIST AI RMF négy fő funkciója?
A keretrendszer a kormányzás, a térképezés, a mérés és a kezelés köré épül fel, és a kormányzás több területet átfogó funkcióként táplálja a többieket.
Jogilag kötelező a NIST AI RMF betartása?
Az AI RMF kifejezetten önkéntes és ágazat-agnosztikus, és inkább iránymutatást kínál, mint végrehajtható megbízásokat.
Melyik funkciót írják le keresztirányúnak és a másik háromba betáplálónak?
A Kormányzás létrehozza azt a kultúrát, irányelveket és elszámoltathatósági struktúrákat, amelyek a térképezés, mérés és kezelés alapját képezik.
Miért kezeli az RMF a megbízhatóságot kompromisszumok halmazaként?
Az egyik jellemzőben, például a pontosságban elért előnyök egy másik, például a magánélet vagy a méltányosság rovására mehet, ezért ezeknek kiegyensúlyozottnak kell lenniük.
Mit adott a NIST a keretrendszerhez 2024-ben a nagy nyelvi modellek kezelésére?
A 2024-es generatív mesterségesintelligencia-profil az LLM-ek egyedi kockázataival foglalkozik, mint például a konfabuláció, az adatszivárgás és a káros tartalom.