Kerangka Manajemen Risiko NIST AI
Kerangka Kerja Manajemen Risiko AI NIST (AI RMF) adalah pedoman sukarela pemerintah AS untuk membangun AI yang dapat dipercaya dengan mengidentifikasi dan mengelola risikonya di seluruh siklus hidup.
Ikhtisar
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Menyelam Lebih Dalam
Dirilis oleh Institut Standar dan Teknologi Nasional AS pada Januari 2023, AI RMF 1.0 bersifat sukarela dan agnostik sektoral. Hal ini disusun berdasarkan empat fungsi inti: Kelola (membangun budaya dan kebijakan untuk risiko AI), Memetakan (memahami konteks dan mengidentifikasi risiko), Mengukur (menganalisis dan melacak risiko dengan metrik), dan Mengelola (memprioritaskan dan menindaklanjuti risiko tersebut). Kerangka kerja ini mendefinisikan karakteristik AI yang dapat dipercaya: valid dan andal, aman, terjamin dan tangguh, akuntabel dan transparan, dapat dijelaskan dan ditafsirkan, ditingkatkan privasinya, dan adil dengan bias berbahaya yang dikelola. NIST juga menerbitkan Playbook pendamping dengan tindakan nyata yang disarankan, dan pada tahun 2024 menambahkan Profil AI Generatif yang mengatasi risiko unik pada model bahasa besar seperti konfabulasi, kebocoran data, dan konten berbahaya.
Wawasan Teknis
Berbeda dengan checklist, RMF memperlakukan kepercayaan sebagai serangkaian trade-off yang harus diseimbangkan, karena meningkatkan satu properti (misalnya, akurasi) dapat menurunkan properti lainnya (misalnya, privasi atau keadilan). Fungsi Pemerintahan bersifat lintas sektoral dan mendukung ketiga fungsi lainnya. Pengukuran menekankan penggunaan metrik kuantitatif dan metode kualitatif, termasuk tim merah dan evaluasi manusia, karena banyak dampak buruk AI yang tidak dapat ditangkap secara numerik. Hasil, bukan alat spesifik, adalah apa yang ditentukan oleh kerangka kerja tersebut.
Dampak Strategis
Risk and safety
Kerugian akibat AI yang bersifat bencana dan sehari-hari bergantung pada siapa yang memahami risikonya dan siapa yang dapat bertindak.
Clearer decisions
Literasi masyarakat dan profesional menentukan apakah kebijakan keselamatan yang kuat memungkinkan secara politis.
Cutting through hype
Penjelasan yang jelas mengurangi penangkapan oleh hype, PR laboratorium, dan teater etika yang tidak jelas.
Masa Depan Kerangka Manajemen Risiko NIST AI
Harapkan RMF menjadi acuan dasar umum yang memetakan rezim yang mengikat seperti UU AI UE dan undang-undang negara bagian AS yang baru muncul, sehingga memudahkan kepatuhan multi-yurisdiksi. NIST terus merilis profil untuk konteks dan teknologi tertentu, dengan AI generatif sebagai fokus utama. Panduan pengadaan dan lembaga federal semakin banyak yang mengarah pada RMF, dan penyeberangan ke standar seperti ISO/IEC 42001 semakin meningkat, menjadikannya jaringan penghubung untuk tata kelola AI global meskipun hal ini masih bersifat sukarela.
Implementasi Dunia Nyata
Sebuah perusahaan teknologi memetakan konteks perekrutan AI baru, membuat daftar kelompok yang terkena dampak dan potensi bahaya sebelum kode apa pun dikirimkan, sehingga memenuhi fungsi Peta.
Sebuah bank membentuk komite tata kelola AI dan kebijakan risiko tertulis untuk memenuhi fungsi Tata Kelola di seluruh modelnya.
Sebuah tim menggunakan metrik tim merah dan bias untuk mengukur mode kegagalan chatbot di bawah fungsi Ukur.
Perusahaan asuransi kesehatan mengikuti Profil AI Generatif untuk mengatasi risiko perundingan dan kebocoran data di LLM yang dihadapi pelanggan.
Risiko & Pagar Pembatas
Memperlakukan risiko eksistensial sebagai fiksi ilmiah sementara kemampuan bertambah.
Membingungkan keamanan produk permukaan dengan penyelarasan dalam otonomi tinggi.
Membiarkan audiens non-Inggris dan non-ahli hanya memiliki sumber berkualitas rendah.
Peta Jalan Implementasi
Pisahkan risiko bahaya, penyalahgunaan, dan hilangnya kendali/ketidakselarasan produk.
Tanyakan bukti apa yang akan mengubah pandangan Anda mengenai jangka waktu dan tingkat keparahannya.
Lebih memilih sumber primer dan evaluasi konkrit dibandingkan klaim pemasaran.
Identifikasi satu jalur tindakan: karier, kebijakan, pendanaan, atau keterampilan – bukan hanya kesadaran.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Manajemen Produk AI
Pertanyaan yang sering diajukan
What is NIST AI Risk Management Framework?
Kerangka Kerja Manajemen Risiko AI NIST (AI RMF) adalah pedoman sukarela pemerintah AS untuk membangun AI yang dapat dipercaya dengan mengidentifikasi dan mengelola risikonya di seluruh siklus hidup. Hal ini penting karena memberikan organisasi struktur yang praktis dan fleksibel untuk mengoperasionalkan AI yang bertanggung jawab tanpa harus menjadi undang-undang yang mengikat.
Apa saja empat fungsi inti NIST AI RMF?
Kerangka kerja ini dibangun berdasarkan Tata Kelola, Pemetaan, Ukur, dan Kelola, dengan Tata Kelola sebagai fungsi lintas sektoral yang memberi masukan kepada fungsi lainnya.
Apakah kepatuhan terhadap NIST AI RMF diwajibkan secara hukum?
AI RMF secara eksplisit bersifat sukarela dan tidak bersifat sektoral, sehingga memberikan panduan dan bukan mandat yang dapat ditegakkan.
Fungsi mana yang dijelaskan sebagai lintas sektoral dan menyatu dengan tiga fungsi lainnya?
Govern menetapkan budaya, kebijakan, dan struktur akuntabilitas yang mendasari Pemetaan, Pengukuran, dan Pengelolaan.
Mengapa RMF memperlakukan kepercayaan sebagai serangkaian trade-off?
Keuntungan dalam satu karakteristik, seperti akurasi, dapat mengorbankan hal lain, seperti privasi atau keadilan, sehingga keduanya harus seimbang.
Apa yang NIST tambahkan ke kerangka kerja pada tahun 2024 untuk mengatasi model bahasa besar?
Profil AI Generatif 2024 mengatasi risiko unik pada LLM, seperti perundingan, kebocoran data, dan konten berbahaya.