SeterusnyaPanduan seterusnya
APPI Jepun dan AI Generatif
Masyarakat
PANDUAN Masyarakat
NIST AI 600-1 ialah profil merentas sektor sukarela yang menggunakan Rangka Kerja Pengurusan Risiko NIST AI kepada AI generatif.
Dengar panduan iniAI-diceritakan · ~3 min
Ia menganjurkan 12 risiko yang dikenal pasti dan tindakan yang dicadangkan merentas Govern, Map, Measure and Manage, memberikan pasukan sumber berstruktur dan bukannya senarai semak pensijilan yang mengikat.
NIST published Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, numbered NIST AI 600-1, on July 26, 2024. It is a companion to AI RMF 1.0 and applies the framework’s functions, categories and subcategories to generative AI. NIST describes the underlying framework as intended for voluntary use. AI 600-1 therefore offers a common vocabulary and recommended risk-management actions; it does not itself impose legal duties or certify a product. The profile identifies 12 risks that are novel to or intensified by generative AI, including confabulation, harmful bias or homogenization, information integrity, information security, privacy, intellectual property, overreliance, environmental impacts, and value-chain or component-integration issues. It then provides suggested actions for managing those risks. Actions are organized against the AI RMF’s four functions: Govern establishes policies and accountability; Map identifies context and risks; Measure evaluates them; Manage prioritizes response and monitoring. Organizations can tailor the actions to their needs and priorities. AI 600-1 is cross-sectoral: it covers common generative-AI activities rather than one industry or model type. It can help developers, deployers, evaluators and buyers structure design reviews, procurement questions, testing and monitoring. A profile action may be useful even when it is not required by a regulation or contract. If an organization incorporates it into binding internal policy, procurement terms or a regulator-approved process, those separate sources can make compliance obligatory for that organization. A team should not mistake a voluntary NIST publication for law, a test pass, or evidence that all material risks have been eliminated.
Pasukan produk menggunakan perbincangan konbulasi profil untuk menguji sama ada pembantu sokongan mencipta butiran dasar.
Kumpulan perolehan memetakan privasi data dan risiko keselamatan maklumat kepada keperluan untuk perkhidmatan generatif yang dihoskan.
Pasukan keselamatan AI menggunakan profil untuk merancang ujian pasukan merah untuk input segera yang berniat jahat dan risiko penyalahgunaan.
Penjahit pemula mencadangkan tindakan kepada modelnya, menggunakan konteks, sumber dan toleransi risiko dan bukannya menganggap setiap tindakan sebagai wajib.
Profil 2024 NIST kekal sebagai rakan AI RMF yang diterbitkan, dan halaman penerbitannya telah dikemas kini pada April 2026. Tindakan yang dicadangkan profil itu boleh menyokong program risiko apabila alat berubah, manakala rangka kerja itu kekal secara sukarela tanpa mandat berasingan. Semak halaman sumber NIST untuk semakan kemudian, buku main atau profil berkaitan. Pengamal harus menyemak semula tindakan yang dicadangkan apabila keupayaan model, konteks penggunaan atau kebergantungan luaran berubah. Bandingkan sumber NIST kemudian dengan profil ini dan sebarang keperluan yang mengikat dan bukannya menganggap pengesyoran baharu sebagai penggantian automatik.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
NIST AI 600-1 ialah profil merentas sektor sukarela yang menggunakan Rangka Kerja Pengurusan Risiko NIST AI kepada AI generatif. Ia menganjurkan 12 risiko yang dikenal pasti dan tindakan yang dicadangkan merentas Govern, Map, Measure and Manage, memberikan pasukan sumber berstruktur dan bukannya senarai semak pensijilan yang mengikat.
NIST menerangkan AI 600-1 sebagai profil pendamping merentas sektor untuk AI RMF sukarela.
AI 600-1 menyediakan cadangan tindakan yang disesuaikan oleh organisasi dengan matlamat, toleransi risiko dan sumber mereka.
Konfabulasi adalah salah satu risiko yang dikenal pasti secara khusus dalam profil.
Profil tersebut adalah panduan sukarela dan tidak mewujudkan sijil produk mahupun kewajipan undang-undang dengan sendirinya.
Fungsi AI RMF Map mewujudkan konteks dan mengenal pasti potensi risiko.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
APPI Jepun dan AI Generatif
Masyarakat