NIST Yapay Zeka Risk Yönetimi Çerçevesi
NIST Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF), yaşam döngüsü boyunca risklerini tanımlayıp yöneterek güvenilir yapay zeka oluşturmaya yönelik gönüllü bir ABD hükümeti taktik kitabıdır.
Genel Bakış
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Derin Dalış
ABD Ulusal Standartlar ve Teknoloji Enstitüsü tarafından Ocak 2023'te yayımlanan AI RMF 1.0, gönüllülük esasına dayalıdır ve sektörden bağımsızdır. Dört temel işlev etrafında düzenlenmiştir: Yönetme (AI riski için bir kültür ve politikalar oluşturma), Haritalama (bağlamı anlama ve riskleri tanımlama), Ölçme (ölçümlerle riskleri analiz etme ve izleme) ve Yönetme (bu risklere öncelik verme ve bunlara göre hareket etme). Çerçeve, güvenilir yapay zekanın özelliklerini tanımlıyor: geçerli ve güvenilir, emniyetli, emniyetli ve dayanıklı, hesap verebilir ve şeffaf, açıklanabilir ve yorumlanabilir, gizliliği artırılmış ve zararlı önyargıların yönetildiği adil. NIST ayrıca somut önerilen eylemlerin yer aldığı yardımcı bir Başucu Kitabı yayınladı ve 2024'te, kafa karışıklığı, veri sızıntısı ve zararlı içerik gibi büyük dil modellerine özgü riskleri ele alan bir Üretken Yapay Zeka Profili ekledi.
Teknik Bilgi
Bir kontrol listesinden farklı olarak RMF, güvenilirliği dengelenmesi gereken bir dizi değiş tokuş olarak ele alır, çünkü bir özelliğin iyileştirilmesi (örneğin doğruluk) diğerini (örneğin mahremiyet veya adalet) olumsuz etkileyebilir. Yönetim işlevi kesişiyor ve diğer üçünü besliyor. Measure, kırmızı ekip oluşturma ve insan değerlendirmesi de dahil olmak üzere hem niceliksel ölçümlerin hem de niteliksel yöntemlerin kullanılmasını vurguluyor çünkü birçok yapay zeka zararı tamamen sayısal yakalamaya direniyor. Çerçevenin belirlediği belirli araçlar değil, sonuçlardır.
Stratejik Etki
Risk and safety
Yıkıcı ve günlük yapay zeka zararları, kimin riskleri anladığı ve kimin harekete geçebileceğine bağlıdır.
Daha net kararlar
Kamu ve profesyonel okuryazarlık, güçlü bir güvenlik politikasının politik olarak mümkün olup olmadığını şekillendirir.
Cutting through hype
Açık açıklamalar abartılı reklamların, laboratuvar halkla ilişkiler uygulamalarının ve belirsiz etik tiyatrosunun etkisi altına girmeyi azaltır.
NIST Yapay Zeka Risk Yönetimi Çerçevesinin Geleceği
RMF'nin, AB Yapay Zeka Yasası ve yeni ortaya çıkan ABD eyalet yasaları gibi bağlayıcı rejimleri haritalandıran ve çoklu yargı yetkisine uyumu kolaylaştıran ortak bir referans temeli olmasını bekleyin. NIST, üretken yapay zekanın ana odak noktası olduğu belirli bağlamlar ve teknolojiler için profiller yayınlamaya devam ediyor. Federal satın alma ve kurum rehberliği giderek daha fazla RMF'ye işaret ediyor ve ISO/IEC 42001 gibi standartlara giden geçiş yolları büyüyor, bu da onu gönüllü kalsa da küresel yapay zeka yönetişimi için bağlayıcı bir doku haline getiriyor.
Gerçek Dünya Uygulaması
Bir teknoloji şirketi, yeni işe alınan yapay zekanın bağlamını haritalandırıyor, herhangi bir kod gönderilmeden önce etkilenen grupları ve olası zararları listeliyor ve Harita işlevini yerine getiriyor.
Bir banka, tüm modellerinde Yönetim fonksiyonunu karşılamak için bir Yapay Zeka yönetişim komitesi ve yazılı risk politikaları oluşturur.
Bir ekip, bir chatbot'un Measure işlevi altındaki hata modlarını ölçmek için kırmızı ekip oluşturma ve önyargı ölçümlerini kullanıyor.
Bir sağlık sigortacısı, müşteriye yönelik bir Yüksek Lisans'ta konfabülasyon ve veri sızıntısı risklerini ele almak için Üretken Yapay Zeka Profilini takip ediyor.
Riskler ve Korkuluklar
Yetenekleri artırırken varoluşsal riski bilim kurgu olarak ele almak.
Yüzey ürün güvenliğini yüksek özerklik altında hizalamayla karıştırmak.
İngilizce olmayan ve uzman olmayan izleyici kitlesini yalnızca düşük kaliteli kaynaklarla bırakmak.
Uygulama Yol Haritası
Ürün zararları, yanlış kullanım ve kontrol kaybı/yanlış hizalama risklerini ayırın.
Hangi kanıtların zaman çizelgeleri ve ciddiyet konusundaki görüşünüzü değiştireceğini sorun.
Pazarlama iddiaları yerine birincil kaynakları ve somut değerlendirmeleri tercih edin.
Tek bir eylem yolu belirleyin: kariyer, politika, finansman veya beceriler; yalnızca farkındalık değil.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Yapay Zeka Ürün Yönetimi
Sık sorulan sorular
What is NIST AI Risk Management Framework?
NIST Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF), yaşam döngüsü boyunca risklerini tanımlayıp yöneterek güvenilir yapay zeka oluşturmaya yönelik gönüllü bir ABD hükümeti taktik kitabıdır. Bu önemlidir çünkü kuruluşlara bağlayıcı bir yasa olmaksızın sorumlu yapay zekayı operasyonel hale getirmek için pratik ve esnek bir yapı sağlar.
NIST AI RMF'nin dört temel işlevi nelerdir?
Çerçeve Yönetmek, Haritalamak, Ölçmek ve Yönetmek etrafında inşa edilmiştir ve Yönetmek diğerlerini besleyen kesişen bir işlevdir.
NIST AI RMF'ye uyumluluk yasal olarak gerekli mi?
AI RMF açıkça gönüllüdür ve sektörden bağımsızdır; uygulanabilir talimatlar yerine rehberlik sunar.
Hangi işlev çapraz kesme ve diğer üçünü besleme olarak tanımlanır?
Yönetim, Haritalama, Ölçme ve Yönetme'nin temelini oluşturan kültürü, politikaları ve hesap verebilirlik yapılarını oluşturur.
RMF neden güvenilirliği bir dizi ödünleşim olarak ele alıyor?
Doğruluk gibi bir özellikteki kazanımlar, mahremiyet veya adalet gibi bir başka özelliğin pahasına olabilir; bu nedenle bunların dengelenmesi gerekir.
NIST, büyük dil modellerini ele almak için 2024'te çerçeveye neler ekledi?
2024 Üretken Yapay Zeka Profili, yalan söyleme, veri sızıntısı ve zararlı içerik gibi Yüksek Lisans'lara özgü riskleri ele alıyor.