SıradakiSonraki rehber
California SB 53 ve Sınır Yapay Zeka Şeffaflığı
Toplum
Toplum REHBERİ
Sınır Yapay Zeka Güvenlik Çerçeveleri ve Sorumlu Ölçeklendirme Politikaları
Sorumlu ölçeklendirme politikası gibi bir sınır yapay zeka güvenlik çerçevesi, bir yapay zeka laboratuvarının modellerini tehlikeli yetenekler açısından test etmeye yönelik yayınlanmış bir taahhüdüdür.
Bu sayfada4 dakikalık okuma
Genel Bakış
Bir model belirli bir eşiği aşarsa laboratuvar, daha güçlü güvenlik önlemleri eklemeyi veya bu güvenlik önlemleri alınana kadar dağıtım yapmamayı veya daha fazla eğitim vermemeyi taahhüt eder. Bu çerçeveler önemlidir çünkü çoğu gönüllü olarak oluşturulmuş ve laboratuvarların kendileri tarafından yazılmış olsa da, şu anda en gelişmiş yapay zeka modellerinin felaket riskine karşı yönetilmesinin ana yoludur.
Derin Dalış
Anthropic, Eylül 2023'te ilk Sorumlu Ölçeklendirme Politikasını yayınladı. Daha yüksek seviyelerin daha güçlü güvenlik ve dağıtım önlemleri gerektirdiği biyogüvenlik seviyelerine göre gevşek bir şekilde modellenen Yapay Zeka Güvenlik Seviyelerini (ASL'ler) tanıttı. Ekim 2024'teki daha sonraki bir sürüm, politikayı yetenek eşikleri ve gerekli önlemler açısından yeniden ifade etti ve Sorumlu Ölçeklendirme Görevlisinin rolünü açıkladı. OpenAI, Hazırlık Çerçevesini Aralık 2023'te beta olarak yayınladı. Başlangıçta KBRN tehditleri, siber güvenlik, ikna ve model özerkliği dahil olmak üzere takip edilen kategorilerde risk puanı aldı. 2025'te yapılan bir revizyon, bunu Yüksek ve Kritik yetenek eşikleri etrafında yeniden düzenledi ve takip edilen bir kategori olarak iknayı kaldırdı. Google DeepMind, Sınır Güvenliği Çerçevesini Mayıs 2024'te yayınladı ve o zamandan beri revize etti. Müdahale planlarını tetikleyen Kritik Yetenek Düzeylerini (CCL'ler) tanımlar. Mayıs 2024'teki Yapay Zeka Seul Zirvesi'nde 16 şirket Sınır Yapay Zeka Güvenlik Taahhütlerini imzaladı. Güvenlik çerçeveleri yayınlamayı, dayanılmaz riskler için eşikler belirlemeyi ve risklerin bu eşiklerin altında tutulamaması durumunda bir model geliştirmemeyi veya uygulamamayı kabul ettiler. Şubat 2025'teki Paris Yapay Zeka Eylem Zirvesi'nden önce birçok çerçeve yayınlandı. Eleştirmenler birçok zayıf noktaya işaret ediyor. Laboratuvarlar kendi eşik değerlerini yazar ve bunları kendi başlarına revize edebilir. "Anlamlı bir yükseliş" gibi ifadeler yoruma yer bırakıyor. Dış doğrulama sınırlıdır ve ticari rekabet laboratuvarlara sonuçları cömertçe okuma konusunda bir teşvik sağlar. Yaygın bir yanılgı, bu çerçevelerin kanun olduğudur. Bu değişmekle birlikte çoğu gönüllüdür. Kaliforniya'nın SB 53'ü, büyük öncü geliştiricilerin böyle bir çerçeve yayınlamasını gerektirir ve AI Yasasına uygunluğu göstermenin gönüllü bir yolu olan AB'nin Genel Amaçlı Yapay Zeka Uygulama Kuralları, imzacılardan bir tane benimsemelerini ister.
Stratejik Etki
Risk ve güvenlik
Yıkıcı ve günlük yapay zeka zararları, kimin riskleri anladığı ve kimin harekete geçebileceğine bağlıdır.
Daha net kararlar
Kamu ve profesyonel okuryazarlık, güçlü bir güvenlik politikasının politik olarak mümkün olup olmadığını şekillendirir.
Heyecanı aşmak
Açık açıklamalar abartılı reklamların, laboratuvar halkla ilişkiler uygulamalarının ve belirsiz etik tiyatrosunun etkisi altına girmeyi azaltır.
Sınır Yapay Zeka Güvenlik Çerçevelerinin Geleceği ve Sorumlu Ölçeklendirme Politikaları
Çerçeveler gönüllü taahhütlerden düzenleyici beklentilere doğru ilerliyor. Kaliforniya artık büyük geliştiricilerin bunları yayınlamasını zorunlu kılıyor; AB'nin Uygulama Kuralları imzacılardan bunları benimsemelerini istiyor ve bunu başka yargı bölgeleri de takip edebilir. Açık sorular arasında uyumluluğun kimin tarafından denetlendiği, eşiklerin laboratuvarlar arasında nasıl standartlaştırıldığı ve değerlendirmelerin hızla gelişen ajans sistemlerine ayak uydurup uyduramayacağı yer alıyor. Devletin yapay zeka enstitüleri de dahil olmak üzere bağımsız test kuruluşları, laboratuvar iddialarının kontrol edilmesinde daha büyük bir rol üstlenebilir. Merkezi gerilim muhtemelen devam edecek: Laboratuarlar, değerlendirilecekleri kuralları tasarlıyor, bu da şeffaflığı ve dışarıdan incelemeyi önemli kılıyor.
Gerçek Dünya Uygulaması
Piyasaya sürülmeden önce bir laboratuvar, yeni bir modelin biyolojik silah elde etmeye çalışan birine anlamlı bir destek sağlayıp sağlamadığını test ediyor. Eşiği aşarsa laboratuvar, dağıtımdan önce daha katı kötüye kullanım filtreleri ve güvenlik ekler.
Mayıs 2025'te Anthropic, modelin ilgili yetenek eşiğine ulaştığını göz ardı edemeyeceği için Claude Opus 4 için ASL-3 dağıtımını ve güvenlik korumalarını önlem olarak etkinleştirdiğini söyledi.
OpenAI'nin Hazırlık Çerçevesi, bir Güvenlik Danışma Grubunu yetenek raporlarını incelemeye ve yayınlanmadan önce önlemlerin yeterli olup olmadığı konusunda liderliğe tavsiyelerde bulunmaya yönlendirir.
Otonom kopyalamayı veya yapay zeka araştırma hızlandırmasını takip eden bir laboratuvar, aracı değerlendirmeleri yürütür. Bunlar, modelin uzun, çok adımlı görevleri insan yardımı olmadan tamamlayıp tamamlayamayacağını test eder.
Riskler ve Korkuluklar
Yetenekleri artırırken varoluşsal riski bilim kurgu olarak ele almak.
Yüzey ürün güvenliğini yüksek özerklik altında hizalamayla karıştırmak.
İngilizce olmayan ve uzman olmayan izleyici kitlesini yalnızca düşük kaliteli kaynaklarla bırakmak.
Uygulama Yol Haritası
Ürün zararları, yanlış kullanım ve kontrol kaybı/yanlış hizalama risklerini ayırın.
Hangi kanıtların zaman çizelgeleri ve ciddiyet konusundaki görüşünüzü değiştireceğini sorun.
Pazarlama iddiaları yerine birincil kaynakları ve somut değerlendirmeleri tercih edin.
Tek bir eylem yolu belirleyin: kariyer, politika, finansman veya beceriler; yalnızca farkındalık değil.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Frontier AI Safety Frameworks and Responsible Scaling Policies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Sık sorulan sorular
Frontier AI Güvenlik Çerçeveleri ve Sorumlu Ölçeklendirme Politikaları Nedir?
Sorumlu ölçeklendirme politikası gibi bir sınır yapay zeka güvenlik çerçevesi, bir yapay zeka laboratuvarının modellerini tehlikeli yetenekler açısından test etmeye yönelik yayınlanmış bir taahhüdüdür. Bir model belirli bir eşiği aşarsa laboratuvar, daha güçlü güvenlik önlemleri eklemeyi veya bu güvenlik önlemleri alınana kadar dağıtım yapmamayı veya daha fazla eğitim vermemeyi taahhüt eder. Bu çerçeveler önemlidir çünkü çoğu gönüllü olarak oluşturulmuş ve laboratuvarların kendileri tarafından yazılmış olsa da, şu anda en gelişmiş yapay zeka modellerinin felaket riskine karşı yönetilmesinin ana yoludur.
Sorumlu bir ölçeklendirme politikasının temel mantığı nedir?
Bu çerçeveler, yetenek eşiklerini gerekli güvenlik önlemlerine bağlayan eğer-o zaman taahhütleri üzerine inşa edilmiştir.
Hangi şirket Yapay Zeka Güvenlik Düzeylerini (ASL'ler) tanıttı?
Anthropic'nin Eylül 2023 Sorumlu Ölçeklendirme Politikası, genel olarak biyogüvenlik düzeylerine göre modellenen ASL'leri uygulamaya koydu.
Google DeepMind, Sınır Güvenliği Çerçevesindeki eşikleri ne olarak adlandırıyor?
DeepMind, ulaşıldığında yanıt planlarını tetikleyen Kritik Yetenek Düzeylerini (CCL'ler) kullanır.
Şirketler Mayıs 2024'teki AI Seul Zirvesi'nde neyi kabul etti?
Sınır Yapay Zeka Güvenlik Taahhütleri, çerçevelerin yayımlanması ve risklerin eşik değerlerin altında tutulamaması durumunda devam edilmemesi yönündeki gönüllü taahhütlerdi.
OpenAI'nin 2025 Hazırlık Çerçevesi revizyonu takip edilen kategori olarak hangi kategoriden çıktı?
Revizyon, çerçeveyi Yüksek ve Kritik eşikler etrafında yeniden düzenledi ve takip edilen bir kategori olan iknayı kaldırdı.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi