Ne oldu?
Fortune, eski OpenAI ve Anthropic çalışanı Jacob Coxon'un istifasının ve yapay zeka güvenliğine ilişkin uyarılarının kongre faaliyetlerini yeniden canlandırdığını bildirdi. Raporda, 48 saat içinde senatörlerin OpenAI ile ilgili bir soruşturma başlatıp mektuplar gönderdiği, diğer milletvekillerinin ise bir brifing toplayıp yasa teklifi sunduğu belirtiliyor. Fortune ayrıca Senatörler Ted Cruz, Amy Klobuchar ve John Thune'un iki partili bir yapay zeka güvenlik tasarısını desteklediğini ancak kamuya açık bir metin bulunmadığını bildirdi.
Fortune, daha önce OpenAI'de ve daha yakın zamanda Anthropic'de çalışan Jacob Coxon'un, önde gelen yapay zeka şirketlerinin kontrol edemeyecekleri sistemlere doğru çok hızlı ilerlediği konusunda uyarıda bulunarak bu hafta istifa ettiğini bildirdi. Makale, mevcut Anthropic hizalama araştırmacısı Evan Hubinger'in Coxon'un endişelerini açıkça desteklediğini, on yıl içinde insan neslinin tükenmesine %10'dan fazla şans verildiğini ve Anthropic'nin somut bir kontrol planının olmadığını söyledi. Eleştirilere iki Anthropic araştırmacısının daha katıldığı bildirildi. Bu ifadeler ve bildirilen iç tepkiler bağımsız olarak doğrulanmadı.
Fortune'a göre, siyasi tepkiler arasında Senatör Josh Hawley'nin OpenAI hakkında soruşturma başlatması, Senatör Richard Blumenthal'in benzer bir mektup göndermesi, Senatör Bernie Sanders'ın Geoffrey Hinton ile iki partili bir brifing toplaması ve Temsilci Ro Khanna'nın ek yasa teklifinde bulunması yer aldı. Raporda, Senatörler Ted Cruz, Amy Klobuchar ve John Thune'un artık Ticaret Bakanlığı ve Ulusal Güvenlik'e en güçlü yapay zeka modelleri üzerinde yetki verecek iki partili bir yapay zeka güvenlik yasa tasarısı ile ilişkili olduğu belirtiliyor.
Fortune, bildirilen yasa tasarısının, güvenlik testleri ve olay raporlaması gerektirdiğini ve düzenleyicilerin, biyolojik veya nükleer silahlarla ilgili riskler de dahil olmak üzere gerçek bir felaket riski taşıdığını tespit etmeleri halinde bir modelin piyasaya sürülmesini engellemesine izin verdiğini belirtiyor. Makale, metnin Kongre dışında görülmediğini ve OpenAI ve Anthropic'nin Senato personeliyle özel olarak görüştüğünü söylüyor. Tasarının resmi statüsü, adı geçenlerin dışındaki sponsorlar, yasama dili ve yasalaşma olasılığı bağımsız olarak doğrulanmadı.
Teklifin, Kaliforniya ve New York'taki yasalar da dahil olmak üzere eyalet yapay zeka kurallarını federal bir standartla değiştireceği veya önleyeceği bildiriliyor. Fortune, gelişmeyi daha uzun bir federal eylemsizlik, eyalet düzeyinde deneyler ve yapay zeka düzenlemelerinin güvenliğe, rekabete veya devlet otoritesinin sınırlarına öncelik verip vermemesi gerektiği konusundaki anlaşmazlıklarla dolu bir geçmişe yerleştiriyor. Bu tarihsel açıklama, yayının raporlaması ve analizidir; alıntı yapılan her yasal ayrıntının bağımsız bir doğrulaması değildir.
Kaynak ayrıntıları: fortune.com ↗
Neden önemli?
Bildirilen yasa tasarısı yasalaştığı takdirde, zorunlu güvenlik testleri, olay raporlama ve felaket riski teşkil ettiği değerlendirilen bir sürümün ertelenmesi de dahil olmak üzere en güçlü yapay zeka sistemleri üzerinde doğrudan yetkiye sahip ilk federal çerçeve haline gelebilir. Ayrıca eyalet yapay zeka yasalarının yerini alabilir ve düzenleyici otoriteyi Washington'da yoğunlaştırabilir. Bu nedenle teklif hem yapay zeka güvenliği hem de çözülmemiş federal-eyalet sorunu açısından önem taşıyor. Fortune'un açıklaması burada bağımsız olarak doğrulanmadı ve tasarının kapsamı, uygulama standartları ve geleceği bilinmiyor.
Serbest bırakmayı engelleme yetkisine sahip bir federal güvenlik rejimi, Fortune tarafından tanımlanan büyük ölçüde gönüllü taahhütler, idari eylemler ve eyalet yasalarından sonuç olarak kaynaklanan bir değişiklik olacaktır. Bu, öncü geliştiricilerin dağıtımdan önce modelleri nasıl değerlendirdiğini ve yüksek kapasiteli sistemlerin müşterilere ne kadar hızlı ulaştığını etkileyebilir.
Federal ön alım büyük bir ödünleşim yaratacaktır. Tek bir ulusal standart, geliştiriciler için çatışan yükümlülükleri azaltabilir, ancak aynı zamanda federal sistemin kapsamı, personel sayısı ve yaptırımı bilinmeden devlet korumalarını da ortadan kaldırabilir. Kaynak, hangi eyalet hükümlerinin değiştirileceğini değerlendirmek için yeterli bilgi sağlamıyor.
Pratik etki şu anda mevcut olmayan ayrıntılara bağlıdır: kapsanan modeller için eşikler, felaket riskinin anlamı, güvenlik değerlendiricilerinin bağımsızlığı, raporlama son tarihleri, gizli bilgi kuralları ve adli inceleme. Kamuya açık metin olmaması bunların henüz değerlendirilemeyeceği anlamına gelir.
Rapor aynı zamanda taslağın hazırlanmasına endüstri katılımının hâlihazırda gerçekleştiğini belirtiyor ancak bu katılımın tavsiye niteliğinde, resmi veya belirleyici olup olmadığını ortaya koymuyor. OpenAI ve Anthropic'nin nihai teklif üzerindeki etkisi önemli bir bilinmezlik olmaya devam ediyor.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Acil test, milletvekillerinin tasarıyı yayınlayıp resmi olarak sunup sunmayacağıdır. Temel konular arasında düzenleyicilerin felaket riskini nasıl tanımladığı, hangi modellerin kapsandığı, yayınlanmadan önce hangi kanıtların gerekli olduğu, eyalet yasalarının öncelikli olup olmayacağı ve geliştiricilerin hangi itiraz veya gözetim mekanizmalarına başvuracağı yer alacak. OpenAI, Anthropic ve diğer geliştiricilerin pozisyonlarının yanı sıra taslağa ilişkin iki partili herhangi bir anlaşma da belirsizliğini koruyor.
Tasarı metninin yayınlanmasını, resmi tanıtımı, komite yönlendirmesini ve sponsorların açık bir listesini izleyin. Bu adımlar, rapor edilen teklifin bir erken müzakere taslağından ziyade gerçek bir yasama aracı olup olmadığını ortaya koyacaktır.
Tasarının bağlayıcı bir yayın öncesi inceleme oluşturup oluşturmadığını veya yalnızca raporlama gereklilikleri oluşturup oluşturmadığını ve Ticaret ve İç Güvenlik'in bunu uygulamak için yeterli teknik uzmanlık, finansman ve bağımsızlığa sahip olup olmadığını inceleyin.
Ön alım dilini yakından takip edin. Kaynak, eyalet yasalarının değiştirilebileceğini söylüyor ancak etkilenen hükümlerin tam olarak ne olduğunu veya eyaletlerin tüketicinin korunması, istihdam, mahremiyet veya sektöre özel kullanımlar konusunda yetki sahibi olup olmayacağını belirtmiyor.
Yapay zeka geliştiricilerinin, devlet yetkililerinin, sivil toplum gruplarının ve teknik güvenlik araştırmacılarının yanıtlarını izleyin. Pozisyonları, teklifin uygulanabilir bir güvenlik düzenlemesi olarak mı, rekabet edebilirlik çerçevesi olarak mı, yoksa otoriteyi merkezileştirme çabası olarak mı görüldüğünü ortaya çıkarabilir.