Ne oldu?
Startup Fortune, Kaliforniya milletvekillerinin 30 Ağustos 2026'da SB 813'ü onayladığını bildirdi. Tasarı, Devlet Operasyonları Ajansı'na, ilk çerçeve eylemlerinin 1 Ocak 2028'e kadar tamamlanmasıyla birlikte bağımsız doğrulama kuruluşları veya IVO'lar belirlemeye başlaması talimatını verecek. Kaynak, eyalet yasa tasarısı kaydında Senato'nun 37-0 mutabakat oyu ve 53-4 Meclis oylamasından bahsediyor.
Startup Fortune, Kaliforniya Yasama Meclisinin Sen. Jerry McNerney'nin SB 813'ünü 30 Ağustos 2026'da onayladığını bildirdi. Makalede, eyalet yasa tasarısının 37-0 Senato mutabakat oyu ve 53-4 Meclis oyu listelediği belirtiliyor. Kaynak, tasarı metnini bağımsız olarak sunmuyor veya valinin bunu imzaladığını doğrulamıyor.
Bildirilen çerçeve kapsamında, Kaliforniya Devlet Operasyonları Ajansı, yapay zeka sistemleri veya modellerinin oluşturduğu riskleri değerlendirmek ve bu değerlendirmelerde kullanılan ölçümleri ve yöntemleri belirlemek için bağımsız doğrulama kuruluşlarını veya IVO'ları atayacaktır. Startup Fortune, ilk çerçeve eylemlerinin 1 Ocak 2028'e kadar tamamlanması gerektiğini söylüyor.
Makale, Fathom'un sponsor olduğu tasarıyı tanımlıyor ve IVO konseptinin CalMatters Dijital Demokrasi özetini aktarıyor. Aynı zamanda Fathom'un 31 Ağustos'ta yaptığı açıklamaya da atıf yapılarak tedbirin ülkede ilk kez gerçekleştirildiği ifade ediliyor. Bu açıklamalar ve tasarının uygulama ayrıntıları kaynağa atfedilmiştir ve burada bağımsız olarak doğrulanmamıştır.
Startup Fortune, zamanlamayı OpenAI siber güvenlik değerlendirmesi hakkındaki raporlamaya bağlar. METR ve Redwood Research araştırmacılarının, OpenAI tesislerinde altı gün boyunca 70.000'den fazla mesaj ve dosyayı ve yaklaşık 1.300 düşünce zinciri transkriptini, yaklaşık 400.000 $ OpenAI API kredisi kullanarak incelediğini söylüyor. Makale, bu rakamları SC Media ve The New York Times'a atfediyor ve araştırmacıların, yapay zeka davranışlarını analiz etmek için yapay zeka araçlarına güvenme konusundaki sınırlamaları tanımladığını söylüyor. Bu olay ayrıntıları bu değerlendirme tarafından bağımsız olarak doğrulanmamıştır.
Kaynak ayrıntıları: startupfortune.com ↗
Neden önemli?
Teklif, yapay zeka güvenlik gözetimindeki pratik bir zayıflığa değiniyor: Geliştiriciler genellikle kendi sistemlerini değerlendirmek için gereken modelleri, verileri, araçları ve erişimi kontrol ediyor. Startup Fortune, tasarıyı bir OpenAI ajan olayıyla ilgili bir soruşturmaya bağlıyor ancak makalenin daha geniş politika önemi bu davadan bağımsız. Etkili gözetim, Kaliforniya'nın bağımsızlığı nasıl tanımladığına, çıkar çatışmalarını nasıl ele aldığına ve denetçileri değerlendirdikleri şirketlere bağımlı kılmadan yeterli erişim sağladığına bağlı olacaktır.
SB 813, yapay zeka güvenlik değerlendirmesinin bir kısmını gönüllü şirket açıklamalarından devlet tarafından tanınan bir dış denetim pazarına kaydırabilir. Bu, geliştiricilerinin siber güvenlik, özerklik, güvenilirlik veya kötüye kullanım riski hakkında önemli iddialarda bulunduğu sistemler için en önemli husustur.
Temel politika sorunu pratikte bağımsızlıktır. Bir denetçi, model erişimi, teknik altyapı, özel günlükler veya ödeme için hala bir geliştiriciye güvenirken resmi olarak ayrı olabilir. Kaynak bu çelişkiyi dile getiriyor ancak SB 813'ün bunu nasıl çözeceğini belirtmiyor.
Startup Fortune tarafından açıklanan OpenAI araştırması, erişim ve bağımsızlığın neden zıt yönlere gidebileceğini gösteriyor: araştırmacılar kanıt elde etmek için inceleme altındaki şirketle işbirliğine ihtiyaç duyabilirken, bu işbirliği incelemenin kapsamını ve koşullarını şekillendirebilir. Makalenin hesabı bağımsız olarak doğrulanmak yerine rapor ediliyor.
Sınır sistemlerini uygulayan şirketler için bunun pratikteki anlamı, denetim hazırlığının eninde sonunda Kaliforniya'da bir yönetim gereksinimi haline gelebileceğidir. Kaynak, hangi şirketlerin veya modellerin kapsanacağını, denetimlerin zorunlu olup olmayacağını veya uyumsuzluğun ceza gerektirip gerektirmeyeceğini belirtmiyor.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Sonraki önemli adımlar, tasarının imzalanıp imzalanmadığı, devletin bağımsız bir doğrulama kuruluşunu nasıl tanımladığı ve denetçilerin sınır modellerine ve operasyonel kayıtlara anlamlı erişim sağlayıp sağlayamayacağıdır. Çerçevenin yalnızca gelişmiş modelleri mi yoksa daha geniş bir yapay zeka sistemi yelpazesini mi kapsayacağı, denetimlerin maliyetinin ne olacağı ve bulguların kamuya açık mı yoksa uygulanabilir mi olacağı da belirsiz.
Kaynak, SB 813'ün yasalaşıp imzalanmadığını, veto edilip edilmediğini veya başka bir şekilde yasalaşıp yasalaşmadığını söylemiyor. Çerçeveyi çalışır durumda olarak ele almadan önce bu durumun doğrulanması gerekir.
IVO uygunluğunu, denetçi anlaşmazlıklarını, finansman düzenlemelerini, gerekli teknik erişimi, denetim sıklığını ve bulguların açıklanmasını tanımlayan kurallara dikkat edin.
Kaliforniya'nın, özellikle de en yetenekli sistemler tescilli ve hızla değiştiğinde, sınır modellerini bağımsız olarak değerlendirmek için yeterli sayıda nitelikli denetçi oluşturup oluşturamayacağı bilinmiyor.
Makale ayrıca çerçevenin federal veya diğer eyalet kurallarıyla koordineli olup olmayacağı ve denetim sonuçlarının dağıtım, sorumluluk, satın alma veya kamu raporlamasını etkileyip etkilemeyeceği konusunda açık bırakıyor.