Ne oldu?
Vali Gavin Newsom, bağımsız denetimi hızlandırmayı ve sınırdaki yapay zeka modelleri için bir 'sonlandırma anahtarı' geliştirmeyi amaçlayan Kaliforniya'nın yapay zeka yürütme emri hakkında tavsiyelerde bulunacak bir uzman paneli duyurdu.
Vali Gavin Newsom, son Yapay Zeka yönetim emrinin gerektirdiği tavsiyeler konusunda tavsiyelerde bulunacak bir grup önde gelen uzmanın duyurusunu yaptı. Emir, yapay zeka şirketlerinin bağımsız denetimini hızlandırmayı ve sahte sınır modelleri için potansiyel bir 'sonlandırma anahtarı' oluşturulmasını ilerletmeyi amaçlıyor. Teknoloji, politika ve yönetişim alanlarından bireylerden oluşan uzman grubu, Kaliforniya'nın yapay zeka emniyet ve güvenlik yönetimine rehberlik etmek için teknik araştırmacılarla birlikte çalışacak.
Göz önünde bulundurulan teklifler arasında, güvenlik çerçevelerini doğrulamak ve güvenlik değerlendirmelerini bağımsız olarak değerlendirmek için sınır yapay zeka şirketlerine bağımsız üçüncü tarafların dahil edilmesinin zorunlu kılınması yer alıyor. Buna ek olarak emir, Devlet Operasyonlar Dairesi'ne, sırasıyla bağımsız doğrulama kuruluşları için çerçeveler ve yapay zeka denetçileri için bir eyalet sicili oluşturan Senato Yasa Tasarısı 813 ve Meclis Yasa Tasarısı 1405'in uygulama zaman çizelgelerini hızlandırması talimatını veriyor.
Açıklanan uzmanlar arasında eski Beyaz Saray Dijital Baş Sorumlusu Jason Goldman; Johns Hopkins Üniversitesi'nde yapay zeka uyumuna odaklanan bir profesör olan Gillian Hadfield; İleri Araştırma Enstitüsü'nde profesör olan Alondra Nelson; ve Stanford Üniversitesi'nde profesör olan Rob Reich. Bu kişiler, yapay zekanın hızla gelişen yeteneklerine uzmanlık uygulanmasına yardımcı olacak ve emniyet ve güvenlikle ilgili endişeleri giderecek.
Kaynak ayrıntıları: gov.ca.gov ↗
Neden önemli?
Bu hamle, yapay zeka güvenlik iddialarının ve acil kapatma yeteneklerinin bağımsız olarak doğrulanması için devlet düzeyinde somut bir mekanizma oluşturarak, federal gözetimin bulunmadığı veya sınırlı olduğu mevcut düzenleyici çerçevelerdeki önemli bir boşluğu ele alıyor. Yüksek riskli yapay zeka sistemleri için zorunlu üçüncü taraf denetimlerine ve teknik güvenlik kontrollerine doğru bir geçişin sinyalini veriyor.
California, bağımsız doğrulama ve acil durum kapatma yeteneklerine yönelik yapılandırılmış bir yaklaşım oluşturarak kendisini yapay zeka düzenlemesinde lider olarak konumlandırıyor. Bu önemli çünkü şu anda hiçbir federal yasa yapay zeka şirketlerinin tehlikeli olayları raporlamasını gerektirmiyor veya sınır modelleri için belirli güvenlik kontrollerini zorunlu kılmıyor.
Sınır modelleri için bir 'sonlandırma anahtarı' konseptinin tanıtılması, otonom veya hileli yapay zeka davranışıyla ilişkili riskleri azaltabilecek pratik bir teknik kontrolü temsil eder. Devlet, yapay zeka şirketlerine bağımsız üçüncü tarafları dahil ederek, güvenlik iddialarının şirketin başarısında hiçbir mali çıkarı olmayan kuruluşlar tarafından doğrulanmasını sağlamayı amaçlıyor.
Bu idari emir, SB 53 (Sınır Yapay Zekasında Şeffaflık Yasası) ve SB 813 dahil olmak üzere mevcut Kaliforniya yasalarını temel alarak sınır modeli güvenliğini, bağımsız gözetimi ve çocuk güvenliği standartlarını kapsayan kapsamlı bir düzenleyici çerçeve oluşturuyor. Diğer eyaletlere ve potansiyel olarak federal hükümete izlenecek bir model sağlar.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Bundan sonra ne izlenecek?
'Kilitleme anahtarı' uygulamasına, SB 813 ve AB 1405 uygulamasına ilişkin zaman çizelgesine ve Kaliforniya'nın genişleyen yapay zeka düzenleyici çerçevesine yönelik federal yanıtlara ilişkin spesifik teknik tavsiyeleri izleyin.
Sınır modelleri için önerilen 'sonlandırma anahtarının' spesifik teknik özellikleri ve fizibilitesi önemli bir odak alanı olacaktır. Bu mekanizmanın farklı yapay zeka mimarileri ve şirketler genelinde nasıl uygulanacağı henüz belirlenmedi.
SB 813 ve AB 1405'in uygulanmasına ilişkin zaman çizelgesi kritik öneme sahiptir. Bu zaman çizelgelerinin hızlandırılması, bağımsız doğrulama kuruluşlarının ve yapay zeka denetçi kayıtlarının daha erken konuşlandırılmasına yol açabilir ve bu da yapay zeka şirketlerinin Kaliforniya'da nasıl faaliyet gösterdiği üzerinde anında pratik etkilere sahip olabilir.
AI endüstrisinin ve federal hükümetin Kaliforniya'nın genişleyen düzenleyici çerçevesine vereceği tepki önemli olacaktır. Vali, Kongre'ye ve Başkan'a Kaliforniya'nın çerçevesini ulusal standartlar için bir zemin olarak benimsemeleri veya kullanmaları yönünde çağrıda bulundu; bu durum, daha fazla politika gelişmelerine veya çatışmalara yol açabilir.