Ne oldu?
The Guardian, Anthropic CEO'su Dario Amodei'nin bağımsız değerlendiriciler, uluslararası güvenlik anlaşmaları ve güvenlik konularında Çin ile koordinasyon yoluyla yapay zeka gelişiminin yavaşlatılmasını önerdiğini bildirdi. OpenAI CEO'su Sam Altman, Google DeepMind şefi Demis Hassabis ve xAI'nin sahibi Elon Musk açıkça desteklerini ifade etti. Raporda ayrıca Donald Trump'ın Çin ile rekabeti öne sürerek kalkınmanın yavaşlamasını reddettiği belirtiliyor.
Guardian, Anthropic araştırmacılarının potansiyel olarak yıkıcı yapay zeka riskleri hakkındaki uyarılarının ardından Amodei'nin "Sınırlara Hız Vermeliyiz" başlıklı bir öneri yayınladığını bildirdi. Üç temel fikri, riski izlemek için çalışan düzeyinde erişime sahip dış değerlendiriciler, demokratik hükümetler arasında güvenlik standartları konusunda anlaşmalar ve güvenlik konularında Çin dahil otoriter hükümetlerle küresel koordinasyondur.
Rapora göre Altman, OpenAI'nin Amodei'nin bağımsız değerlendiricilere olan bağlılığını karşılayacağını söylerken Hassabis ve Musk da desteklerini ifade etti. Rapor, Amodei'nin teklifinin tam ana metnini veya bu beyanların resmi, uygulanabilir taahhütler ürettiğini gösteren bağımsız kanıtları sunmuyor.
Makale, endüstri tarafından seçilen değerlendiricilerin ve olası antitröst muafiyetlerinin düzenleyici yakalama anlamına gelip gelmeyeceğini sorgulayan AI düzenleme eleştirmenlerinin ve eski yetkililerin ciddi muhalefetini bildiriyor. Ayrıca Trump'ın yapay zeka gelişimini yavaşlatma çağrılarını reddettiği ve Temsilciler Meclisi Sözcüsü Mike Johnson'ın yapay zeka güvenliği konusunda Kongre yerine şirketlerin öncülük etmesi gerektiğini söylediği de bildirildi.
Kaynak ayrıntıları: theguardian.com ↗
Neden önemli?
Bölüm, yapay zeka şirketlerinin ciddi riskler hakkındaki kamuya açık uyarıları ile daha yetenekli sistemleri piyasaya sürmeye yönelik ticari ve jeopolitik teşvikleri arasında giderek genişleyen çatışmayı vurguluyor. Değerlendiricilerin gerçek erişim ve yetkiye sahip olması durumunda gönüllü taahhütler gözetimi iyileştirebilir ancak sunulan rapor herhangi bir şirketin bağlayıcı önlemler benimsediğini bağımsız olarak doğrulamaz. Tartışma aynı zamanda endüstri koordinasyonunun güvenliği artırıp artırmayacağı veya mevcut pazar liderlerini sağlamlaştırıp güçlendirmeyeceği konusunda soruları da gündeme getiriyor.
Bu gelişme sonuç niteliğindedir çünkü birçok büyük yapay zeka şirketinin liderleri, daha hızlı yetenek geliştirmenin daha güçlü güvenlik kontrolleri gerektirebileceğini kamuoyu önünde kabul etmektedir. Bu konum gelecekteki düzenlemeleri, kurumsal yönetimi ve uluslararası müzakereleri etkileyebilir ancak kamu desteği tek başına gelişimin yavaşladığını veya güvenlik uygulamalarının önemli ölçüde değiştiğini göstermez.
The Guardian'ın raporu aynı zamanda yapısal bir gerilimi de ortaya koyuyor: Şirketler, ürünlerini kısıtlayabilecek veya rakiplerini koruyabilecek kurallara karşı çıkarken gönüllü koordinasyon arayışına girebilirler. Pratik sonuç, bağımsız değerlendiricilerin ilgili sistemlere erişip erişemeyeceğine, güvenilir bulgular yayınlayıp yayınlayamayacağına ve şirket kontrolü dışında çalışıp çalışamayacağına bağlı olacaktır. Verilen raporda bu koşullar çözümlenmeden kalmıştır.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Which component of an AI application is the machine-learning model itself?
Bundan sonra ne izlenecek?
Önemli bilinmeyenler arasında şirketlerin taahhütlerini resmileştirip resmileştirmeyeceği, dış değerlendiricileri kimin seçip yetkilendireceği ve değerlendiricilerin uygulamada çalışan düzeyinde erişime sahip olup olmayacağı yer alıyor. Önerilen herhangi bir federal rol, antitröst kaygılarının ele alınması ve Trump yönetiminin kalkınmanın yavaşlamasına karşı tavrını değiştirip değiştirmediğini izleyin. Hiçbir ürün erişimi, stok durumu veya fiyatlandırma değişikliği belgelenmemiştir.
Acil test uygulamadır. Raporda, son tarihler, yaptırım mekanizmaları, değerlendiricilerin kimlikleri veya uymayan şirketlere ilişkin sonuçlar belirlenmiyor. Daha fazla raporlama, kamuya yapılan açıklamaları imzalanan anlaşmalardan, operasyonel duraklamalardan veya bağımsız olarak değerlendirilen güvenlik değişikliklerinden ayırmalıdır.
Teklifin uluslararası ve antitröst unsurları siyasi dirençle karşı karşıya kalabilir. Raporda adı geçen eleştirmenler, işbirliğinin rekabeti sınırlamak için kullanılabileceğini savunurken, ABD yönetimi yapay zeka liderliğini Çin'le bir rekabet olarak çerçevelemeye devam ediyor. Politika yapıcıların uygulanabilir bir gözetim oluşturup oluşturmayacağı veya sorumluluğu öncelikle şirketlere bırakıp bırakmayacağı bilinmiyor.