Ne oldu?
CNN en Español, Anthropic CEO'su Dario Amodei'nin yapay zeka şirketlerini sınır modeli geliştirme hızını yavaşlatmaya çağırdığını bildirdi. Çalışanlara benzer erişime sahip, güvenlik uygulamalarını inceleme, olayları raporlama ve modelleri ve eğitim iş akışlarını izleme yetkisine sahip bağımsız değerlendiriciler önerdi. Raporda, OpenAI CEO'su Sam Altman'ın değerlendiricinin teklifini onayladığı ve xAI CEO'su Elon Musk'un da aynı fikirde olduğunu ifade ettiği belirtiliyor. CNN en Español ayrıca Amodei'nin bu konuyu Cumartesi günü yaptığı bir röportajda ve web sitesinde yayınlanan kısa bir makalede dile getirdiğini bildirdi.
CNN en Español, Amodei'nin yapay zeka endüstrisinin teknolojiyi geliştirmeye devam ederken model yeteneklerinin iyileşme hızını yavaşlatması gerektiğini savunduğunu bildirdi. Şirketlerin tehlikeli kalkınma yollarından kaçınmak için birlikte çalışması gerektiğini ve yapay zekanın siber saldırılar, biyoterörizm ve ciddi ekonomik bozulma için kötüye kullanılabileceğini söyledi. Bunlar, CNN en Español tarafından bildirilen Amodei'nin uyarılarıdır, sağlanan materyalde bağımsız olarak doğrulanan bulgular değildir.
Raporda açıklanan somut önlem, yapay zeka şirketlerinin ekiplerine dahil edilecek dış değerlendiricileri işe alma taahhüdüdür. CNN en Español'a göre, değerlendiriciler güvenlik uygulamalarını gözden geçirecek, olayları raporlayacak ve modelleri, eğitim süreçlerini ve iş akışlarını denetleyecek. Amodei, Anthropic'nin yaklaşımı tek taraflı olarak benimsediğini söyledi ancak raporda değerlendiricilerin kimlikleri, yetkileri, erişim sınırları veya yayın gereklilikleri belirtilmedi.
CNN en Español, Sam Altman'ın OpenAI'nin benzer bir yaklaşımı benimseyeceğini söylediğini ve Elon Musk'un Amodei ile kamuoyu önünde aynı fikirde olduğunu bildirdi. Rapor aynı zamanda öneriyi daha geniş bir politika bağlamına oturtuyor ve hükümetlerin sınır yapay zekası için henüz kapsamlı ve koordineli kurallar oluşturmadığını söylüyor. Hiçbir ürün lansmanı, kullanıcı erişim değişikliği veya fiyatlandırma bilgisi verilmemektedir.
Kaynak ayrıntıları: cnnespanol.cnn.com ↗
Neden önemli?
Teklif, yapay zeka güvenlik gözetimini gönüllü dahili incelemenin ötesine, geliştirme süreçlerine anlamlı erişime sahip harici personeli içeren bir modele doğru taşıyacak. Kabul edilmesi durumunda bu, olay raporlamayı ve yüksek kapasiteli sistemlerin incelenmesini geliştirebilir ancak rapor, şirketlerin ortak bir çerçeve üzerinde anlaştığını veya değerlendiricilerin yasal olarak uygulanabilir yetkiye sahip olacağını ortaya koymuyor.
Bağımsız gözetim, yalnızca şirketlerin kamuya açık beyanlarına güvenmek yerine nitelikli incelemecilerin geliştirme uygulamalarına ve olay kayıtlarına erişmesine izin vererek güvenlik iddialarını daha test edilebilir hale getirebilir. Modeller daha yetenekli hale geldikçe ve hassas sistemlere entegre edildikçe bu durum önemli olabilir.
Teklif, sağlanan hesapta isteğe bağlı olarak kalır. Rapor, Anthropic'nin uygulamasını bağımsız olarak doğrulamaz, OpenAI'nin değerlendiriciler atadığını doğrulamaz veya her iki şirketin de değerlendirici bağımsızlığı, gizlilik, üst kademeye iletme veya kamuya raporlamaya ilişkin standartlar yayınladığını göstermez. Bu ayrıntılar, fikrin anlamlı bir gözetime mi dönüşeceğini yoksa bir taahhüt olarak mı kalacağını belirleyecek.
Politika yapıcılar için bunun pratik anlamı, hükümetler resmi kuralları tartışırken, sektör liderliğindeki değerlendiricilerin geçici bir inceleme katmanı sağlayabilecekleridir. Sağlanan rapora göre, bunlar kamu yaptırımlarının yerine geçmeyecek veya şirketler arasında ortak yükümlülükler oluşturmayacak.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Temel test, Anthropic, OpenAI ve diğer şirketlerin, değerlendiricilerin bağımsızlığını, erişim haklarını, raporlama görevlerini ve müdahaleye karşı korumaları tanımlayıp tanımlamadığıdır. Hükümetlerin ortak güvenlik standartlarını koordine etme becerisi de henüz çözümlenmemiştir. CNN en Español, kesinleşmiş bir zaman çizelgesi, uygulama planı, maliyet veya önerilen önlemlerin halihazırda sektörde uygulandığına dair kanıt sunmuyor.
Adlandırılmış değerlendiricileri, yazılı erişim garantilerini ve incelemecilerin eğitim iş akışlarını, modellerini ve olayları şirket vetolarına gerek kalmadan inceleyebileceklerine dair kanıtları izleyin. Raporda herhangi bir zaman çizelgesi veya operasyonel ayrıntı yer almıyor.
Şirketlerin karşılaştırılabilir standartları benimseyip benimsemediğini ve değerlendiricilerin ciddi bulguları düzenleyici kurumlara veya kamuya açıklayıp açıklayamayacaklarını takip edin. CNN en Español tamamlanmış bir endüstri anlaşması değil, onayları rapor ediyor.
Ortak güvenlik standartlarına ilişkin hükümetin eylemlerini izleyin. Raporda, koordinasyonun henüz çözülmediği belirtiliyor ve yasalaşmış bir mevzuatın ya da kapsamlı denetime sahip atanmış bir otoritenin belirtilmediği belirtiliyor.
Kontrol kaybı ve hızlı yetenek artışına ilişkin bildirilen tahminler, bağımsız olarak belirlenmiş sonuçlar olarak değil, Amodei ve diğer araştırmacıların uyarıları olarak ele alınmalıdır.