Ne oldu?
Breitbart, Jane Doe olarak tanımlanan bir kadının, Grok'nin kendisini tasvir eden çocuk cinsel istismarı materyalleri konusunda eğitildiğini iddia ederek Elon Musk'un xAI'sine dava açtığını bildirdi; raporda bunun artık SpaceX'in bir parçası olduğu belirtiliyor. Raporda, davanın, Doe okul öncesi çağındayken oluşturulan ve daha sonra görüntü karmaları kullanılarak izlenen istismar görüntüleri ile ilgili olduğu belirtiliyor.
Breitbart, Jane Doe'nun Elon Musk'un xAI'sine karşı, şirketin Grok chatbot'unu kendisini tasvir eden çocuk cinsel istismarı materyalleri üzerine eğittiğini iddia ederek toplu dava önerdiğini bildirdi. Rapora göre, altta yatan istismar, Doe'nun 2000'li yılların başında okul öncesi çağındaki bir çocukken, yetişkin erkeklerin daha sonra internette dolaşan görüntüler üretmesi sırasında meydana geldi. Raporda, görüntülerin Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi ve Kanada Çocuk Koruma Merkezi tarafından karıştırılarak, hizmetlerin yeniden ortaya çıktıklarında kopyaları tanımlamasına izin verildiği belirtiliyor.
Breitbart'ın şikayete ilişkin açıklamasına göre Kanada Çocuk Koruma Merkezi, Doe'ye kendisini tasvir eden yapay zeka tarafından oluşturulan CSAM'nin xAI'de göründüğünü söyledi. Breitbart tarafından aktarılan ve özetlenen şikayet, Doe'yu tasvir eden görsellerle ilişkili bilinen karma değerlerinin xAI tarafından kullanılan bir veri kümesinin parçası olduğunu iddia ediyor. Raporda ayrıca şikayetin, iddia edilen davranışı, bilinen hayatta kalanları tasvir eden yapay zeka tarafından oluşturulan CSAM oluşturmaya ilişkin çevrimiçi tartışmalara bağladığı belirtiliyor. Bunlar dava aşamasındaki iddialardır, mahkeme tarafından tespit edilen bulgular değildir.
Breitbart, şikayetin xAI'nin Grok tarafından oluşturulan görüntüleri sakladığını ve bunları modeli eğitmek veya daha fazla eğitmek için yeniden kullandığını iddia ettiğini bildirdi. Makale ayrıca Grok'nin hizmet şartlarının, X ve Grok'nin kendi çıktılarındaki herkese açık gönderileri varsayılan olarak eğitim verileri olarak değerlendirdiğini söylüyor. Şikayet, bunun kamuya açık olarak yayınlanan veya sistem tarafından üretilen kötü amaçlı materyallerin eğitim hattına girmesine ve daha sonraki çıktıları etkilemesine izin verebileceğini savunuyor. Kaynak, herhangi bir görüntünün Grok'yi tam olarak nasıl etkilediğini gösteren, bağımsız olarak doğrulanmış teknik kanıt sunmuyor.
Rapor, xAI'nin şiddet içeren materyalleri eğitim verilerinden filtrelediğini ancak şartlarının CSAM'yi, rıza dışı mahrem görüntüleri veya diğer cinsel materyalleri özellikle hariç tutmadığını söylüyor. Doe'nun davası, xAI'yi federal çocuk pornografisi yasalarını ve Masha Yasasını ihlal etmekle suçluyor. Breitbart, davanın, Grok'nin gerçek fotoğraflarına dayanarak CSAM oluşturduğunu gösterebilen mağdurların yanı sıra xAI'nin depolanan veya eğitimle ilgili oluşturulan CSAM'yi yok etmesini ve gelecek nesilleri önlemesini gerektiren emirleri gösterebilen mağdurlar için tazminat istediğini bildirdi. Kaynak, herhangi bir mahkemenin bu talepleri kabul ettiğini söylemiyor.
Kaynak ayrıntıları: breitbart.com ↗
Neden önemli?
İddialar doğrulanırsa, bu davada yapay zeka şirketlerinin eğitim verilerindeki, oluşturulan çıktılardaki ve kullanıcı tarafından yüklenen içerikteki bilinen kötüye kullanım materyallerini nasıl ele aldığı test edilebilir. Ayrıca, bir modelin kimliği tespit edilen bir mağdurla bağlantılı materyali yeniden ürettiğinde veya dönüştürdüğünde hangi yasal görevlerin uygulanacağını da açıklığa kavuşturabilir.
İddialar, üretken yapay zeka güvenliğindeki merkezi bir sorunla ilgilidir: Bir model, bir şirket, altta yatan dosyaları keşfetmeden veya kaldırmadan önce zararlı materyallerden etkilenebilir. Breitbart, şikayette, kamuya açık bir kaynaktan bir görselin silinmesinin, halihazırda eğitilmiş bir model üzerindeki etkisini ortadan kaldırmayabileceğini öne sürdüğünü bildirdi. Bu teknik husus başvuruda iddia olarak sunuluyor; kaynak, Grok'nin açıklanan mekanizma aracılığıyla belirli bir görüntüyü muhafaza ettiğini, ezberlediğini veya çoğaltıp çoğaltmadığını belirlemez.
Bilinen CSAM genellikle karmalarla izlenir, böylece platformlar, materyali inceleme için tekrar tekrar dağıtmadan kopyaları tespit edebilir. Raporda, şikayetin xAI'nin veri setinde uzun süredir bilinen hash değerlerine sahip görsellerin kullanıldığı iddia edildiği belirtiliyor. Doğrulanması durumunda bu durum, veri toplama sırasında mevcut tespit sistemlerinin uygulanıp uygulanmadığı, veri hattında istisnalar veya boşluklar olup olmadığı ve oluşturulan çıktıların ayrı ayrı taranıp kaldırılıp kaldırılmadığı konusunda soruları gündeme getirecektir.
Bu durumun xAI ötesinde sonuçları olabilir çünkü birçok üretken sistem büyük ölçekli web verilerini, kullanıcı içeriğini ve model tarafından oluşturulan materyali birleştirir. Breitbart, AI veritabanında 3.200'den fazla şüpheli çocuk istismarı resmi tespit eden LAION görüntü indeksini içeren daha önceki bir çalışmaya atıfta bulunuyor. Bu önceki örnek, Breitbart tarafından bildirilen arka plandır; Grok'nin aynı materyali kullandığının veya tüm şüpheli görüntülerin CSAM olarak onaylandığının kanıtı değildir.
Yasal iddialar aynı zamanda veri kullanım şartlarını da incelemeye alıyor. Kamuya açık gönderiler ve model çıktıları varsayılan olarak eğitim için kullanılıyorsa kullanıcılar ve hayatta kalanlar, zararlı materyalin nasıl kopyalanacağı, saklanacağı veya yeniden kullanılacağı konusunda sınırlı pratik kontrole sahip olabilir. Kaynak, xAI'nin bu durumda şartlarını nasıl yorumladığını, değiştirip değiştirmediğini, CSAM için hangi önlemlerin geçerli olduğunu veya iddia edilen görüntülerin kasıtlı olarak, kazara mı yoksa bir üçüncü taraf veri kümesi aracılığıyla mı alındığını belirlemez.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Temel sorular, şikayetin teknik iddialarının desteklenip desteklenemeyeceği, xAI'nin iddialara yanıt verip vermediği veya iddialara itiraz edip etmediği ve mahkemenin Grok'de koruma, silme, filtreleme veya başka değişiklikler emri verip vermediğidir. Bu vaka aynı zamanda herkese açık gönderiler ve model çıktıları için varsayılan veri kullanım şartlarına da dikkat çekebilir.
xAI'den gelen bir yanıt, şirketin görüntülerin Grok'nin eğitim verilerine girdiğini inkar edip etmediği, Grok çıktıları ile Doe'nun gerçek görüntüleri arasındaki iddia edilen ilişkiye itiraz edip etmediği veya herhangi bir araştırma ve düzeltmeyi açıklayıp açıklayamayacağı da dahil olmak üzere önemli olacaktır. Breitbart'ın raporu xAI'den gelen bir yanıtı içermiyor ve şikayetin hesabını doğrulayan hiçbir bağımsız teknik denetimden bahsedilmiyor.
Mahkeme başvuruları ve kararları, oluşturulan materyali hayatta kalan belirli bir kişinin görüntüleri ile ilişkilendirmek ve xAI'nin bilgi veya davranışını tespit etmek için davacının hangi kanıtları sunması gerektiğini açıklığa kavuşturmalıdır. Kaynak, davanın toplu dava olarak önerildiğini söylüyor ancak davanın toplu dava olarak onaylanıp onaylanmayacağı, iddiaların erken başvurulara dayanıp dayanmayacağı veya mahkemenin sorumlulukla ilgili bulgulara ulaşıp ulaşmadığı belirlenmiyor.
İzlenecek pratik önlemler arasında veri kümesi alımı sırasında karma eşleştirme, gerçek çocukları veya bilinen hayatta kalanları içeren istemleri ve çıktıları engelleme, oluşturulan görüntüler için saklama ve silme politikaları ve model çıktılarının eğitim verileri olarak kullanılmasına ilişkin kontroller yer alır. Rapor, xAI'nin şu anda bu önlemlerden hangisinin geçerli olduğunu veya başvurudan bu yana herhangi birinin değiştirilip değiştirilmediğini söylemiyor.
Talep edilen çözümler Grok'nin daha geniş cinsel içerik politikalarını da etkileyebilir. Breitbart, şikayetin, rıza dışı mahrem görüntüleri ve makalenin Grok'nin tanıtılan NSFW yetenekleriyle ilişkilendirdiği materyaller de dahil olmak üzere diğer cinselleştirilmiş çıktıları kapsayabilecek kısıtlamalar istediğini bildirdi. Bir mahkemenin bu kadar geniş kısıtlamalar getirip getirmeyeceği, xAI'nin bunları gönüllü olarak kabul edip etmeyeceği veya oluşturulan içerik ve eğitim sistemlerinde herhangi bir kararın nasıl uygulanacağı bilinmiyor.