Ne oldu?
Kanadalı-Haitili bir yazar olan Thélyson Orélien, Balance ton Claude adlı anonim bir grup tarafından, kısa süre önce Prix du Roman Fnac ödülünü kazanan ilk romanı C'était ça ou mourir'i yazmak için yapay zekayı kullanmakla suçlandı. Yazar ve yayıncısı, makalenin 2019 tarihli kökenini ve yapay zeka tespit araçlarının güvenilmezliğini öne sürerek iddiaları reddediyor.
38 yaşındaki Kanadalı-Haitili yazar Thélyson Orélien, ilk romanı C'était ça ou mourir'i (Ya öyleydi ya da öl) yazmak için yapay zeka kullanmakla suçlandıktan sonra Fransız edebiyat sahnesinde bir tartışmanın merkezi haline geldi. Roman yakın zamanda edebiyat sezonunun ilk büyük ödülü olan Prix du Roman Fnac ödülünü kazandı ve Orélien şu anda hem Goncourt hem de Renaudot ödüllerinin finalisti.
Suçlamalar Salı günü, kitabın 'neredeyse tamamen' yapay zeka tarafından yazıldığını iddia eden Balance ton Claude adlı az bilinen bir grup tarafından yapıldı. Grup, son derece doğru olarak nitelendirdikleri Pangram adlı bir tespit programını kullanarak el yazmasından birkaç pasajı test ettiklerini ve yüzde 100 yapay zeka tarafından oluşturulan bir sonuç aldıklarını belirtti. Grubun üyeliği ve spesifik metodoloji ayrıntıları belirsizliğini koruyor.
Orélien, Libération ile yaptığı röportajda yaratılışı ve edebiyatı her zaman sevdiğini ve makine kullanmak için hiçbir neden görmediğini belirterek suçlamaları hemen reddetti. Kitabın ilk taslağının 2019 yılında, metin üreten yapay zeka programlarının genel kullanıma sunulmasından çok önce yazıldığını belirtti. Kitabın gerçekliğini kanıtlamak için editörüyle birlikte bir dosya hazırladığı bildiriliyor.
Grasset yayınevi de yazarı savundu ve iddiaların olağanüstü bir hayat hikayesine sahip bir yazar için 'korkunç derecede yaralayıcı' olduğunu söyledi. Eserin özgün ve güçlü olduğunu vurguladılar. Haiti'deki çete şiddetinden kaçan bir öğretmenin öyküsünü anlatan roman, yayıncının son 60 yılda en çok satan kitabı olarak tanımlanıyor ve yaklaşık 20 dile çevrilmesi planlanıyor.
Tartışma, Trinidad'lı yazar Jamir Nazir'in de dahil olduğu benzer bir olayı hatırlatıyor; bu ödül, İngiliz Milletler Topluluğu Kısa Öykü ödülü başlangıçta yapay zeka iddiaları nedeniyle geri çekildi, ancak daha sonra organizatörler yazının gerçek olduğuna ikna olduktan sonra yeniden ödüllendirildi. Pangram gibi yapay zeka tespit araçlarını eleştirenler, bunların güvenilmez olduğunu, genellikle aynı metin için farklı sonuçlar ürettiğini ve lehçelerle veya düzenlenmiş içerikle sorun yaşadığını savunuyor.
Neden önemli?
Bu olay, edebiyat dünyasında yapay zeka tarafından oluşturulan içerik ile insan yazarlığı arasında artan gerilimi vurguluyor. Çoğunlukla yanlış pozitif sonuçlar veren mevcut yapay zeka tespit araçlarının sınırlamalarını açığa çıkarıyor ve yapay zeka yardımının giderek yaygınlaştığı bir çağda yaratıcı özgünlüğün nasıl tanımlanacağı ve doğrulanacağı konusunda temel soruları gündeme getiriyor. Tartışma, yaratıcı çalışmalarda yapay zeka kullanımına ilişkin gelecekteki yayın standartlarını ve yasal çerçeveleri etkileyebilir.
Bu vaka, üretken yapay zeka çağında yazarlığı doğrulamanın zorluğunu vurguluyor. Yapay zeka dedektörleri dilsel kalıpları ve olasılıkları analiz ederken metnin kaynağını kesin olarak tespit edemiyor. Araştırmalar, bu araçların, özellikle metin lehçeler içerdiğinde veya düzenlendiğinde, insan yazısını yanlışlıkla yapay zeka tarafından oluşturulmuş olarak işaretleyebildiğini ve bunun da potansiyel yanlış suçlamalara yol açtığını gösteriyor.
Olay, insan ve yapay zeka yaratıcılığının kabul edilebilir karışımı hakkında daha geniş bir tartışmayı besliyor. Yapay zeka daha normalleştikçe edebiyat dünyasının, yazarların taslak hazırlamak, düzenlemek veya ilham vermek için yapay zekayı kullanabilecekleri durumların nasıl ele alınacağını belirlemesi gerekiyor. Bu, yayıncılıkta açıklama ve doğrulama konusunda yeni standartların ortaya çıkmasına yol açabilir.
Tartışma aynı zamanda, doğrulanmamış yapay zeka tespit sonuçlarının kamuya açıklanması durumunda yazarların ve yayıncıların itibarlarının zarar görme potansiyelini de vurguluyor. Suçlayan grubun anonimliği ve şeffaf metodolojinin olmayışı, bu tür suçlamaların güvenilirliği ve edebiyat ödülleri değerlendirmelerinde daha katı standartlara duyulan ihtiyaç hakkında soru işaretleri doğuruyor.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Bundan sonra ne izlenecek?
Yazarın hukuki veya editoryal savunmasının sonucunu, Goncourt ve Renaudot ödül komitelerinden gelen yanıtı ve yapay zeka tespit teknolojisindeki veya yapay zekanın ifşa edilmesine ilişkin edebiyat endüstrisi yönergelerindeki sonraki gelişmeleri izleyin.
Goncourt ve Renaudot ödül komitelerinin vereceği yanıt çok önemli olacak çünkü onların kararları, büyük edebiyat ödüllerinde yapay zeka iddialarının nasıl ele alınacağına dair bir emsal oluşturabilir. Orélien'in finalist statüsünün geri çekilmesi veya korunmasının sektör üzerinde önemli etkileri olacaktır.
Orélien'in savunmasının sonucu, herhangi bir yasal işlem veya taslak taslaklarının kamuya açıklanması da dahil olmak üzere, yazarların çalışmalarının orijinalliğini nasıl kanıtlayabilecekleri konusunda fikir verecektir. Bu, insan yazarlığının doğrulanması için yeni araçların veya süreçlerin geliştirilmesine yol açabilir.
Edebiyat endüstrisi, gönderimlerde yapay zekanın ifşa edilmesine ilişkin daha katı kurallar uygulayarak yanıt verebilir. Yayıncılar ve ödül komiteleri yazarlardan yapay zeka araçlarının herhangi bir şekilde kullanıldığını beyan etmelerini isteyebilir, bu da potansiyel olarak çağdaş edebiyatın manzarasını değiştirebilir.