Ne oldu?
KOAT, New Mexico Yüksek Mahkemesinin Santa Fe'li avukat Stephen Aarons'u saygısız bulduğunu, ona 5.000 dolar para cezası verdiğini, onu bir disiplin kuruluna havale ettiğini ve geçici olarak mahkeme huzuruna çıkmasını yasakladığını bildirdi. Aarons, temyiz başvurusunu hazırlarken ChatGPT'yi kullandığını itiraf etti ancak bunun inandırıcı tanıklar, ifadeler, alıntılar ve yasal otoriteler üretebileceğini anlamadığını söyledi.
KOAT, Oscar Renee Sandoval'ın temyiz başvurusunda sunduğu bir brifingin ChatGPT tarafından üretilmiş materyal içerdiğinin tespit edilmesinin ardından New Mexico Yüksek Mahkemesinin Aarons'u aşağıladığını tespit ettiğini bildirdi. Rapora göre Sandoval, partnerini ve çocuklarının annesini öldürme suçunu kabul etmemişti.
Mahkeme, Aarons'a 5.000 dolar para cezası verdi, onu bir disiplin kuruluna sevk etti ve soruşturmalar ve yargılamalar devam ederken Yüksek Mahkeme huzuruna çıkmasını yasakladı. KOAT, mahkemenin avukatın davranışını müvekkiline yönelik pişmanlık ve endişe eksikliği olarak gördüğünü söyledi.
Aarons, özeti hazırlamak için ChatGPT'yi kullandığını ve bunu imzalayıp dosyalamadan önce gerçek iddiaları doğrulamadığını kabul etti. KOAT, ChatGPT'nin tutarlı görünen ancak uydurma tanıklar, ifadeler, alıntılar ve otoriteler üretebilmesini takdir etmediğini söylediğini bildirdi.
KOAT'a göre, dosyada Memur Michelle Amarillo, Memur Sanchez, Manal Al-Jibury ve Teresa Marquez olarak tanımlanan tamamen uydurma tanıkların yanı sıra gerçek tanıklara atfedilen sahte ifadeler de yer alıyordu. KOAT, OpenAI'nin yayınlandığı sırada yorum taleplerine yanıt vermediğini söyledi.
Hesap, KOAT'ın raporuna ve onun mahkeme dosyalarına ilişkin açıklamasına dayanıyor. Bu başvurular sağlanan kaynakta çoğaltılmadığından ayrıntılar burada bağımsız olarak doğrulanmadı.
Kaynak ayrıntıları: koat.com ↗
Neden önemli?
Bu dava, bir avukatın suç duyurusunda doğrulanmamış üretken yapay zeka çıktısı sunmasının somut bir hukuki sonucunu gösteriyor. Bu aynı zamanda, materyal bir yapay zeka aracıyla üretilmiş olsa bile, mahkeme dosyalarının sorumluluğunun bunları imzalayan avukatta kaldığını da gösteriyor. Olay özellikle önemlidir çünkü KOAT, uydurma materyalin hem tamamen kurgusal tanıkları hem de gerçek tanıklara atfedilen sahte ifadeleri içerdiğini bildirmektedir.
Karar, yapay zeka tarafından üretilen yasal uydurma riskini somut hale getiriyor: Görünüşte tutarlı bir brifing, icat edilmiş kişileri ve ifadeleri bir kişinin özgürlüğünü içeren bir davaya dahil edebilir. Bildirilen yaptırım aynı zamanda avukatların başvuruları göndermeden önce incelemeleri ve doğrulamaları gerektiğini de güçlendiriyor.
Bu, ChatGPT'nin tek başına hukuki sonuca yol açtığının veya aracın her kullanımının uydurma malzeme ürettiğinin kanıtı değildir. Bu, yüksek riskli bir ortamda yapay zeka tarafından oluşturulan iddiaların doğrulanması konusunda bildirilen spesifik bir başarısızlıktır. Kaynak, hangi ChatGPT sürümünün veya hesap katmanının kullanıldığını söylemiyor ve modelin davranışına ilişkin bağımsız bir test sunmuyor.
Mahkemeler ve hukukçular için bunun pratik anlamı, yapay zeka destekli taslak hazırlamanın her gerçek iddianın, alıntının ve otoritenin kaynak düzeyinde kontrol edilmesini gerektirdiğidir. KOAT bunun sonucunda eyalet çapında herhangi bir yeni kural bildirmemesine rağmen, vaka aynı zamanda profesyonel rehberlik ve disiplin beklentilerine de bilgi verebilir.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Disiplin kurulunun soruşturması ve ilgili işlemler, Aarons'un ek mesleki yaptırımlarla karşılaşıp karşılaşmayacağını belirleyecek. KOAT'a göre, New Mexico Yüksek Mahkemesi'nin geçici barosu da bu işlemlere kadar yürürlükte kalacak. Kaynak, mahkeme dosyalarının kesin içeriğini, davalının itirazına verilen zararın boyutunu veya OpenAI'nin yanıt verip vermeyeceğini bağımsız olarak belirlemiyor.
Disiplin kurulunun incelemesi ve diğer mahkeme işlemleri, 5.000 dolar para cezası ve geçici olarak katılma yasağının ötesindeki mesleki sonuçları açıklığa kavuşturabilir.
Sunulan raporda, sanığın itirazının çözüme ulaşıp ulaşmayacağı, uydurma materyalin mahkeme kararını etkileyip etkilemediği ve davadaki diğer katılımcıların sonuçlarla karşılaşıp karşılaşmayacağı bilinmiyor.
KOAT, OpenAI'nin yorum taleplerine yanıt vermediğini bildirdi. Kaynak ayrıca OpenAI'de olayla ilgili herhangi bir özel önlem, uyarı veya ürün değişikliği belirtmedi.