SıradakiSonraki rehber
Yapay Zekadan Sahte Alıntıları Tespit Etme
Dil Yapay Zeka
Toplum REHBERİ
Avukatlara Yapay Zekayla Uydurulmuş Dava Alıntıları Nedeniyle Yaptırım Uygulandı
Avukatlar, en ünlüsü Mata v.
Bu sayfada4 dakikalık okuma
Genel Bakış
2023'te Avianca'da federal bir yargıç iki avukata ve şirketlerine 5.000 dolar ceza verdi. Bu davalar önemlidir çünkü aracın kullanımı değil, doğrulamanın atlanması söz konusudur ve mahkemeler kontrolsüz alıntıları avukatın mahkemeye karşı görevinin ihlali olarak değerlendirmektedir.
Derin Dalış
Mata v. Avianca, Inc., New York'un Güney Bölgesi'nde sıradan bir kişisel yaralanma davasıydı: Bir yolcu, 2019 uçuşunda metal bir servis arabasının dizine çarptığını söyledi. Avianca reddetmek için harekete geçtiğinde, davacının muhalefeti, Varghese - China Southern Airlines tarzı bir karar da dahil olmak üzere, var olmayan kararları öne sürdü. Ne karşı tarafın avukatı ne de mahkeme onları bulamadı. Araştırmayı yapan avukat Steven Schwartz, ChatGPT'yi kullanmış, bunun bir arama motoru gibi çalıştığına inanmış ve davaların gerçek olduğunu doğrulamasını istemişti ve öyle de yapmıştı. Başvuruları meslektaşı Peter LoDuca imzaladı. Mahkeme kararları vermelerini emrettiğinde, yapay zeka tarafından oluşturulan metni görüş olarak sundular. 22 Haziran 2023'te Yargıç P. Kevin Castel, Kural 11 uyarınca iki avukata ve şirketlerine 5.000 dolar ceza verdi ve müvekkillerine ve yanlışlıkla yazar olarak adlandırılan her gerçek yargıca yazmalarını emretti. Mahkeme yapay zeka kullanmanın sorun olmadığını açıkça belirtti. Avukatlar, sorgulandıktan sonra sorumluluklarını bırakıp sahte davaların arkasında durmaya devam ederek başarısız oldular. Daha sonraki vakalar modelin devam ettiğini gösteriyor. Park v. Kim (2024) davasındaki İkinci Daire, olası disiplin için bir avukatı yönlendirdi. Amerika Birleşik Devletleri - Cohen davasında, yargıç yaptırımları reddetmesine rağmen Bard tarafından oluşturulan alıntılar dosyaya ulaştı. Wadsworth v. Walmart (2025) davasında avukatlar, şirketlerinin şirket içi yapay zeka aracından yapılan alıntılar nedeniyle yaptırıma tabi tutuldu; bu da şirket içi veya hukuka özgü araçların bağışık olmadığını gösterdi. 2023'te Teksas'ın Kuzey Bölgesinden Yargıç Brantley Starr da dahil olmak üzere bazı yargıçlar artık yapay zeka kullanımıyla ilgili sertifikalar talep ediyor. Temel yanılgı, yapay zekanın kendisini tekrar kontrol etmesini istemenin doğrulama olarak sayılmasıdır. Değil. Bir vakanın var olup olmadığının sorulduğu bir model sıklıkla kendinden emin bir evet yanıtı verecektir. Doğrulama, yetkili bir kaynaktan gerçek görüşün alınması ve okunması anlamına gelir.
Stratejik Etki
Risk ve güvenlik
Yıkıcı ve günlük yapay zeka zararları, kimin riskleri anladığı ve kimin harekete geçebileceğine bağlıdır.
Daha net kararlar
Kamu ve profesyonel okuryazarlık, güçlü bir güvenlik politikasının politik olarak mümkün olup olmadığını şekillendirir.
Heyecanı aşmak
Açık açıklamalar abartılı reklamların, laboratuvar halkla ilişkiler uygulamalarının ve belirsiz etik tiyatrosunun etkisi altına girmeyi azaltır.
Avukatların Geleceği Yapay Zekayla Üretilmiş Dava Alıntıları Nedeniyle Yaptırım Altına Alındı
Mahkemeler, büyük firmalardaki deneyimli avukatların yanı sıra kendi kendini temsil eden davacılardan gelen yapay zeka uydurma alıntılarla karşılaşmaya devam ediyor, dolayısıyla sorun kendi kendine ortadan kalkmıyor. Yanıtlar farklılık gösteriyor: Bazı yargıçlar açıklama veya belgelendirme gerektiren daimi emirler çıkarıyor, diğerleri Kural 11'deki mevcut görevlere güveniyor ve baro düzenleyicileri tekrarlanan veya gizli başarısızlıkları giderek disiplin meselesi olarak ele alıyor. Araştırma ve taslak hazırlama platformlarındaki alıntı kontrol özellikleri, başvuruda bulunmadan önce daha fazla hata yakalayabilir, ancak bir vakanın var olduğunu teyit etmek, belirtilen öneriyi desteklediğini teyit etmekten daha kolaydır. Kalıcı düzeltme firma çapında bir alışkanlık olmaya devam ediyor: her otorite, alıntı yapılmadan önce okunur.
Gerçek Dünya Uygulaması
Mata - Avianca davasında bir avukat, bir havayolu yaralanma vakasını araştırmak için ChatGPT'yi kullandı ve ardından ChatGPT'ye vakaların gerçek olup olmadığını sordu; Öyle olduklarını söyledi ve uydurma otoriteler mahkemeye sunuldu.
Park v. Kim (2024) davasında, İkinci Daire, ChatGPT'den geldiğini kabul ettiği, var olmayan bir karara atıfta bulunulan yanıt özetinin ardından bir avukatı şikayet paneline yönlendirdi.
Amerika Birleşik Devletleri - Cohen davasında, Michael Cohen'in Google Bard'ı kullanarak bulduğu ve avukatına ilettiği alıntılar bir mahkeme dosyasıyla sonuçlandı; Yargıç Jesse Furman yaptırım uygulamayı reddetti ancak alıntıların kontrol edilmediğini tespit etti.
Wadsworth - Walmart (2025) davasında, Wyoming'deki bir federal mahkeme, firmalarının dahili yapay zeka aracı tarafından üretilen davalara atıfta bulunulan önergelerin ardından avukatlara yaptırım uyguladı ve en ağır ceza, başvuruyu hazırlayan avukata verildi.
Riskler ve Korkuluklar
Yetenekleri artırırken varoluşsal riski bilim kurgu olarak ele almak.
Yüzey ürün güvenliğini yüksek özerklik altında hizalamayla karıştırmak.
İngilizce olmayan ve uzman olmayan izleyici kitlesini yalnızca düşük kaliteli kaynaklarla bırakmak.
Uygulama Yol Haritası
Ürün zararları, yanlış kullanım ve kontrol kaybı/yanlış hizalama risklerini ayırın.
Hangi kanıtların zaman çizelgeleri ve ciddiyet konusundaki görüşünüzü değiştireceğini sorun.
Pazarlama iddiaları yerine birincil kaynakları ve somut değerlendirmeleri tercih edin.
Tek bir eylem yolu belirleyin: kariyer, politika, finansman veya beceriler; yalnızca farkındalık değil.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Lawyers Sanctioned for AI-Fabricated Case Citations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Sık sorulan sorular
Yapay Zekayla Üretilmiş Dava Alıntıları Nedeniyle Avukatlara Ne Ceza Veriliyor?
Avukatlara, üretken yapay zeka araçlarının icat ettiği dava alıntılarını içeren brifingler sundukları için yaptırım uygulandı; en ünlüsü, federal bir yargıcın iki avukata ve şirketlerine 5.000 dolar ceza verdiği 2023'teki Mata v. Avianca davasında. Bu davalar önemlidir çünkü aracın kullanımı değil, doğrulamanın atlanması söz konusudur ve mahkemeler kontrolsüz alıntıları avukatın mahkemeye karşı görevinin ihlali olarak değerlendirmektedir.
Mata v. Avianca davasında, araştırmayı yürüten avukat ChatGPT'ye bahsi geçen vakaların gerçek olup olmadığını sorduğunda ne oldu?
ChatGPT, icat edilen vakaların gerçek olduğunu doğruladı; bu da bir modelden kendi çıktısını doğrulamasını istemenin neden doğrulama olmadığını gösteriyor.
Yargıç Castel, 22 Haziran 2023'teki Mata v. Avianca davasında hangi yaptırımı uyguladı?
Mahkeme, Kural 11 uyarınca 5.000 dolar ceza verdi ve avukatların müvekkillerine ve her bir yargıcın sahte bir görüşün yazarı olarak yanlış bir şekilde tanıtılmasına ilişkin bildirimde bulunmasını talep etti.
Rehbere göre Mata'daki mahkeme avukatların gerçek başarısızlığı olarak neyi tespit etti?
Mahkeme, sorunun yapay zeka kullanımının kendisi olmadığını söyledi. Başarısızlık, uydurma otoriteleri doğrulamak ve ardından savunmaya devam etmek değildi.
Kılavuz, Wadsworth v. Walmart'tan hangi dersi çıkarıyor?
Alıntılar firmanın kendi yapay zeka platformundan geldi ve şirket içi veya hukuka özel araçların doğrulama ihtiyacını ortadan kaldırmadığını gösteriyor.
Bir dil modeli neden ikna edici görünen sahte bir alıntı üretebilir?
Parti adlarının, muhabirin, cildin, sayfanın, mahkemenin ve yılın öngörülebilir yapısı, bir modelin gerçek bir görüşle hiçbir bağlantısı olmayan makul görünümlü dizeler oluşturmasına olanak tanır.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi