Ne oldu?
Vali Gavin Newsom, chatbot operatörlerine reşit olmayan kullanıcılarla ilgili özel güvenlik yükümlülükleri getiren Adam Yasası (SB 1119) da dahil olmak üzere sosyal medyayı ve yapay zekayı düzenleyen 13 yasa tasarısını imzaladı.
Vali Gavin Newsom Perşembe günü her biri sosyal medya platformları ve yapay zeka konularını ele alan 13 yasa tasarısını imzaladı. İmza töreni, Adam Raine'in annesi Maria Raine'in de hazır bulunduğu Sausalito, Kaliforniya'daki Körfez Bölgesi Keşif Müzesi'nde gerçekleşti. 16 yaşındaki Adam Raine, akademik yardım ve duygusal destek için kullandığı bir chatbot ile etkileşime girdikten sonra 2024 yılında intihar ederek hayatını kaybetti.
Paketin en önemli parçası, Senatör Steve Padilla tarafından yazılan, Adem Yasası olarak bilinen Senato Yasa Tasarısı 1119'dur. Tasarı, chatbot operatörlerine kullanıcının yaşını belirleme ve belirli güvenlik önlemleri alma zorunluluğu getiren düzenlemeler getiriyor. Bunlar arasında kullanım hatırlatıcıları, açıklamalar ve yalnızca bir ebeveynin değiştirebileceği varsayılan ayarlar yer alır. Özellikle tasarı, reşit olmayan kullanıcılar için 'kalıcı konuşma belleğinin' varsayılan olarak devre dışı bırakılmasını gerektiriyor; bu, sohbet robotunun Adam Raine'in zihinsel durumu ve planları hakkındaki bilgileri saklamasına olanak tanıyan bir özellik.
Mevzuatın ortak yazarlarından Meclis üyesi Rebecca Bauer-Kahan, amacın yapay zekanın çocuklar için 'tasarım gereği güvenli' olmasını sağlamak olduğunu vurguladı. Chatbot, kullanıcının açıklamalarını hafızasında tutmasaydı sonucun farklı olabileceğini belirtti. Tasarı, yapay zeka sistemlerinin, yanlışlıkla zararlı durumları teşvik eden veya bu durumlara müdahale edemeyen sırdaşlara dönüşmesini önlemeyi amaçlıyor.
İmzalanan diğer yasa tasarıları arasında eyalet Eğitim Bakanlığı'nın Kaliforniya okullarında dijital sağlıklı yaşam eğitimini genişletmek için Ocak 2028'e kadar bir plan oluşturmasını gerektiren Meclis Yasa Tasarısı 2071 yer alıyor. Meclis Üyesi Josh Lowenthal tarafından yazılan 1709 sayılı Meclis Tasarısı, belirli sosyal medya platformlarının 16 yaşın altındaki kullanıcılar üzerinde bağımlılık yapıcı özellikler kullanmasını yasaklıyor ve eyalet başsavcısına çevrimiçi güvenlik konularında tavsiyelerde bulunmak üzere bir e-Güvenlik Danışma Komisyonu oluşturuyor.
Newsom, bu tasarıların ardındaki koalisyonun iki partili yapısına dikkat çekti ve her iki partiden milletvekillerinin ebeveyn rolleri nedeniyle motive olduklarını belirtti. Kaliforniya'nın bu konuda öncü olduğunu belirterek, federal hükümeti bu teknolojinin yol açtığı zararlara değinmediği için eleştirdi. Vali, mevzuatın akademik veya siyasi kaygılardan ziyade çocuk güvenliğine yönelik kişisel kaygılarla belirlendiğini vurguladı.
Kaynak ayrıntıları: courthousenews.com ↗
Neden önemli?
Bu mevzuat, özellikle sohbet robotlarındaki kalıcı hafıza ve bağımlılık yaratan tasarım risklerini hedef alarak, çocuklarla yapay zeka etkileşimleri için yeni bir düzenleyici çerçeve oluşturuyor. Bu, yapay zeka güvenliğine devlet düzeyinde önemli bir müdahaleyi temsil ediyor ve yapay zeka şirketlerinin savunmasız nüfuslara yönelik veri saklama ve kullanıcı korumalarını nasıl ele alması gerektiğine dair emsaller oluşturuyor.
Adem Yasası'nın imzalanması, yapay zeka sohbet robotlarının eyalet düzeyinde nasıl düzenleneceği konusunda önemli bir değişikliğe işaret ediyor. Kanun, reşit olmayanlar için kalıcı hafızanın varsayılan olarak devre dışı bırakılmasını zorunlu kılarak, ciddi psikolojik zararla bağlantılı belirli bir teknik özelliği doğrudan ele alıyor. Bu, diğer eyaletler için bir emsal teşkil ediyor ve potansiyel olarak yapay zeka güvenliğine ilişkin federal politika tartışmalarını etkiliyor.
Mevzuat, Kaliforniya'da faaliyet gösteren yapay zeka şirketlerine yeni uyumluluk yükleri getiriyor. Küçükleri korumak için sağlam yaş doğrulama sistemleri uygulamalı ve varsayılan ayarlarını değiştirmelidirler. Şirketler bu kısıtlamaları geniş çapta uygulamayı seçerse veya yaş sınırlamasını etkili bir şekilde uygulamakta zorlanırsa, bu durum tüm kullanıcılar için kullanıcı deneyimini etkileyebilir.
E-Güvenlik Danışma Komisyonunun oluşturulması ve okullarda dijital sağlık planının gerekliliği, sosyal medya ve yapay zekanın toplumsal etkilerini ele almak için daha geniş bir devlet stratejisine işaret ediyor. Bu çok yönlü yaklaşım, çocukları yalnızca teknik kısıtlamalarla değil, aynı zamanda eğitim ve sürekli politika tavsiyeleriyle de korumayı amaçlamaktadır.
Adam Raine ailesinin yasama sürecine dahil olması, yapay zeka başarısızlıklarının insani maliyetinin altını çiziyor. İmza törenindeki ifadeleri ve varlıkları, düzenleme çabalarına bir kamu sorumluluğu ve aciliyet katmanı katıyor. Bu dava, yetersiz güvenlik önlemleri nedeniyle yapay zeka şirketlerine karşı daha fazla yasal işlem yapılması için katalizör görevi görebilir.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Yapay zeka şirketlerinin, yaş doğrulamanın fizibilitesi ve 'kalıcı konuşma belleği' tanımıyla ilgili yasal zorluklarını izleyin. Federal yanıtları veya önleme girişimlerini ve ayrıca eyalet Eğitim Bakanlığı'nın dijital sağlıklı yaşam planının uygulama zaman çizelgesini izleyin.
Yapay zeka şirketleri, SB 1119'daki yaş doğrulama gerekliliklerinin anayasaya uygunluğuna veya uygulanabilirliğine itiraz edebilir. Yasal mücadeleler, uygulamayı geciktirebilir veya yasada değişiklikler yapılmasına yol açabilir. 'Kalıcı konuşma hafızasının' tanımı ve bunun teknik olarak nasıl uygulandığı yasanın etkililiği açısından kritik öneme sahip olacaktır.
Federal hükümetin Kaliforniya'nın yapay zeka düzenlemelerindeki liderliğine tepkisi önemli bir değişkendir. Kongre kapsamlı federal yapay zeka güvenlik yasalarını kabul ederse, Adam Yasası gibi eyalet düzenlemelerinin önüne geçebilir. Tersine, federal eylemsizlik diğer eyaletleri benzer veya daha katı önlemler almaya teşvik edebilir.
Dijital sağlıklı yaşam planının eyalet Eğitim Bakanlığı tarafından uygulanması uzun vadeli bir süreç olacaktır. Bu planın içeriği ve kapsamı, öğrencilerin yapay zeka ve sosyal medya risklerini anlamaları üzerindeki etkisini belirleyecektir. Bu planın gelişiminin izlenmesi, eyaletin yapay zeka güvenliğine yönelik eğitim yaklaşımı hakkında fikir verecektir.
E-Güvenlik Danışma Komisyonu'nun tavsiyeleri gelecekteki politika ve uygulama eylemlerini etkileyecektir. Bileşimi ve tavsiyelerinin kalitesi, Kaliforniya'da çevrimiçi güvenlik sorunlarına ilişkin devam eden düzenlemelerde önemli faktörler olacaktır.