Ne oldu?
City Desk ABQ, Albuquerque Devlet Okullarının, otomatik bir konuşma tanıma okuma aracı olan Amira'nın kullanımını, üçüncü sınıf öğrencileri ve 4 yaşındaki K öncesi öğrencileri için haftalık kulaklık kayıtlarını da içerecek şekilde genişlettiğini bildirdi. Avukatların uygulamaya karşı yaklaşık 800 imza sunmasının ardından bölge, Amira'nın eski APS öğrenci ses kayıtlarını sildiğini ve değerlendirme kayıtlarının 48 saat içinde silineceğini söyledi.
City Desk ABQ, The Paper'dan Jesse Jones tarafından hazırlanan bir raporda, Albuquerque Devlet Okullarının, devletin gerektirdiği anaokulundan ikinci sınıfa kadar olan tarama için otomatik bir konuşma tanıma okuma aracı olan Amira'yı kullandığını ve bunu üçüncü sınıflar ve 4 yaşındaki K öncesi öğrencileri için haftalık kulaklık tabanlı kayıtlara genişlettiğini söylüyor. Raporda Amira'nın öğrencilerin seslerini kaydettiği, analiz ettiği ve sakladığı belirtiliyor. Ürünün teknik saklama politikasını, sözleşme şartlarını veya bölgenin belirtilen değişikliklerinin ötesinde hangi bilgilerin aktarıldığına dair tam bir açıklama sağlamaz.
Raporda, ebeveynlerin ve avukatların 19 Ağustos'ta yapılan APS Yönetim Kurulu toplantısında yaklaşık 800 imza sunarak acil bir ara verilmesi çağrısında bulunduğu belirtiliyor. Endişeleri arasında biyometrik gizlilik, anadili İngilizce olmayan kişilere karşı olası önyargılar ve yapay zekadan bahsetmeyen bir vazgeçme formu yer alıyordu. Şehir Masası ABQ, Müfettiş Yardımcısı Randy Mahlerwein'in daha sonra APS ebeveynlerine e-posta yoluyla bölgenin endişelerini Amira'ya ilettiğini söylediğini bildirdi. Bu hesaba göre Amira, önceki okul yılı ve öncesindeki tüm APS öğrenci ses kayıtlarını sildi ve bölgeye silinmeyi onaylayan bir sertifika verdi.
City Desk ABQ ayrıca APS'nin Amira Assessment kayıtlarını artık 48 saat içinde sileceğini de bildirdi. Hikayede adı geçen New Mexico Halk Eğitimi Departmanı'nın 4 Ağustos tarihli bir notunda, bölgelerin bunun yerine kağıt sınavları kullanmasına veya başka bir değerlendirme için feragat istemesine izin verildiği bildirildi. Santa Fe ve Los Alamos bu seçenekleri kullanırken APS, Amira ve haftalık kayıtlarıyla devam etti. Rapor, silme sertifikasını, 48 saatlik süreci veya politika kapsamındaki her kaydın kaldırılıp kaldırılmadığını bağımsız olarak doğrulamaz.
Kaynak ayrıntıları: citydesk.org ↗
Neden önemli?
Rapor, öğrenci ses kayıtlarını, ebeveyn iznini, saklama sürelerini ve çocuk verilerinin olası ticari kullanımını aktif bir okul teknolojisi anlaşmazlığının merkezine yerleştiriyor. Ayrıca, önemli hukuki ve teknik soruları çözümsüz bırakırken, bölgelerin kağıt üzerinde testler veya muafiyetler de dahil olmak üzere sese dayalı değerlendirmelere alternatifleri olabileceğini de gösteriyor.
Anlaşmazlık önemlidir çünkü küçük çocuklardan alınan ses verileri, eğitim amacıyla toplandığında bile alışılmadık derecede hassastır. Bir kayıt, bir çocuğun konuşma kalıplarını ortaya çıkarabilir ve nasıl kullanıldığına bağlı olarak aileler veya düzenleyiciler tarafından biyometrik bilgi olarak değerlendirilebilir. City Desk ABQ, ebeveynlerin özellikle bölgenin açık ebeveyn izni alıp almadığını ve devre dışı kalma sürecinin yapay zekanın işin içinde olduğunu açıkça gösterip göstermediğini sorguladığını bildirdi. Rapor, APS veya Amira'nın kayıtları kötüye kullandığını veya verilerin ticari modelleri eğitmek için kullanıldığını ortaya koymuyor.
Hikaye aynı zamanda devlet okulları aracılığıyla toplanan verileri kimin kontrol ettiğine dair pratik bir soruyu da gündeme getiriyor. Albuquerque Belediye Meclis Üyesi Stephanie Telles'in, FERPA'nın üçüncü taraf geliştiricilerin ticari yapay zeka modeli eğitimi için ebeveynlerin izni olmadan öğrenci ses kayıtlarını toplamasına ve saklamasına izin verebileceğini ve potansiyel olarak göçmen ailelere yönelik yerel korumalarla çelişebileceğini söylediği bildirildi. Bu, bağımsız olarak belirlenmiş bir hukuki sonuç değil, raporda açıklanan bir endişedir. Makalede, bu tür bir kullanımın bu durumda gerçekleştiğini veya buna izin verildiğini doğrulayan bir FERPA kararı, sözleşme hükmü veya gizlilik düzenleyicisinden alıntı yapılmamaktadır.
Değerlendirme seçiminin mahremiyetin ötesinde sonuçları vardır. Konuşma tanıma araçları daha hızlı veya daha standartlaştırılmış okuma değerlendirmeleri sunabilir, ancak aileler ve yetkililer anadili İngilizce olmayanlara karşı önyargı olasılığını dile getirdi ve bilgisayarların erken eğitimdeki rolünü sorguladı. Kağıt üzerinde testlerin veya muafiyetlerin mevcudiyeti, tartışmanın aynı zamanda yönetişimle de ilgili olduğu anlamına geliyor: Daha az veri yoğunluklu alternatifler mevcut olduğunda bir bölgenin ses kayıt sistemini seçip seçmemesi gerektiği. City Desk ABQ, yönetim kurulu üyesi Rebecca Betzen'in Amira'ya karşı çıktığını ve dikkatin öğretmenler ve öğrenciler üzerinde kalması gerektiğini söylediğini bildirdi; bu pozisyon, aracın performansı hakkında bölge çapında bir bulgunun kanıtı değil, bireysel bir kurul üyesinin görüşüdür.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Temel test, APS'nin 48 saatlik silme politikasını tutarlı bir şekilde uygulayıp uygulamadığı ve hangi verilerin toplandığını, saklandığını ve paylaşıldığını açıklayıp açıklayamayacağı olacaktır. Aileler kâğıt alternatifleri arıyor ve çocukların biyometrik verilerinin silinmesini istiyor; APS okul yönetim kurulu üyelerinin ise 2 Eylül'de öğrenci refahı çerçevesi taslağı hazırlamaya başlaması bekleniyor.
Uygulama acil bir konudur. APS'nin Amira Assessment kayıtlarını 48 saat içinde silmeyi taahhüt ettiği bildirildi ancak City Desk ABQ, kayıt yapıldığında, değerlendirildiğinde veya aktarıldığında sürenin başlayıp başlamadığını veya silme işleminin nasıl denetleneceğini söylemiyor. Takip raporlamasında bölgenin yazılı politikası, Amira sözleşmesi, silme sertifikasının kapsamı ve yedeklerin, türetilmiş ses özelliklerinin, transkriptlerin veya değerlendirme kayıtlarının kalıp kalmadığına ilişkin onay aranmalıdır. Kaynak bu ayrıntıların hiçbirini bağımsız olarak doğrulamıyor.
Aileler diğer ebeveynleri kağıt alternatifleri talep etmeye çağırıyor ve çocukların biyometrik verilerinin silinmesi için baskı yapmak üzere Başkomiser Gabriella Blakey ile bir toplantı yapmak istiyorlar. City Desk ABQ, bölgenin protestolara yanıt verirken Amira'yı eyalet denetçisi olarak savunduğunu bildirdi. Bundan sonra olacaklar, APS'nin 48 saat kuralını dar bir saklama değişikliği olarak mı ele aldığını veya üçüncü sınıf öğrencileri ve K öncesi çocuklar için genişletilmiş haftalık kayıtları yeniden gözden geçirip geçirmediğini gösterebilir. Raporda APS'nin bu haftalık kayıtları duraklatıp duraklatmadığı yazmıyor.
City Desk ABQ'ya göre, APS okul yönetim kurulunun toplumun kaygılarına yanıt olarak 2 Eylül'deki toplantısında bir öğrenci refahı çerçevesi taslağı hazırlamaya başlaması bekleniyor. Bu süreç, çerçevenin yapay zekanın ifşa edilmesini, rızasını, dil erişimini, önyargı testini, tedarikçi gözetimini, elde tutmayı ve aileler için alternatifleri kapsayıp kapsamadığını netleştirmelidir. Önemli bilinmeyenler arasında kurulun bağlayıcı gereklilikler benimseyip kabul etmeyeceği, Amira'nın değerlendirmelerinin farklı dillerdeki farklı performanslar açısından değerlendirilip değerlendirilmediği ve eyalet eğitim yetkililerinin daha fazla rehberlik yayınlayıp yayınlamayacağı yer alıyor. Kaynakta bu gelecekteki eylemlerin bağımsız bir onayı mevcut değildir.