LegközelebbKövetkező útmutató
Mindig figyelnek az okos hangszórók?
Társadalom
Társadalom ÚTMUTATÓ
A kisgyermekeknek szánt mesterséges intelligencia-játékok és intelligens hangszórók mikrofonnal, internetkapcsolattal, valamint beszédfelismerő és nyelvi rendszerrel rendelkező eszközök, amelyek lehetővé teszik a gyermek számára, hogy beszéljen velük, és szóbeli válaszokat kapjon.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Fontosak, mert rögzítik a gyermek hangját az otthonban, képesek olyan dolgokat mondani, amelyeket egyetlen szülő sem értékelt, és befolyásolhatják, hogy a kisgyermekek hogyan értik a barátságot, a bizalmat és a gépeket.
A legtöbb mesterséges intelligencia játék úgy működik, mint egy kis intelligens hangszóró barátságos burkolatban. Egy ébresztő szó vagy egy gombnyomás elindítja a felvételt. A hangot általában Wi-Fi-n keresztül küldik el a gyártó felhőjébe, ahol a beszédfelismerés szöveggé alakítja, egy nyelvi modell vagy szkriptezett párbeszédrendszer ír választ, a szövegfelolvasó pedig visszamondja. Magán a játékon belül nagyon kevés történik, ezért egy játék csak annyira biztonságos, mint amennyire a szervereit üzemeltető vállalat. A történelem azt mutatja, hogy a kockázatok valósak. A Hello Barbie (2015) gyerekeknek szóló beszélgetéseket juttatott el a felhőbe, és heves kritikát kapott az adatvédelmi jogvédőktől. 2017-ben a CloudPets megsértette a gyermekek és a szülők által rögzített tárolt hangüzeneteket, és a német távközlési hatóság felszólította a szülőket, hogy tiltsák le a My Friend Cayla babát, és illegális rejtett megfigyelőeszköznek minősítették. 2023-ban a Amazon beleegyezett, hogy 25 millió dollárt fizet, hogy rendezze az Egyesült Államok Szövetségi Kereskedelmi Bizottságának azon állításait, amelyek szerint túl sokáig őrizte meg a gyermekek Alexa hangfelvételeit. A nagy nyelvi modellekre épített újabb játékok egy második kockázatot is jelentenek: a nyílt végű válaszokat, amelyek nem megfelelő témákba sodródhatnak, tényeket találhatnak ki, vagy arra ösztönözhetik a gyermeket, hogy beszéljen tovább. Az Egyesült Államokban a COPPA előírja, hogy a 13 éven aluli gyermekektől személyes adatokat gyűjtő vállalatoknak ellenőrizhető szülői beleegyezést kell szerezniük, és engedélyezniük kell a szülőknek, hogy áttekintsék és töröljék azt. Az Egyesült Királyság életkornak megfelelő tervezési kódexe és az EU GDPR-ja szintén extra védelmet biztosít a gyermekek adatainak. Elterjedt tévhit, hogy a „csak szórakozásból” készült játék semmi fontosat nem gyűjt össze. A hangfelvételek biometrikus jellegű adatok, és felfedhetnek neveket, rutinokat és családi adatokat. A másik az, hogy a kisgyermekek tudják, hogy a játék nem él; sok óvodás az érzelmeket tulajdonítja a beszélő tárgyaknak, így a „hiányozni fogsz” feliratú játék valódi érzelmi vonzerőt kelthet. Minden beszélő mesterséges intelligencia játékot először csatlakoztatott eszközként, másodsorban játékként kezeljen.
Egy szülő beállít egy beszélő plüssjátékot, és a kísérőalkalmazásban azt találja, hogy minden beszélgetést a cég szerverein tárol a manuális törlésig, így bekapcsolják az automatikus törlést és kikapcsolják a mindig hallgató módot.
Egy négyéves megkérdezi egy okosbeszélőt, honnan jönnek a babák; a szülő észreveszi, hogy a válasz egy felnőtteknek írt internetes keresési eredményből érkezett, és engedélyezi a beszélő gyerekprofilját, ami korlátozza a tartalomforrásokat.
Egy nagyszülő elolvassa egy chatbot-robot dobozát, és nem látja a gyártó megnevezett adatvédelmi szabályzatát vagy elérhetőségi címét, és helyette egy nem kapcsolódó történetmesélő játékot választ.
Az óvodapedagógus egy hétig tesztel egy hangjátékot, mielőtt beengedi az osztályba, és rögzíti, hogy megkérdezi-e valaha a gyerekektől a nevüket, iskolájukat vagy tartózkodási helyét.
A nagy játékgyártók bejelentették, hogy együttműködést kötnek mesterséges intelligencia-cégekkel, így valószínűleg több, nyílt végű beszélgetéssel rendelkező játék kerül a polcokra. Ez nyomást gyakorol a szabályozókra, hogy tisztázzák, hogyan vonatkoznak a meglévő gyermekek adatvédelmi törvényei a generatív rendszerekre, és a vállalatokat, hogy tegyenek közzé világosabb biztonsági teszteket. A kutatók még mindig azt vizsgálják, hogy a mesterséges intelligencia kísérőivel folytatott rendszeres beszélgetés hogyan befolyásolja a kisgyermekek nyelvi fejlődését és kötődését, és a bizonyítékok egyelőre csekélyek. Éréséig a legmegbízhatóbb védelem továbbra is a szülői felügyelet, az adatok rövid idejű megőrzése, a felügyelt használat és a játékok kiválasztása olyan cégektől, amelyek nyilvánosságra hozzák, hogyan kezelik a felvételeket.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A kisgyermekeknek szánt mesterséges intelligencia-játékok és intelligens hangszórók mikrofonnal, internetkapcsolattal, valamint beszédfelismerő és nyelvi rendszerrel rendelkező eszközök, amelyek lehetővé teszik a gyermek számára, hogy beszéljen velük, és szóbeli válaszokat kapjon. Fontosak, mert rögzítik a gyermek hangját az otthonban, képesek olyan dolgokat mondani, amelyeket egyetlen szülő sem értékelt, és befolyásolhatják, hogy a kisgyermekek hogyan értik a barátságot, a bizalmat és a gépeket.
A legtöbb játék Wi-Fi-n keresztül küldi a hangot a vállalat felhőjére, ahol a beszédet átírják, és választ generálnak. Éppen ezért a játék biztonsága a szervereit üzemeltető vállalattól függ.
A szabályozó felszólította a szülőket, hogy tiltsák le a babát, rejtett megfigyelőeszköznek minősítve, ami Németországban illegális.
A COPPA ellenőrizhető szülői beleegyezést igényel, és jogot biztosít a szülőknek gyermekük adatainak áttekintésére és törlésére.
A hangadatok biometrikus jellegűek, és a beszélgetések során személyes adatok derülnek ki a gyermekről és a családról, függetlenül a játék játékos céljától.
A generatív modellek íratlan válaszokat adnak, így olyan dolgokat is mondhatnak, amelyeket senki sem vizsgált át, beleértve a nem megfelelő tartalmat vagy a kitalált információkat.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Mindig figyelnek az okos hangszórók?
Társadalom