Tiếp theoHướng dẫn tiếp theo
Loa thông minh có luôn lắng nghe không
xã hội
HƯỚNG DẪN xã hội
Đồ chơi AI và loa thông minh dành cho trẻ nhỏ là những thiết bị có micrô, kết nối internet và hệ thống ngôn ngữ và nhận dạng giọng nói cho phép trẻ nói chuyện với chúng và nhận được câu trả lời bằng giọng nói.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Chúng quan trọng vì chúng ghi lại giọng nói của một đứa trẻ trong nhà, có thể nói những điều mà cha mẹ không xem xét và có thể định hình cách trẻ nhỏ hiểu về tình bạn, sự tin tưởng và máy móc.
Hầu hết đồ chơi AI hoạt động giống như một chiếc loa thông minh nhỏ được đặt trong một lớp vỏ thân thiện. Một từ đánh thức hoặc một lần nhấn nút sẽ bắt đầu ghi âm. Âm thanh thường được gửi qua Wi-Fi tới đám mây của nhà sản xuất, nơi nhận dạng giọng nói sẽ biến nó thành văn bản, mô hình ngôn ngữ hoặc hệ thống đối thoại theo kịch bản sẽ viết câu trả lời và tính năng chuyển văn bản thành giọng nói sẽ trả lời lại. Rất ít điều xảy ra bên trong đồ chơi, đó là lý do tại sao đồ chơi chỉ an toàn khi công ty vận hành máy chủ của nó. Lịch sử cho thấy rủi ro là có thật. Hello Barbie (2015) đã gửi các cuộc trò chuyện của trẻ em lên đám mây và thu hút sự chỉ trích nặng nề từ những người ủng hộ quyền riêng tư. Vào năm 2017, vụ vi phạm CloudPets đã tiết lộ các tin nhắn thoại được lưu trữ do trẻ em và cha mẹ ghi lại, đồng thời cơ quan quản lý viễn thông của Đức đã yêu cầu các bậc cha mẹ vô hiệu hóa búp bê My Friend Cayla, coi nó là một thiết bị giám sát giấu kín bất hợp pháp. Vào năm 2023, Amazon đã đồng ý trả 25 triệu đô la để giải quyết khiếu nại của Ủy ban Thương mại Liên bang Hoa Kỳ rằng họ đã lưu giữ bản ghi âm giọng nói Alexa của trẻ em quá lâu. Những đồ chơi mới hơn được xây dựng trên mô hình ngôn ngữ lớn còn tiềm ẩn nguy cơ thứ hai: những câu trả lời mở có thể chuyển sang những chủ đề không phù hợp, bịa ra sự thật hoặc khuyến khích trẻ tiếp tục nói. Tại Hoa Kỳ, COPPA yêu cầu các công ty thu thập thông tin cá nhân từ trẻ em dưới 13 tuổi phải có được sự đồng ý có thể kiểm chứng của phụ huynh và cho phép phụ huynh xem xét và xóa thông tin đó. Quy tắc thiết kế phù hợp với lứa tuổi của Vương quốc Anh và GDPR của EU cũng tăng cường bảo vệ dữ liệu của trẻ em. Một quan niệm sai lầm phổ biến là một món đồ chơi "chỉ để giải trí" không thu thập được thứ gì quan trọng. Bản ghi âm giọng nói là dữ liệu giống như sinh trắc học và có thể tiết lộ tên, thói quen và thông tin chi tiết về gia đình. Một điều nữa là trẻ nhỏ biết đồ chơi đó không còn sống; Nhiều trẻ mẫu giáo gán cảm xúc cho các đồ vật biết nói, vì vậy một món đồ chơi có nội dung 'Tôi sẽ nhớ bạn' có thể tạo ra sức hút cảm xúc thực sự. Trước hết, hãy coi bất kỳ đồ chơi AI biết nói nào như một thiết bị được kết nối và sau đó là một món đồ chơi.
Phụ huynh thiết lập một món đồ chơi sang trọng biết nói và tìm thấy trong ứng dụng đồng hành rằng mọi cuộc trò chuyện đều được lưu trữ trên máy chủ của công ty cho đến khi bị xóa theo cách thủ công, vì vậy họ bật tính năng tự động xóa và tắt chế độ luôn nghe.
Một đứa trẻ bốn tuổi hỏi một chiếc loa thông minh em bé đến từ đâu; phụ huynh nhận thấy câu trả lời đến từ kết quả tìm kiếm trên web được viết cho người lớn và bật hồ sơ trẻ em của người nói, điều này làm hạn chế nguồn nội dung.
Một ông bà đọc hộp robot chatbot, không thấy chính sách quyền riêng tư hoặc địa chỉ liên hệ cụ thể nào của nhà sản xuất và thay vào đó chọn một món đồ chơi kể chuyện không có kết nối.
Một giáo viên mầm non kiểm tra đồ chơi bằng giọng nói trong một tuần trước khi cho phép nó vào lớp và ghi lại xem nó có hỏi tên, trường học hoặc địa điểm của trẻ hay không.
Các nhà sản xuất đồ chơi lớn đã công bố quan hệ đối tác với các công ty AI, vì vậy, nhiều đồ chơi phổ thông hơn với cuộc trò chuyện mở có khả năng sẽ được bày bán. Điều đó gây áp lực lên các cơ quan quản lý để làm rõ cách áp dụng luật riêng tư của trẻ em hiện hành vào các hệ thống sinh học và buộc các công ty phải công bố các thử nghiệm an toàn rõ ràng hơn. Các nhà nghiên cứu vẫn đang nghiên cứu xem việc trò chuyện thường xuyên với những người bạn đồng hành AI ảnh hưởng như thế nào đến sự phát triển ngôn ngữ và sự gắn bó ở trẻ nhỏ, và cho đến nay vẫn còn rất ít bằng chứng. Cho đến khi hoàn thiện, các biện pháp bảo vệ đáng tin cậy nhất vẫn là sự kiểm soát của phụ huynh, lưu giữ dữ liệu trong thời gian ngắn, sử dụng có giám sát và chọn đồ chơi từ các công ty tiết lộ cách họ xử lý các bản ghi.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Đồ chơi AI và loa thông minh dành cho trẻ nhỏ là những thiết bị có micrô, kết nối internet và hệ thống ngôn ngữ và nhận dạng giọng nói cho phép trẻ nói chuyện với chúng và nhận được câu trả lời bằng giọng nói. Chúng quan trọng vì chúng ghi lại giọng nói của một đứa trẻ trong nhà, có thể nói những điều mà cha mẹ không xem xét và có thể định hình cách trẻ nhỏ hiểu về tình bạn, sự tin tưởng và máy móc.
Hầu hết đồ chơi đều gửi âm thanh qua Wi-Fi tới đám mây của công ty, nơi lời nói được phiên âm và tạo ra phản hồi. Đó là lý do tại sao sự an toàn của đồ chơi phụ thuộc vào công ty vận hành máy chủ của nó.
Cơ quan quản lý đã yêu cầu các bậc cha mẹ vô hiệu hóa con búp bê, coi nó là thiết bị giám sát được giấu kín, điều này là bất hợp pháp ở Đức.
COPPA yêu cầu sự đồng ý có thể kiểm chứng của phụ huynh và trao cho phụ huynh quyền xem xét và xóa thông tin của con họ.
Dữ liệu giọng nói giống như sinh trắc học và các cuộc trò chuyện có thể tiết lộ thông tin cá nhân về một đứa trẻ và gia đình, bất kể mục đích vui chơi của đồ chơi là gì.
Các mô hình sáng tạo tạo ra các câu trả lời không có kịch bản, vì vậy chúng có thể nói những điều chưa ai xem xét, bao gồm cả nội dung không phù hợp hoặc thông tin bịa đặt.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Loa thông minh có luôn lắng nghe không
xã hội