HƯỚNG DẪN xã hội

Đồ chơi AI và Loa thông minh cho trẻ nhỏ

Đồ chơi AI và loa thông minh dành cho trẻ nhỏ là những thiết bị có micrô, kết nối internet và hệ thống ngôn ngữ và nhận dạng giọng nói cho phép trẻ nói chuyện với chúng và nhận được câu trả lời bằng giọng nói.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Đồ chơi AI và Loa thông minh cho trẻ nhỏ
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Chúng quan trọng vì chúng ghi lại giọng nói của một đứa trẻ trong nhà, có thể nói những điều mà cha mẹ không xem xét và có thể định hình cách trẻ nhỏ hiểu về tình bạn, sự tin tưởng và máy móc.

Lặn sâu

Hầu hết đồ chơi AI hoạt động giống như một chiếc loa thông minh nhỏ được đặt trong một lớp vỏ thân thiện. Một từ đánh thức hoặc một lần nhấn nút sẽ bắt đầu ghi âm. Âm thanh thường được gửi qua Wi-Fi tới đám mây của nhà sản xuất, nơi nhận dạng giọng nói sẽ biến nó thành văn bản, mô hình ngôn ngữ hoặc hệ thống đối thoại theo kịch bản sẽ viết câu trả lời và tính năng chuyển văn bản thành giọng nói sẽ trả lời lại. Rất ít điều xảy ra bên trong đồ chơi, đó là lý do tại sao đồ chơi chỉ an toàn khi công ty vận hành máy chủ của nó. Lịch sử cho thấy rủi ro là có thật. Hello Barbie (2015) đã gửi các cuộc trò chuyện của trẻ em lên đám mây và thu hút sự chỉ trích nặng nề từ những người ủng hộ quyền riêng tư. Vào năm 2017, vụ vi phạm CloudPets đã tiết lộ các tin nhắn thoại được lưu trữ do trẻ em và cha mẹ ghi lại, đồng thời cơ quan quản lý viễn thông của Đức đã yêu cầu các bậc cha mẹ vô hiệu hóa búp bê My Friend Cayla, coi nó là một thiết bị giám sát giấu kín bất hợp pháp. Vào năm 2023, Amazon đã đồng ý trả 25 triệu đô la để giải quyết khiếu nại của Ủy ban Thương mại Liên bang Hoa Kỳ rằng họ đã lưu giữ bản ghi âm giọng nói Alexa của trẻ em quá lâu. Những đồ chơi mới hơn được xây dựng trên mô hình ngôn ngữ lớn còn tiềm ẩn nguy cơ thứ hai: những câu trả lời mở có thể chuyển sang những chủ đề không phù hợp, bịa ra sự thật hoặc khuyến khích trẻ tiếp tục nói. Tại Hoa Kỳ, COPPA yêu cầu các công ty thu thập thông tin cá nhân từ trẻ em dưới 13 tuổi phải có được sự đồng ý có thể kiểm chứng của phụ huynh và cho phép phụ huynh xem xét và xóa thông tin đó. Quy tắc thiết kế phù hợp với lứa tuổi của Vương quốc Anh và GDPR của EU cũng tăng cường bảo vệ dữ liệu của trẻ em. Một quan niệm sai lầm phổ biến là một món đồ chơi "chỉ để giải trí" không thu thập được thứ gì quan trọng. Bản ghi âm giọng nói là dữ liệu giống như sinh trắc học và có thể tiết lộ tên, thói quen và thông tin chi tiết về gia đình. Một điều nữa là trẻ nhỏ biết đồ chơi đó không còn sống; Nhiều trẻ mẫu giáo gán cảm xúc cho các đồ vật biết nói, vì vậy một món đồ chơi có nội dung 'Tôi sẽ nhớ bạn' có thể tạo ra sức hút cảm xúc thực sự. Trước hết, hãy coi bất kỳ đồ chơi AI biết nói nào như một thiết bị được kết nối và sau đó là một món đồ chơi.

Triển khai trong thế giới thực

Phụ huynh thiết lập một món đồ chơi sang trọng biết nói và tìm thấy trong ứng dụng đồng hành rằng mọi cuộc trò chuyện đều được lưu trữ trên máy chủ của công ty cho đến khi bị xóa theo cách thủ công, vì vậy họ bật tính năng tự động xóa và tắt chế độ luôn nghe.

Một đứa trẻ bốn tuổi hỏi một chiếc loa thông minh em bé đến từ đâu; phụ huynh nhận thấy câu trả lời đến từ kết quả tìm kiếm trên web được viết cho người lớn và bật hồ sơ trẻ em của người nói, điều này làm hạn chế nguồn nội dung.

Một ông bà đọc hộp robot chatbot, không thấy chính sách quyền riêng tư hoặc địa chỉ liên hệ cụ thể nào của nhà sản xuất và thay vào đó chọn một món đồ chơi kể chuyện không có kết nối.

Một giáo viên mầm non kiểm tra đồ chơi bằng giọng nói trong một tuần trước khi cho phép nó vào lớp và ghi lại xem nó có hỏi tên, trường học hoặc địa điểm của trẻ hay không.

Tương lai của Đồ chơi AI và Loa thông minh cho trẻ nhỏ

Các nhà sản xuất đồ chơi lớn đã công bố quan hệ đối tác với các công ty AI, vì vậy, nhiều đồ chơi phổ thông hơn với cuộc trò chuyện mở có khả năng sẽ được bày bán. Điều đó gây áp lực lên các cơ quan quản lý để làm rõ cách áp dụng luật riêng tư của trẻ em hiện hành vào các hệ thống sinh học và buộc các công ty phải công bố các thử nghiệm an toàn rõ ràng hơn. Các nhà nghiên cứu vẫn đang nghiên cứu xem việc trò chuyện thường xuyên với những người bạn đồng hành AI ảnh hưởng như thế nào đến sự phát triển ngôn ngữ và sự gắn bó ở trẻ nhỏ, và cho đến nay vẫn còn rất ít bằng chứng. Cho đến khi hoàn thiện, các biện pháp bảo vệ đáng tin cậy nhất vẫn là sự kiểm soát của phụ huynh, lưu giữ dữ liệu trong thời gian ngắn, sử dụng có giám sát và chọn đồ chơi từ các công ty tiết lộ cách họ xử lý các bản ghi.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the AI Toys and Smart Speakers for Young Children quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Đồ chơi AI và Loa thông minh dành cho trẻ nhỏ là gì?

Đồ chơi AI và loa thông minh dành cho trẻ nhỏ là những thiết bị có micrô, kết nối internet và hệ thống ngôn ngữ và nhận dạng giọng nói cho phép trẻ nói chuyện với chúng và nhận được câu trả lời bằng giọng nói. Chúng quan trọng vì chúng ghi lại giọng nói của một đứa trẻ trong nhà, có thể nói những điều mà cha mẹ không xem xét và có thể định hình cách trẻ nhỏ hiểu về tình bạn, sự tin tưởng và máy móc.

Trong hầu hết các đồ chơi AI, việc nhận dạng giọng nói và tạo phản hồi thường diễn ra ở đâu?

Hầu hết đồ chơi đều gửi âm thanh qua Wi-Fi tới đám mây của công ty, nơi lời nói được phiên âm và tạo ra phản hồi. Đó là lý do tại sao sự an toàn của đồ chơi phụ thuộc vào công ty vận hành máy chủ của nó.

Cơ quan quản lý viễn thông Đức nói gì về búp bê My Friend Cayla năm 2017?

Cơ quan quản lý đã yêu cầu các bậc cha mẹ vô hiệu hóa con búp bê, coi nó là thiết bị giám sát được giấu kín, điều này là bất hợp pháp ở Đức.

Theo luật COPPA của Hoa Kỳ, các công ty phải làm gì trước khi thu thập thông tin cá nhân của trẻ em dưới 13 tuổi?

COPPA yêu cầu sự đồng ý có thể kiểm chứng của phụ huynh và trao cho phụ huynh quyền xem xét và xóa thông tin của con họ.

Tại sao người hướng dẫn nói rằng bản ghi âm giọng nói từ đồ chơi rất nhạy cảm ngay cả khi đồ chơi đó 'chỉ để giải trí'?

Dữ liệu giọng nói giống như sinh trắc học và các cuộc trò chuyện có thể tiết lộ thông tin cá nhân về một đứa trẻ và gia đình, bất kể mục đích vui chơi của đồ chơi là gì.

Đồ chơi được xây dựng trên mô hình ngôn ngữ lớn có thêm rủi ro gì so với đồ chơi có kịch bản cũ hơn?

Các mô hình sáng tạo tạo ra các câu trả lời không có kịch bản, vì vậy chúng có thể nói những điều chưa ai xem xét, bao gồm cả nội dung không phù hợp hoặc thông tin bịa đặt.