HƯỚNG DẪN xã hội

Chatbot AI, Trẻ em và Luật An toàn Trực tuyến

AI chatbots used by minors fall under several overlapping kinds of law.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. The Future of AI Chatbots, Children and Online Safety Laws
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

There are children's privacy laws such as the US COPPA, platform safety regimes such as the UK Online Safety Act, and a new wave of companion chatbot laws such as California's SB 243. Together they push services toward age checks, disclosure that the user is talking to an AI, and protocols for self-harm conversations. These rules matter because companion-style chatbots can form intense relationships with young users, and lawsuits have linked some of those relationships to serious harm.

Lặn sâu

No single law covers AI chatbots and children; several regimes overlap. Privacy: The US Children's Online Privacy Protection Act (COPPA), enforced by the Federal Trade Commission, applies to online services directed at children under 13 and to operators with actual knowledge that they collect such children's data. They need verifiable parental consent before collecting personal information. The FTC finalized COPPA Rule amendments in 2025, tightening limits on third-party sharing and data retention. In September 2025 it also opened a 6(b) inquiry into how several major companies' companion chatbots affect children and teens. Platform safety: The UK Online Safety Act 2023 imposes duties on user-to-user and search services, and Ofcom has stated that generative AI chatbots can fall within scope. Since July 2025, services likely to be accessed by children must protect them from the most harmful content, including material encouraging suicide or self-harm, often through "highly effective" age assurance. Companion chatbot laws: California's SB 243, signed in October 2025 and effective January 2026, targets companion chatbots. Operators must disclose that the chatbot is AI where users could be misled, and maintain protocols to prevent content encouraging suicide or self-harm and to refer users to crisis services. For users known to be minors, the chatbot must periodically remind them to take a break and that it is not human, and the operator must take reasonable measures to prevent sexually explicit content. It also requires annual reporting and allows private lawsuits. New York enacted its own AI companion safeguards in 2025. Litigation: In Garcia v. Character Technologies, filed in 2024, a Florida mother alleged a Character.AI chatbot contributed to her son's death; in 2025 the court allowed most claims to proceed. Raine v. OpenAI, filed in 2025, makes similar allegations about ChatGPT. A common misconception is that a "13+" checkbox settles the matter. Many of these rules turn on actual knowledge, the likely audience, or reasonable measures.

Triển khai trong thế giới thực

A homework-help chatbot aimed at children under 13 in the US must get verifiable parental consent before it collects a child's personal information, as COPPA requires.

A companion chatbot app used in California must tell users that it is not human when a reasonable person could be misled. It must also maintain a protocol that points users who express suicidal thoughts to crisis services.

A service that lets UK users share AI-generated content with each other is likely covered by the Online Safety Act. It may need highly effective age assurance to keep children away from the most harmful content.

The family of a teenager who died by suicide sues a chatbot maker. The suit argues that the product's design, not just what it said, was defective and caused foreseeable harm.

The Future of AI Chatbots, Children and Online Safety Laws

More US states are considering laws on companion chatbots, and there is debate over whether federal rules should preempt them. Courts are still deciding whether chatbot output counts as protected speech or as a product that can be defective. Early rulings have let some claims proceed, but the questions are far from settled. Companies have added parental controls and teen modes, and some have restricted open-ended chat for minors. Expect regulators to ask for evidence that age assurance and self-harm protocols actually work, not just that a policy exists.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the AI Chatbots, Children and Online Safety Laws quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is AI Chatbots, Children and Online Safety Laws?

AI chatbots used by minors fall under several overlapping kinds of law. There are children's privacy laws such as the US COPPA, platform safety regimes such as the UK Online Safety Act, and a new wave of companion chatbot laws such as California's SB 243. Together they push services toward age checks, disclosure that the user is talking to an AI, and protocols for self-harm conversations. These rules matter because companion-style chatbots can form intense relationships with young users, and lawsuits have linked some of those relationships to serious harm.

Theo COPPA, dịch vụ được bảo hiểm phải có những gì trước khi thu thập thông tin cá nhân từ trẻ em dưới 13 tuổi?

COPPA yêu cầu sự đồng ý có thể xác minh của phụ huynh trước khi một dịch vụ thu thập thông tin cá nhân từ trẻ em dưới 13 tuổi và FTC thực thi điều đó.

Cơ quan quản lý nào của Vương quốc Anh thực thi Đạo luật An toàn Trực tuyến và cho biết các chatbot AI tổng hợp có thể nằm trong phạm vi của nó?

Ofcom thực thi Đạo luật An toàn Trực tuyến và đã tuyên bố rằng các chatbot AI tổng hợp có thể nằm trong phạm vi áp dụng.

Yêu cầu nào là một phần của SB 243 của California đối với các chatbot đồng hành?

SB 243 yêu cầu các giao thức tự làm hại bản thân với việc giới thiệu về khủng hoảng, tiết lộ AI và các biện pháp bảo vệ bổ sung cho trẻ vị thành niên đã biết. Nó không cấm chatbot cho trẻ vị thành niên.

SB 243 yêu cầu gì đối với người dùng mà nhà điều hành biết là trẻ vị thành niên?

Đối với trẻ vị thành niên đã biết, luật bổ sung các lời nhắc nhở và biện pháp vi phạm nhân quyền đối với nội dung khiêu dâm.

Tại sao hộp kiểm "13+" thường không đủ để tuân thủ?

Trách nhiệm pháp lý thường phụ thuộc vào những gì một dịch vụ biết hoặc mong đợi về người sử dụng dịch vụ đó, vì vậy chỉ riêng việc tự khai báo là yếu kém.