SeterusnyaPanduan seterusnya
Akta Keselamatan Dalam Talian UK dan Bot Sembang AI
Masyarakat
PANDUAN Masyarakat
Chatbot AI yang digunakan oleh kanak-kanak bawah umur termasuk di bawah beberapa jenis undang-undang yang bertindih.
Dengar panduan iniAI-diceritakan · ~3 min
Terdapat undang-undang privasi kanak-kanak seperti COPPA AS, rejim keselamatan platform seperti Akta Keselamatan Dalam Talian UK dan gelombang baharu undang-undang chatbot pendamping seperti SB 243 California. Bersama-sama mereka mendorong perkhidmatan ke arah semakan umur, pendedahan bahawa pengguna sedang bercakap dengan AI dan protokol untuk perbualan yang mencederakan diri sendiri. Peraturan ini penting kerana chatbot gaya teman boleh membentuk hubungan yang erat dengan pengguna muda, dan tindakan undang-undang telah mengaitkan beberapa hubungan tersebut dengan bahaya yang serius.
No single law covers AI chatbots and children; several regimes overlap. Privacy: The US Children's Online Privacy Protection Act (COPPA), enforced by the Federal Trade Commission, applies to online services directed at children under 13 and to operators with actual knowledge that they collect such children's data. They need verifiable parental consent before collecting personal information. The FTC finalized COPPA Rule amendments in 2025, tightening limits on third-party sharing and data retention. In September 2025 it also opened a 6(b) inquiry into how several major companies' companion chatbots affect children and teens. Platform safety: The UK Online Safety Act 2023 imposes duties on user-to-user and search services, and Ofcom has stated that generative AI chatbots can fall within scope. Since July 2025, services likely to be accessed by children must protect them from the most harmful content, including material encouraging suicide or self-harm, often through "highly effective" age assurance. Companion chatbot laws: California's SB 243, signed in October 2025 and effective January 2026, targets companion chatbots. Operators must disclose that the chatbot is AI where users could be misled, and maintain protocols to prevent content encouraging suicide or self-harm and to refer users to crisis services. For users known to be minors, the chatbot must periodically remind them to take a break and that it is not human, and the operator must take reasonable measures to prevent sexually explicit content. It also requires annual reporting and allows private lawsuits. New York enacted its own AI companion safeguards in 2025. Litigation: In Garcia v. Character Technologies, filed in 2024, a Florida mother alleged a Character.AI chatbot contributed to her son's death; in 2025 the court allowed most claims to proceed. Raine v. OpenAI, filed in 2025, makes similar allegations about ChatGPT. A common misconception is that a "13+" checkbox settles the matter. Many of these rules turn on actual knowledge, the likely audience, or reasonable measures.
Bot sembang bantuan kerja rumah yang ditujukan kepada kanak-kanak di bawah 13 tahun di AS mesti mendapat kebenaran ibu bapa yang boleh disahkan sebelum ia mengumpul maklumat peribadi kanak-kanak, seperti yang diperlukan oleh COPPA.
Apl chatbot teman yang digunakan di California mesti memberitahu pengguna bahawa ia bukan manusia apabila orang yang munasabah boleh diperdayakan. Ia juga mesti mengekalkan protokol yang menunjukkan pengguna yang menyatakan pemikiran bunuh diri kepada perkhidmatan krisis.
Perkhidmatan yang membolehkan pengguna UK berkongsi kandungan yang dijana AI antara satu sama lain mungkin dilindungi oleh Akta Keselamatan Dalam Talian. Ia mungkin memerlukan jaminan umur yang sangat berkesan untuk menjauhkan kanak-kanak daripada kandungan yang paling berbahaya.
Keluarga seorang remaja yang mati akibat bunuh diri menyaman pembuat chatbot. Saman itu berhujah bahawa reka bentuk produk, bukan hanya apa yang dikatakan, rosak dan menyebabkan kemudaratan yang boleh dijangka.
Lebih banyak negeri AS sedang mempertimbangkan undang-undang mengenai chatbots teman, dan terdapat perdebatan sama ada peraturan persekutuan harus mendahuluinya. Mahkamah masih memutuskan sama ada output chatbot dikira sebagai pertuturan yang dilindungi atau sebagai produk yang boleh rosak. Keputusan awal telah membenarkan beberapa tuntutan diteruskan, tetapi persoalannya masih belum selesai. Syarikat telah menambah kawalan ibu bapa dan mod remaja, dan sesetengahnya telah mengehadkan sembang terbuka untuk kanak-kanak di bawah umur. Jangkakan pengawal selia untuk meminta bukti bahawa jaminan umur dan protokol mencederakan diri sebenarnya berfungsi, bukan sekadar dasar wujud.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Chatbot AI yang digunakan oleh kanak-kanak bawah umur termasuk di bawah beberapa jenis undang-undang yang bertindih. Terdapat undang-undang privasi kanak-kanak seperti COPPA AS, rejim keselamatan platform seperti Akta Keselamatan Dalam Talian UK dan gelombang baharu undang-undang chatbot pendamping seperti SB 243 California. Bersama-sama mereka mendorong perkhidmatan ke arah semakan umur, pendedahan bahawa pengguna sedang bercakap dengan AI dan protokol untuk perbualan yang mencederakan diri sendiri. Peraturan ini penting kerana chatbot gaya teman boleh membentuk hubungan yang erat dengan pengguna muda, dan tindakan undang-undang telah mengaitkan beberapa hubungan tersebut dengan bahaya yang serius.
COPPA memerlukan kebenaran ibu bapa yang boleh disahkan sebelum perkhidmatan mengumpul maklumat peribadi daripada kanak-kanak di bawah umur 13 tahun dan FTC menguatkuasakannya.
Ofcom menguatkuasakan Akta Keselamatan Dalam Talian dan telah menyatakan bahawa chatbot AI generatif boleh berada dalam skop.
SB 243 memerlukan protokol mencederakan diri dengan rujukan krisis, pendedahan AI dan perlindungan tambahan untuk kanak-kanak bawah umur yang dikenali. Ia tidak melarang chatbots untuk kanak-kanak di bawah umur.
Bagi kanak-kanak bawah umur yang dikenali, undang-undang menambah peringatan melanggar dan bukan manusia serta langkah terhadap kandungan seksual eksplisit.
Kewajipan undang-undang selalunya bergantung pada perkara yang diketahui atau patut dijangkakan oleh perkhidmatan tentang siapa yang menggunakannya, jadi pengisytiharan diri sahaja adalah lemah.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Akta Keselamatan Dalam Talian UK dan Bot Sembang AI
Masyarakat