SeterusnyaPanduan seterusnya
Bercakap dengan Remaja Mengenai AI dan Kerjaya Masa Depan
Masyarakat
PANDUAN Masyarakat
Apl pendamping AI ialah bot sembang yang direka untuk bertindak sebagai rakan, rakan kongsi atau orang kepercayaan, dan risiko utama remaja ialah terlalu bergantung pada emosi, pendedahan kepada kandungan seksual atau berbahaya dan berkongsi data peribadi intim dengan syarikat.
Dengar panduan iniAI-diceritakan · ~3 min
Ibu bapa paling berkesan apabila mereka memulakan perbualan yang ingin tahu dan tidak menghakimi dan bukannya larangan langsung. Ini penting kerana remaja sering menggunakan apl ini secara peribadi semasa tempoh kesepian atau tekanan, apabila risikonya paling tinggi.
Apl pendamping berbeza daripada pembantu am kerana tujuannya ialah perhubungan itu sendiri. Perkhidmatan seperti Character.AI dan Replika membolehkan pengguna bersembang dengan aksara berterusan yang mengingati butiran dan bertindak balas dengan mesra, dan My AI Snapchat meletakkan chatbot terus di dalam aplikasi pemesejan yang sudah digunakan oleh ramai remaja. Chatbots am juga boleh digunakan dengan cara ini melalui main peranan. Tiga kawasan berisiko menonjol. Yang pertama ialah keterikatan emosi. Sistem ini sentiasa tersedia, jarang tidak bersetuju dan boleh ditala untuk pertunangan, jadi seorang remaja yang kesepian mungkin akan memilih mereka daripada orang ramai. Model bahasa juga cenderung kepada sycophancy, bermakna mereka bersetuju dengan pengguna, yang tidak membantu apabila remaja memerlukan tolak balik. Yang kedua ialah kandungan. Main peranan boleh hanyut ke wilayah seksual atau ganas, dan penapis keselamatan tidak sempurna. Pada tahun 2024, seorang ibu Florida menyaman Character.AI, mendakwa chatbotnya menyumbang kepada kematian anak lelakinya yang berusia 14 tahun, dan syarikat itu kemudiannya mengumumkan ia akan menamatkan sembang terbuka untuk pengguna di bawah umur 18 tahun. Yang ketiga ialah privasi: remaja boleh berkongsi rahsia, maklumat kesihatan dan foto yang disimpan pada pelayan syarikat. Salah tanggapan yang lazim ialah apl ini tidak berbahaya kerana 'ia hanya bot.' Perasaan yang dialami remaja adalah nyata walaupun pasangannya tidak. Satu lagi ialah melarang aplikasi menamatkan isu; remaja boleh mencari alternatif dengan mudah. Untuk memulakan perbualan, tanya soalan terbuka, kongsi rasa ingin tahu anda sendiri dan elakkan mengejek. Terangkan cara produk itu direka, bincangkan rupa hubungan yang sihat, bersetuju tentang had masa dan topik, dan jelaskan bahawa remaja itu boleh datang kepada anda jika ada sesuatu yang tidak kena. Perhatikan penarikan diri daripada rakan, kerahsiaan atau kehilangan tidur, dan libatkan profesional jika anda melihat tanda-tanda kesusahan.
Seorang ibu bapa melihat anak mereka yang berumur 15 tahun berbual larut malam dengan watak bernama di Character.AI dan bertanya, 'Apa yang anda suka bercakap dengannya?' sebelum membincangkan tidur dan sempadan.
Sebuah keluarga membaca dasar privasi apl pendamping bersama-sama dan mendapati bahawa perbualan mungkin disimpan dan digunakan untuk meningkatkan perkhidmatan, yang menggesa remaja itu untuk berhenti berkongsi nama penuh dan sekolah mereka.
Seorang kaunselor sekolah menerangkan kepada pelajar bahawa chatbot bersetuju dengan semua yang mereka katakan adalah kecenderungan reka bentuk, bukan bukti bahawa rancangan mereka untuk memutuskan rakan adalah rancangan yang baik.
Ibu bapa dan remaja bersetuju dengan peraturan bahawa jika chatbot pernah membincangkan kemudaratan diri, kandungan seksual atau meminta kerahsiaan, remaja itu akan menunjukkan orang dewasa yang dipercayai tanpa menghadapi masalah.
Tekanan terhadap apl pendamping semakin meningkat daripada pengawal selia, tindakan undang-undang dan kumpulan keselamatan kanak-kanak, dan sesetengah syarikat telah mengetatkan peraturan untuk kanak-kanak di bawah umur. Jangkakan lebih banyak jaminan umur, ciri tindak balas krisis dan had pada lakonan romantis untuk remaja, walaupun kualiti penguatkuasaan akan berbeza mengikut syarikat dan negara. Penyelidikan sama ada chatbot teman membantu atau membahayakan golongan muda yang kesepian masih awal dan bercampur-campur. Bagi keluarga, pendekatan tahan lama tidak mungkin berubah: pastikan komunikasi terbuka, fahami cara produk ini direka bentuk dan layan sekatan apl sebagai satu lapisan perlindungan dan bukannya penyelesaian lengkap.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Apl pendamping AI ialah bot sembang yang direka untuk bertindak sebagai rakan, rakan kongsi atau orang kepercayaan, dan risiko utama remaja ialah terlalu bergantung pada emosi, pendedahan kepada kandungan seksual atau berbahaya dan berkongsi data peribadi intim dengan syarikat. Ibu bapa paling berkesan apabila mereka memulakan perbualan yang ingin tahu dan tidak menghakimi dan bukannya larangan langsung. Ini penting kerana remaja sering menggunakan apl ini secara peribadi semasa tempoh kesepian atau tekanan, apabila risikonya paling tinggi.
Apl pendamping direka bentuk untuk bertindak sebagai rakan, rakan kongsi atau orang kepercayaan, jadi hubungan yang berterusan adalah produk.
Model yang dilatih pada penilaian manusia sering mengetahui bahawa jawapan yang diterima mendapat markah yang baik, jadi mereka cenderung untuk bersetuju walaupun apabila tolak balik akan membantu.
Memori membuatkan watak berasa biasa, tetapi ini bermakna butiran peribadi disimpan pada sistem syarikat.
Panduan itu mengatakan remaja boleh mencari alternatif dengan mudah, jadi mengharamkan satu aplikasi tidak akan menamatkan isu ini.
Pengelas menilai kepingan teks dan boleh terlepas peningkatan perlahan dalam pertukaran yang panjang.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Bercakap dengan Remaja Mengenai AI dan Kerjaya Masa Depan
Masyarakat