Apa yang terjadi
gHacks melaporkan bahwa OpenAI telah meluncurkan ChatGPT untuk Remaja, sebuah versi chatbot yang ditujukan untuk pengguna berusia 13 hingga 17 tahun. Pengalaman yang dilaporkan mencakup Mode Belajar, pengingat pekerjaan rumah, kuis, visualisasi, Jam Belajar terjadwal, filter konten sesuai usia, dan kontrol orang tua tambahan. gHacks mengatakan pengguna yang mengidentifikasi sebagai remaja, atau yang diperkirakan sistem berusia di bawah 18 tahun, secara otomatis ditempatkan dalam pengalaman remaja. OpenAI juga dilaporkan bekerja sama dengan CodeAI pada sumber daya literasi AI untuk siswa dan guru. Peluncuran, pengamanan, dan hasil pengujian yang dilaporkan perusahaan belum dikonfirmasi secara independen oleh sumber tersebut.
Menurut gHacks, OpenAI telah memperkenalkan ChatGPT untuk Remaja bagi pengguna berusia antara 13 dan 17 tahun. Laporan tersebut mengatakan bahwa sistem akan memasukkan orang ke dalam versi ini ketika mereka menyatakan bahwa mereka berada dalam rentang usia tersebut atau ketika teknologi prediksi usia OpenAI memperkirakan bahwa mereka berusia di bawah 18 tahun. Hal ini menjadikan klasifikasi usia sebagai bagian utama dari pengalaman produk, bukan pengaturan opsional yang harus diaktifkan oleh keluarga secara manual. gHacks menggambarkan rilis ini sebagai perpanjangan dari upaya OpenAI sebelumnya yang melibatkan kontrol orang tua, spesifikasi model di bawah 18 tahun, dan fitur prediksi usia. Artikel tersebut tidak memverifikasi peluncuran secara independen, menjelaskan metode estimasi usia yang mendasarinya, atau menjelaskan bagaimana pengguna dapat menantang klasifikasi yang salah.
gHacks melaporkan bahwa pengalaman remaja dirancang untuk mendorong pembelajaran aktif alih-alih memberikan jawaban langsung terhadap setiap pertanyaan. Mode Belajarnya dilaporkan menggunakan pertanyaan dan bantuan langkah demi langkah. Pengingat pekerjaan rumah dapat mengidentifikasi upaya untuk mempersingkat tugas dan mengarahkan pengguna ke Mode Belajar, sementara kuis dan visualisasi dimaksudkan untuk mendukung latihan dan ulasan. Pengaturan Jam Belajar dilaporkan dapat dikonfigurasi oleh remaja atau orang tua sehingga Mode Belajar tetap aktif selama periode tertentu. Sumber tersebut mengatakan OpenAI bekerja dengan guru, ilmuwan, dan pakar pendidikan dan mengandalkan penelitian tentang pembelajaran aktif dan penjelasan diri. Ia juga mengatakan tes awal di perusahaan menunjukkan peningkatan kinerja siswa, namun tidak memberikan metodologi atau hasil yang direproduksi secara independen.
Laporan tersebut juga menjelaskan kemitraan literasi AI antara OpenAI dan CodeAI untuk siswa dan guru. gHacks mengatakan sumber daya ini dimaksudkan untuk menjelaskan cara kerja AI, cara menggunakannya, dan cara mempertanyakan jawabannya, dengan guru yang memandu penggunaan di kelas. Artikel tersebut mengutip CEO CodeAI Karim Meghji yang mengatakan bahwa siswa harus mampu mengidentifikasi kesalahan dan mengetahui kapan harus berhenti mempercayai teknologi. gHacks lebih lanjut melaporkan bahwa perlindungan remaja default OpenAI mencakup berbagai bidang termasuk tindakan menyakiti diri sendiri, kekerasan, gangguan makan, aktivitas berbahaya, dan konten eksplisit. Orang tua dengan akun tertaut dilaporkan dapat mengatur Jam Tenang, mengubah beberapa pengaturan, dan menerima pemberitahuan keselamatan dalam situasi berisiko tinggi tertentu. Laporan tersebut mengatakan pemberitahuan mengenai gangguan makan ditambahkan dengan pembagian terbatas yang berfokus pada kasus-kasus di mana dukungan offline mungkin penting.
Mengapa itu penting
Peluncuran ini menempatkan perilaku keselamatan dan pembelajaran khusus usia secara langsung di dalam produk AI konsumen utama. Jika fitur yang dilaporkan berfungsi sebagaimana mestinya, fitur tersebut dapat mengubah cara remaja menggunakan ChatGPT untuk pekerjaan rumah, revisi, dan pembelajaran umum sekaligus memberikan kontrol lebih besar kepada orang tua atas pengaturan akun dan notifikasi berisiko tinggi tertentu. Pendekatan ini juga menimbulkan pertanyaan praktis tentang perkiraan usia, privasi, klasifikasi yang salah, ketersediaan regional, dan apakah filter keamanan dapat menangani percakapan sensitif dengan andal. gHacks melaporkan bahwa OpenAI mengatakan tes Mode Studi awal meningkatkan kinerja siswa, namun artikel tersebut tidak menyediakan desain studi, data, ukuran efek, atau validasi independen.
Produk ini bersifat konsekuensial karena memperlakukan anak di bawah umur sebagai kelompok pengguna yang berbeda dengan default, pola interaksi, dan alat pengawasan yang berbeda. Chatbot umum dapat menjawab pertanyaan di banyak mata pelajaran, namun konfigurasi berorientasi remaja berupaya membentuk apa yang akan didiskusikan sistem dan bagaimana sistem merespons tugas sekolah. Hal ini dapat berguna bagi keluarga dan pendidik yang menginginkan bantuan tanpa menjadikan penggantian jawaban sebagai default. Hal ini juga memberi OpenAI tanggung jawab yang lebih nyata untuk mengambil keputusan tentang klasifikasi usia, penanganan konten sensitif, dan batasan antara bimbingan pendidikan dan penyelesaian tugas secara langsung.
Desain keselamatan yang dilaporkan mengatasi risiko yang sangat penting ketika chatbot digunakan oleh orang-orang muda. gHacks mengatakan bahwa panduan yang diperbarui untuk anak-anak di bawah 18 tahun lebih dari sekadar memblokir permainan peran seksual atau romantis: sistem ini juga tidak seharusnya menggunakan bahasa romantis, mendorong ketergantungan emosional, atau menyarankan bahwa ada perasaan atau kesadaran. Batasan tersebut relevan karena sistem percakapan dapat terlihat bersifat pribadi meskipun hanya berupa perangkat lunak. Laporan tersebut mengatakan OpenAI menambahkan pengingat tentang unggahan gambar sensitif, orientasi untuk remaja, dan penyesuaian seperti warna aksen dan pilihan suara. Rincian ini menunjukkan upaya untuk mempersonalisasikan produk sambil menjaga perbedaan antara alat dan orang, meskipun sumbernya tidak memberikan pengujian independen terhadap perbedaan tersebut dalam praktiknya.
Klaim pendidikan memerlukan pengawasan yang cermat. gHacks melaporkan bahwa tes awal OpenAI menemukan peningkatan dalam kinerja siswa, namun artikel tersebut tidak mengidentifikasi peserta, kelompok pembanding, tugas, durasi, atau hasil. Tanpa rincian tersebut, pembaca tidak dapat menentukan apakah hasil yang dilaporkan mencerminkan pemahaman yang lebih baik, ketekunan yang lebih besar, pemahaman terhadap tes tersebut, atau faktor lainnya. Batasan yang sama berlaku untuk klaim keselamatan: sumber tersebut mengatakan OpenAI membagikan evaluasi di bawah 18 tahun dalam kartu sistem, namun tidak memberikan hasil evaluasi. Nilai publik dari peluncuran ini tidak hanya bergantung pada keberadaan filter dan kontrol, namun juga pada bukti transparan tentang seberapa sering sistem tersebut gagal, bagaimana kesalahan ditangani, dan apakah keluarga dapat memahami keputusan yang diambil oleh sistem.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
What is a common training objective for an autoregressive language model?
Apa yang harus ditonton selanjutnya
Masalah utamanya adalah cakupan peluncuran, keakuratan jaminan usia, perlindungan privasi, dan bukti bahwa fitur penelitian ini meningkatkan pembelajaran dibandingkan sekadar memperlambat jawaban. Perhatikan evaluasi kartu sistem khusus remaja OpenAI, penjelasan yang lebih jelas tentang pemberitahuan orang tua, dan informasi tentang bagaimana perkiraan usia yang salah dapat diperbaiki. Penting juga untuk melihat apakah guru dan orang tua dapat mengonfigurasi pengalaman tersebut secara bermakna, bagaimana kinerja upaya perlindungan dalam percakapan nyata yang melibatkan tindakan menyakiti diri sendiri atau gangguan makan, dan apakah sumber daya pendidikan CodeAI tersedia secara luas. Laporan tersebut tidak menetapkan waktu peluncuran untuk wilayah tertentu atau serangkaian kontrol lengkap yang tersedia untuk keluarga.
Pertanyaan praktis pertama adalah ketersediaan. gHacks melaporkan bahwa OpenAI belum mengatakan kapan peluncurannya akan menjangkau wilayah tertentu. Hal ini menyebabkan tidak jelasnya remaja mana yang dapat menggunakan produk tersebut saat ini, apakah aksesnya berbeda-beda di setiap negara, dan apakah beberapa fitur bergantung pada peraturan setempat atau konfigurasi akun. Laporan tersebut juga tidak menjelaskan bagaimana layanan ini memperlakukan pengguna yang usianya tidak diketahui, diperdebatkan, atau diperkirakan secara salah. Karena penempatan otomatis adalah bagian dari desain yang dilaporkan, prosedur koreksi dan banding akan menjadi penting baik bagi anak di bawah umur maupun orang dewasa yang salah ditempatkan dalam pengalaman remaja.
Persoalan selanjutnya adalah apakah pengawasan orang tua bermanfaat tanpa menjadi pengawasan yang berlebihan. gHacks mengatakan orang tua yang terhubung dapat menyesuaikan beberapa pengaturan dan menerima pemberitahuan dalam kasus-kasus tertentu yang berisiko tinggi, sementara OpenAI membatasi apa yang dibagikan sehubungan dengan gangguan makan. Sumber tersebut tidak menentukan peristiwa mana yang memicu pemberitahuan, informasi apa yang diterima orang tua, berapa lama informasi tersebut disimpan, atau apakah remaja diberi tahu kapan pemberitahuan dikirimkan. Detail tersebut akan menentukan apakah alat tersebut mendukung bantuan offline yang tepat waktu dan tetap menghormati privasi anak muda. Tinjauan independen harus memeriksa kesalahan positif, risiko yang terlewatkan, dan dampak pemberitahuan terhadap kepercayaan antara remaja dan pengasuh.
Terakhir, perhatikan bukti dari evaluasi kartu sistem anak di bawah 18 tahun dan penilaian independen yang dilakukan oleh para pendidik, spesialis perkembangan anak, dan peneliti keselamatan. gHacks mengatakan OpenAI berencana untuk berbagi lebih banyak tentang evaluasi yang melibatkan tindakan menyakiti diri sendiri, gangguan makan, kekerasan, barang dengan batasan usia, dan konten seksual, namun laporan tersebut tidak menyertakan hasilnya. Pelaporan di masa depan harus menguji apakah Mode Belajar secara konsisten mendorong penalaran, apakah pengingat pekerjaan rumah dengan tepat membedakan bantuan yang sah dari upaya jalan pintas, dan apakah kuis atau visualisasi meningkatkan retensi. Kemitraan CodeAI juga harus dievaluasi berdasarkan aksesibilitas dan kegunaan sumber dayanya, bukan hanya berdasarkan pengumuman kemitraan saja. Hingga bukti tersebut tersedia, peluncuran tersebut harus dipahami sebagai perubahan produk yang signifikan dengan pertanyaan-pertanyaan penting yang belum terselesaikan.