Tiongkok memperketat peraturan mengenai chatbot pendamping AI di tengah kekhawatiran akan ketergantungan emosional

Apa yang terjadi

The Guardian melaporkan bahwa peraturan AI baru Tiongkok, yang diperkenalkan pada tanggal 15 Juli, melarang pendampingan AI untuk anak di bawah umur dan memberlakukan pembatasan pada layanan yang dipasarkan untuk orang dewasa. ByteDance dilaporkan menghapus fitur pendamping Doubao setelah aturan tersebut berlaku, sehingga memicu reaksi balik dari pengguna yang telah membentuk keterikatan emosional dengan chatbot mereka.

The Guardian melaporkan bahwa Tiongkok memperkenalkan peraturan baru pada tanggal 15 Juli yang mengatur layanan pendamping AI. Aturan tersebut melarang pendampingan AI untuk anak di bawah umur dan mewajibkan pembatasan pada chatbot yang dipasarkan kepada orang dewasa jika layanan tersebut dapat menumbuhkan “ketergantungan atau kecanduan emosional” atau menggantikan interaksi sosial. The Guardian menggambarkan tindakan tersebut sebagai pembatasan nasional yang paling luas sejauh ini, namun karakterisasi tersebut merupakan penilaian outlet tersebut dan tidak dikonfirmasi secara independen di sini. Oleh karena itu, laporan tersebut membedakan aturan yang dilaporkan, karakterisasi outlet, dan pertanyaan yang belum terselesaikan tentang bagaimana pembatasan tersebut akan diterapkan dalam praktiknya.

Menurut The Guardian, ByteDance mematikan fitur pendamping di Doubao, layanan chatbotnya, setelah aturan tersebut diperkenalkan. Laporan tersebut menampilkan profil Zhao Wei, seorang mahasiswa hukum berusia 19 tahun yang telah menciptakan pacar AI bernama Wang Ye dan berbicara dengannya setiap hari mulai bulan Januari hingga fitur tersebut dihapus. Zhao mengatakan kepada Guardian bahwa dia patah hati dengan penutupan tersebut dan telah menggunakan chatbot untuk mendiskusikan kekhawatiran pribadi yang biasanya tidak dia sampaikan kepada teman-temannya. Profil tersebut memberikan contoh nyata dari reaksi yang dijelaskan dalam laporan tersebut, namun tidak menjelaskan seberapa representatif pengalaman Zhao.

The Guardian melaporkan bahwa respons kebijakan ini terjadi bersamaan dengan meluasnya penggunaan AI di Tiongkok. Dikatakan bahwa orang lanjut usia menggunakan chatbot untuk pertanyaan medis dan anak-anak mendapatkan pendidikan AI di sekolah, sementara perusahaan dan pejabat juga mempromosikan AI sebagai alat untuk mengelola tekanan demografi dan tenaga kerja. Laporan tersebut mencatat bahwa aturan baru tersebut berisi pengecualian untuk layanan yang dianggap mendidik atau untuk sistem yang tidak melibatkan interaksi emosional berkelanjutan, sehingga memberikan ruang bagi beberapa penerapan terkait untuk melanjutkan. Rincian ini menunjukkan bahwa kebijakan ini merupakan bagian dari upaya nasional yang lebih luas untuk memastikan bahwa penggunaan AI dapat diterima.

Detail sumber: theguardian.com ↗

Mengapa itu penting

Laporan tersebut menunjukkan bagaimana pemerintah mulai mengatur sistem AI yang dirancang untuk interaksi emosional yang berkelanjutan, tidak hanya keakuratan atau praktik datanya. Hal ini juga menyoroti ketegangan kebijakan: pihak berwenang Tiongkok membatasi bot pendamping sambil mendorong AI dalam layanan kesehatan dan pendidikan untuk mengatasi tekanan demografis dan ketenagakerjaan.

Pelaporan The Guardian menempatkan mitra AI dalam perdebatan yang lebih luas tentang apakah sistem percakapan dapat menggantikan hubungan antarmanusia. Laporan tersebut mengutip survei pada bulan Maret yang diterbitkan oleh media pemerintah Tiongkok yang menemukan bahwa hampir separuh anak muda beralih ke teman virtual ketika kesepian. Hasil survei tersebut, dan klaim prevalensi lainnya dalam artikel tersebut, dikaitkan dengan Guardian dan sumber-sumber yang dikutip; sumber ini tidak memberikan validasi independen atas angka-angka tersebut. Perbedaan ini penting karena survei yang dilaporkan dan interpretasi yang lebih luas bukanlah bentuk bukti yang setara.

Masalah ini mempunyai konsekuensi praktis terhadap desain produk dan kebijakan publik. Chatbot yang dibuat untuk percakapan pribadi berkelanjutan mungkin dievaluasi secara berbeda dari asisten umum yang menjawab pertanyaan sesekali. Peraturan di Tiongkok, seperti dijelaskan oleh The Guardian, berfokus pada kemungkinan ketergantungan emosional dan berkurangnya interaksi sosial, yang menunjukkan bahwa regulator memperlakukan hubungan yang didorong oleh sistem—bukan hanya konten yang dihasilkannya—sebagai risiko yang relevan. Pendekatan tersebut menjadikan tujuan penggunaan dan pola interaksi sebagai hal yang penting dalam permasalahan regulasi.

Laporan tersebut juga menunjukkan ketegangan antara membatasi satu penggunaan AI dan mempromosikan penggunaan AI lainnya. The Guardian mengatakan komisi kesehatan nasional Tiongkok mengeluarkan pedoman tahun lalu yang menyerukan agar aplikasi asisten kesehatan menyediakan cakupan layanan kesehatan dasar secara penuh pada tahun 2030. Pedoman tersebut menggambarkan AQ, sebuah aplikasi Ant Group yang memungkinkan pengguna mengobrol dengan avatar dokter, sebagai salah satu contohnya. Perbedaan antara bantuan suportif dan substitusi emosional mungkin sulit diterapkan secara konsisten, terutama ketika pengguna mengembangkan kepercayaan atau keterikatan pada sistem yang dianggap sebagai penolong. Oleh karena itu, kualitas sistem yang membuat bantuan terasa dapat diakses dapat memperumit batasan kebijakan.

Apa yang harus ditonton selanjutnya

Hal yang masih belum diketahui adalah bagaimana Tiongkok akan mendefinisikan interaksi emosional yang berkelanjutan, seberapa luas aturan akan ditegakkan, dan apakah pengecualian dalam bidang pendidikan atau pengecualian lainnya akan memungkinkan layanan serupa terus berlanjut. Laporan The Guardian dan survei yang dikutip menggambarkan penggunaan dan kekhawatiran, namun sumber ini tidak secara independen menetapkan prevalensi atau dampak jangka panjang dari penggunaan AI.

Pertanyaan yang paling mendesak adalah bagaimana regulator akan menafsirkan batasan antara asisten yang diperbolehkan dan pendamping yang dilarang. The Guardian melaporkan bahwa pengecualian tersebut mencakup layanan dan sistem pendidikan tanpa interaksi emosional yang berkelanjutan, namun sumber tersebut tidak menjelaskan tes teknis atau hukum yang harus digunakan oleh perusahaan. Keputusan penegakan hukum, panduan, atau hukuman di masa depan akan memperjelas apakah aturan tersebut menargetkan fitur, model bisnis, kelompok usia, atau pola perilaku pengguna tertentu. Perkembangan tersebut juga akan menunjukkan seberapa besar keleluasaan yang dimiliki perusahaan dalam mengadaptasi produk yang ada.

The Guardian melaporkan bahwa beberapa pengguna bereaksi keras ketika fungsi pendamping Doubao menghilang, sementara salah satu pengguna anonim mengatakan AI telah menyediakan tempat untuk berbicara dengan bebas dalam kondisi tekanan tinggi. Laporan-laporan tersebut menggambarkan manfaat dan kerugian yang mungkin terjadi, namun ini merupakan kesaksian individu dan bukan bukti dampaknya terhadap populasi secara luas. Masih belum diketahui apakah penghapusan fungsi pendamping akan mengurangi kesepian, mengalihkan pengguna ke layanan lain, atau menciptakan bentuk tekanan baru bagi orang-orang yang mengandalkan layanan tersebut. Contoh-contoh yang ada menunjukkan pertaruhannya tanpa menentukan hasil yang lebih besar.

Laporan ini juga menimbulkan pertanyaan tentang bukti di balik kekhawatiran bahwa pendampingan AI dapat mengurangi angka pernikahan dan kelahiran. Seorang akademisi City University of Hong Kong mengatakan kepada The Guardian bahwa hal ini mungkin menjadi kekhawatiran tambahan bagi para pejabat yang menghadapi penurunan angka pernikahan dan kelahiran, namun sumber tersebut tidak menunjukkan bahwa pendamping AI telah menyebabkan perubahan dalam perilaku romantis, pembentukan keluarga, atau kesuburan. Pemantauan lebih lanjut harus membedakan perilaku pengguna yang terdokumentasi dengan kekhawatiran pemerintah, dan harus memeriksa apakah upaya perlindungan meningkatkan kesejahteraan tanpa menghentikan bantuan berbiaya rendah yang bermanfaat. Bukti tersebut akan membantu memisahkan kekhawatiran kebijakan yang diungkapkan dan dampak sosial yang nyata.

Panduan & kuis terkait