GDPR dan Pengambilan Keputusan Otomatis
Peraturan Perlindungan Data Umum UE memberikan hak kepada manusia ketika komputer membuat keputusan penting tentang mereka secara otomatis.
Ikhtisar
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Menyelam Lebih Dalam
GDPR, yang berlaku sejak Mei 2018, merupakan undang-undang privasi utama UE. Ketentuan yang paling relevan dengan AI adalah Pasal 22, yang menyatakan bahwa masyarakat mempunyai hak untuk tidak tunduk pada keputusan yang hanya didasarkan pada pemrosesan otomatis yang menghasilkan dampak hukum atau dampak signifikan serupa, seperti penolakan pinjaman otomatis atau penolakan perekrutan otomatis. Ada pengecualian: keputusan dapat diperbolehkan jika diperlukan untuk suatu kontrak, diizinkan oleh hukum, atau berdasarkan persetujuan yang jelas. Meski begitu, organisasi harus memberikan perlindungan, termasuk hak atas campur tangan manusia, untuk mengekspresikan sudut pandang Anda, dan untuk menentang keputusan tersebut. Pasal 22 berlaku apabila keputusan tersebut bersifat otomatis dan signifikan, terlepas dari apakah AI terlibat atau tidak.
Wawasan Teknis
Pasal 22 bergantung pada dua batasan: keputusan harus dilakukan secara otomatis (tidak ada keterlibatan manusia yang berarti) dan mempunyai dampak signifikan secara hukum atau serupa. Hasil algoritma yang dicap oleh manusia tidak dihitung sebagai tinjauan yang berarti. Dikombinasikan dengan Pasal 13-15, pengawas harus memberikan informasi yang bermakna tentang logika yang terlibat. Hal ini mendorong perusahaan menuju model dan catatan audit yang dapat dijelaskan, karena mereka harus mampu menggambarkan bagaimana masukan dipetakan ke dalam suatu keputusan.
Dampak Strategis
Risk and safety
Kerugian akibat AI yang bersifat bencana dan sehari-hari bergantung pada siapa yang memahami risikonya dan siapa yang dapat bertindak.
Clearer decisions
Literasi masyarakat dan profesional menentukan apakah kebijakan keselamatan yang kuat memungkinkan secara politis.
Cutting through hype
Penjelasan yang jelas mengurangi penangkapan oleh hype, PR laboratorium, dan teater etika yang tidak jelas.
Masa Depan GDPR dan Pengambilan Keputusan Otomatis
Penegakan GDPR semakin intensif, dan kini tumpang tindih dengan UU AI UE, yang menambahkan kewajiban berjenjang risiko untuk sistem berisiko tinggi seperti penilaian kredit dan perekrutan. Harapkan lebih banyak panduan tentang apa yang dianggap sebagai keputusan yang sepenuhnya otomatis, pengawasan yang lebih ketat terhadap pembuatan profil, dan denda yang besar (hingga 4% dari omset global). Pengadilan, termasuk Pengadilan Kehakiman UE dalam kasus penilaian kredit SCHUFA, secara aktif melakukan klarifikasi ketika pembuatan skor itu sendiri memicu perlindungan Pasal 22.
Implementasi Dunia Nyata
Bank secara otomatis menolak permohonan kartu kredit menggunakan algoritma penilaian, kemudian harus menawarkan pemohon cara untuk meminta peninjauan manusia.
Pemberi pinjaman online harus memberi tahu peminjam yang ditolak faktor utama di balik penolakan otomatis berdasarkan hak atas informasi yang bermakna tentang logika tersebut.
Platform ekonomi pertunjukan yang secara otomatis menonaktifkan pengemudi berdasarkan peringkat menghadapi tantangan Pasal 22 dibandingkan pemberhentian otomatis saja.
Perekrut yang menggunakan perangkat lunak penyaringan CV AI harus membangun pos pemeriksaan manusia sebelum penolakan perekrutan terakhir untuk mematuhi Pasal 22.
Risiko & Pagar Pembatas
Memperlakukan risiko eksistensial sebagai fiksi ilmiah sementara kemampuan bertambah.
Membingungkan keamanan produk permukaan dengan penyelarasan dalam otonomi tinggi.
Membiarkan audiens non-Inggris dan non-ahli hanya memiliki sumber berkualitas rendah.
Peta Jalan Implementasi
Pisahkan risiko bahaya, penyalahgunaan, dan hilangnya kendali/ketidakselarasan produk.
Tanyakan bukti apa yang akan mengubah pandangan Anda mengenai jangka waktu dan tingkat keparahannya.
Lebih memilih sumber primer dan evaluasi konkrit dibandingkan klaim pemasaran.
Identifikasi satu jalur tindakan: karier, kebijakan, pendanaan, atau keterampilan – bukan hanya kesadaran.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Pengambilan Keputusan AI
Pertanyaan yang sering diajukan
What is GDPR and Automated Decision-Making?
Peraturan Perlindungan Data Umum UE memberikan hak kepada manusia ketika komputer membuat keputusan penting tentang mereka secara otomatis. Ini adalah salah satu aturan paling berpengaruh di dunia yang menentukan bagaimana sistem AI dapat digunakan di Eropa.
Artikel GDPR manakah yang secara khusus membahas keputusan yang hanya didasarkan pada pemrosesan otomatis?
Pasal 22 memberikan individu hak untuk tidak tunduk pada keputusan yang hanya didasarkan pada pemrosesan otomatis yang mempunyai dampak signifikan secara hukum atau serupa.
Agar Pasal 22 dapat diterapkan, keputusan otomatis secara umum harus mempunyai dampak seperti apa?
Perlindungan ini terpicu ketika suatu keputusan menghasilkan dampak hukum atau berdampak signifikan terhadap orang tersebut, seperti penolakan pinjaman atau penolakan pekerjaan.
Jika keputusan yang hanya bersifat otomatis diperbolehkan berdasarkan pengecualian, perlindungan apa yang biasanya harus diberikan oleh organisasi?
Perlindungan mencakup hak untuk campur tangan manusia, untuk mengekspresikan sudut pandang seseorang, dan untuk menentang keputusan.
Apa arti manusia yang sekadar memberi stempel pada keluaran algoritma untuk Pasal 22?
Keterlibatan manusia yang berarti memerlukan tinjauan yang tulus dan wewenang untuk mengesampingkannya; penandatanganan token membuat keputusan tetap berada dalam cakupan Pasal 22.