SeterusnyaPanduan seterusnya
GDPR dan Pembuatan Keputusan Automatik
Masyarakat
PANDUAN Masyarakat
Proses wajar untuk keputusan kerajaan automatik bertanya sama ada seseorang yang terjejas oleh keputusan awam menerima prosedur yang diperlukan oleh undang-undang yang terpakai.
Dengar panduan iniAI-diceritakan · ~3 min
Bergantung pada konteks, itu boleh termasuk notis yang jelas, akses kepada sebab dan bukti, peluang yang bermakna untuk bertindak balas, dan semakan oleh pegawai yang boleh membetulkan kesilapan; output automatik tidak menggantikan kewajipan tersebut.
Agensi kerajaan menggunakan perisian untuk mengisih aplikasi, membenderakan ketidakkonsistenan, mengutamakan pemeriksaan, menganggarkan risiko dan menyokong keputusan manfaat atau pelesenan. Automasi boleh mempercepatkan proses, tetapi ralat boleh menjejaskan pendapatan, perumahan, penjagaan kesihatan, imigresen atau kebebasan. Proses wajar ialah konsep undang-undang tentang prosedur apabila tindakan kerajaan menjejaskan kepentingan yang dilindungi. Ia tidak memerlukan langkah yang sama dalam setiap tetapan, dan kehadiran algoritma tidak menentukan proses yang perlu dibuat. Keputusan Mahkamah Agung dalam Mathews lwn. Eldridge menerangkan pendekatan pengimbangan khusus konteks: pertimbangkan kepentingan peribadi yang terjejas, risiko kekurangan yang salah di bawah prosedur semasa dan nilai perlindungan tambahan, dan kepentingan kerajaan, termasuk beban pentadbiran. Kes-kes lain menangani program dan peringkat tertentu. Oleh itu, sistem automatik harus dinilai berhubung dengan pihak berkuasa undang-undang, jenis keputusan dan semakan yang tersedia—bukan dengan senarai semak universal yang mendakwa setiap orang sentiasa mempunyai hak pendengaran yang sama. Perlindungan praktikal selalunya termasuk notis yang mengenal pasti tindakan dan tarikh berkuat kuasa, penjelasan jelas tentang fakta dan peraturan penting, akses kepada rekod yang diperlukan untuk bertindak balas, dan laluan untuk merayu. Penyemak harus dapat memeriksa data sumber, mempertimbangkan bukti yang bertentangan, dan mengubah keputusan yang salah. Semakan manusia nominal adalah lemah jika orang itu hanya melihat skor atau tidak boleh keluar dari sistem. Agensi harus mengekalkan versi model, rekod input, penggantian dan penjelasan supaya penyemak kemudian boleh membina semula keputusan itu. Agensi juga harus menguji sama ada orang boleh menggunakan proses tersebut. Notis mungkin diperincikan secara undang-undang tetapi mengelirukan; tarikh akhir rayuan mungkin tidak dapat diakses oleh seseorang yang kurang upaya atau halangan bahasa. Kadar ralat hendaklah diperiksa mengikut jenis keputusan dan kumpulan yang terjejas di mana sah dan bersesuaian secara statistik. Perolehan harus menyediakan akses kepada log, keputusan ujian dan kemas kini. Apabila mahkamah atau statut menetapkan prosedur khusus, keperluan tersebut mengawal.
Agensi menghantar notis khusus yang menerangkan rekod yang menyebabkan penafian faedah dan cara mengemukakan pembetulan atau rayuan.
Pegawai pendengaran boleh memeriksa kedua-dua pengesyoran algoritma dan bukti sumber dan bukannya dikehendaki menerima skor.
Pasukan perolehan memerlukan vendor untuk mengekalkan log keputusan dan menerangkan cara sesuatu kes mencapai hasil yang buruk.
Agensi menguji sama ada orang yang menggunakan pembaca skrin atau notis bahasa Inggeris terhad boleh memahami dan mencabar keputusan automatik.
Agensi awam akan terus menggunakan alatan automatik sambil mengurus program volum tinggi. Keperluan undang-undang akan berkembang melalui statut, peraturan agensi dan keputusan mahkamah, dengan prosedur yang berbeza merentas konteks. Kebolehjelasan dan log audit yang lebih baik boleh membantu penyemak, tetapi pendedahan dan akses juga bergantung pada peraturan undang-undang dan vendor. Sistem masa hadapan harus membina notis yang boleh diakses, kuasa menyemak dan rekod tentang cara hasil dicapai. Agensi harus menilai semula proses apabila model, ambang, sumber data atau akibat keputusan berubah. Pasukan harus menyemak semula proses yang sewajarnya untuk keputusan kerajaan automatik apabila peraturan dan alatan yang mentadbir berubah.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Proses wajar untuk keputusan kerajaan automatik bertanya sama ada seseorang yang terjejas oleh keputusan awam menerima prosedur yang diperlukan oleh undang-undang yang terpakai. Bergantung pada konteks, itu boleh termasuk notis yang jelas, akses kepada sebab dan bukti, peluang yang bermakna untuk bertindak balas, dan semakan oleh pegawai yang boleh membetulkan kesilapan; output automatik tidak menggantikan kewajipan tersebut.
Mathews mengimbangi faedah yang terjejas, risiko ralat dan perlindungan serta beban kerajaan.
Seseorang perlu memahami asas keputusan dan cara bertindak balas.
Seseorang mesti mempunyai kuasa dan maklumat untuk membetulkan kesilapan.
Jejak keputusan membolehkan penyemak kemudian melihat bagaimana hasilnya dihasilkan.
Notis mesti menyampaikan alasan yang boleh digunakan kepada orang yang menerimanya.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
GDPR dan Pembuatan Keputusan Automatik
Masyarakat