PANDUAN Masyarakat

Penilaian Impak Algoritma

Penilaian kesan algoritmik (AIA) ialah semakan berstruktur, yang dilakukan sebelum dan semasa penggunaan, yang mengenal pasti siapa yang boleh dipengaruhi oleh sistem automatik atau AI, apa kemudaratan yang boleh ditimbulkan dan perlindungan yang akan mengurangkannya.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan Penilaian Impak Algoritma
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Ia penting kerana ia memaksa organisasi untuk mendokumenkan risiko dan keputusan lebih awal, dan peraturan seperti Arahan Kanada mengenai Pembuatan Keputusan Automatik dan Akta AI EU kini memerlukan versinya.

Menyelam dalam

AIA meminjam daripada penilaian kesan alam sekitar dan privasi: fikirkan akibat sebelum bertindak, tuliskannya dan komited untuk mengurangkannya. Penilaian yang baik biasanya meliputi tujuan sistem dan asas undang-undang; keputusan yang disokong dan berapa banyak ia menggantikan penilaian manusia; sumber data dan kualitinya; kumpulan yang terjejas, terutamanya yang terdedah; kemudaratan yang boleh dijangka seperti diskriminasi, kesilapan, kehilangan privasi atau pengecualian; laluan pengawasan, penjelasan dan rayuan; dan rancangan untuk pemantauan dan semakan. Kanada menawarkan contoh kerajaan yang paling terkenal. Arahannya mengenai Pembuatan Keputusan Automatik, berkuat kuasa sejak 2019, memerlukan institusi persekutuan melengkapkan Penilaian Kesan Algoritma sebelum menggunakan sistem keputusan automatik. AIA ialah soal selidik dalam talian dengan soalan risiko dan soalan mitigasi. Skor meletakkan sistem pada satu daripada empat tahap impak, daripada impak kecil hingga sangat tinggi, dan setiap peringkat mencetuskan keperluan khusus, seperti semakan rakan sebaya, notis kepada orang yang terjejas, campur tangan manusia dalam membuat keputusan dan penjelasan. Penilaian yang lengkap diterbitkan di portal data terbuka kerajaan. Akta AI EU menambah penilaian impak hak asasi (FRIA) di bawah Perkara 27. Ia terpakai kepada pelaksana sistem berisiko tinggi yang merupakan badan awam atau entiti swasta yang menyediakan perkhidmatan awam, dan kepada pelaksana sistem tertentu seperti pemarkahan kredit dan harga insurans hayat dan kesihatan. FRIA menerangkan cara dan kekerapan sistem digunakan, siapa yang terjejas, risiko khusus, langkah pengawasan manusia dan perkara yang berlaku jika risiko menjadi kenyataan, dan pelaksana memberitahu pihak berkuasa pengawasan pasaran. Ia melengkapkan, bukannya menggantikan, penilaian kesan perlindungan data di bawah GDPR. Salah tanggapan yang lazim ialah AIA ialah borang pematuhan sekali sahaja. Nilainya datang daripada mengubah keputusan reka bentuk dan daripada disemak semula apabila sistem, data atau konteks berubah.

Pelaksanaan Dunia Sebenar

Jabatan persekutuan Kanada yang merancang untuk menggunakan model untuk mencuba permohonan visa melengkapkan soal selidik AIA dalam talian kerajaan, menerima tahap impak, dan kemudiannya mesti mengatur semakan rakan sebaya dan penglibatan manusia dalam keputusan akhir seperti yang diperlukan oleh tahap itu.

Sebuah bank serantau di EU yang menggunakan sistem pemarkahan kredit berisiko tinggi menyediakan penilaian kesan hak asasi yang menerangkan kumpulan pemohon yang terjejas, risiko diskriminasi, pengaturan pengawasan manusia dan cara aduan akan dikendalikan.

Agensi perumahan bandar yang mempertimbangkan alat pemarkahan risiko penyewa menjalankan perundingan awam sebagai sebahagian daripada penilaiannya, dan memutuskan untuk menggugurkan sejarah pengusiran sebagai input selepas peguam bela menunjukkan ia menjejaki diskriminasi masa lalu.

Sebuah hospital yang menggunakan model amaran sepsis mengemas kini penilaian impaknya selepas setahun digunakan, menambah pemantauan kadar penggera palsu merentas wad dan kumpulan pesakit.

Masa Depan Penilaian Impak Algoritma

Penilaian impak menjadi sebahagian standard tadbir urus AI dan bukannya latihan etika pilihan. Memandangkan kewajipan Akta AI EU untuk sistem berisiko tinggi berkuat kuasa, organisasi akan memerlukan templat berulang dan pengawal selia boleh menerbitkan panduan lanjut tentang kandungan FRIA yang mencukupi. Piawaian seperti ISO/IEC 42005 boleh membantu menyelaraskan amalan merentas negara. Soalan terbuka ialah kualiti dan kebebasan: penilaian yang ditulis oleh pasukan yang sama yang ingin menggunakan sistem boleh menjadi kotak. Penerbitan penilaian, perundingan awam yang bermakna dan semakan luaran adalah mekanisme yang paling mungkin memastikan mereka jujur, tetapi sejauh mana ia akan diterima pakai masih tidak pasti.

Mempraktikkannya

Mengapa ia penting

  • Risiko dan keselamatan. Kemudaratan AI malapetaka dan setiap hari bergantung pada siapa yang memahami risiko dan siapa yang boleh bertindak.
  • Keputusan yang lebih jelas. Celik awam dan profesional membentuk sama ada dasar keselamatan yang kukuh adalah mungkin dari segi politik.
  • Memotong keterujaan. Penjelasan yang jelas mengurangkan tangkapan oleh gembar-gembur, PR makmal dan teater etika yang tidak jelas.

Berhati-hati untuk

  • Merawat risiko kewujudan sebagai sci-fi manakala sebatian keupayaan.
  • Mengelirukan keselamatan produk permukaan dengan penjajaran di bawah autonomi tinggi.
  • Meninggalkan khalayak bukan Inggeris dan bukan pakar dengan hanya sumber berkualiti rendah.

Langkah seterusnya

  1. Asingkan bahaya produk, penyalahgunaan dan kehilangan kawalan / risiko salah jajaran.
  2. Tanya apakah bukti yang akan mengubah pandangan anda tentang garis masa dan keterukan.
  3. Lebih suka sumber utama dan penilaian konkrit berbanding tuntutan pemasaran.
  4. Kenal pasti satu laluan tindakan: kerjaya, dasar, pembiayaan atau kemahiran — bukan sahaja kesedaran.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the Algorithmic Impact Assessments quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah itu Penilaian Kesan Algoritma?

Penilaian kesan algoritmik (AIA) ialah semakan berstruktur, yang dilakukan sebelum dan semasa penggunaan, yang mengenal pasti siapa yang boleh dipengaruhi oleh sistem automatik atau AI, apa kemudaratan yang boleh ditimbulkan dan perlindungan yang akan mengurangkannya. Ia penting kerana ia memaksa organisasi untuk mendokumenkan risiko dan keputusan lebih awal, dan peraturan seperti Arahan Kanada mengenai Pembuatan Keputusan Automatik dan Akta AI EU kini memerlukan versinya.

Apakah tujuan utama penilaian kesan algoritma?

AIA ialah semakan berstruktur ke atas orang yang terjejas, kemudaratan dan pengurangan yang boleh dijangka, dilakukan lebih awal dan dilawati semula dari semasa ke semasa.

Apakah jenis penilaian yang mengilhamkan pendekatan AIA?

AIA meminjam daripada penilaian kesan alam sekitar dan privasi: jangkakan akibat, dokumentasikannya dan komited terhadap pengurangan.

Dalam AIA Kanada, apakah yang ditentukan oleh skor soal selidik?

Skor meletakkan sistem dalam satu daripada empat tahap impak, setiap satu dengan keperluan seperti semakan rakan sebaya, notis dan campur tangan manusia.

Di manakah AIA lengkap Kanada disediakan?

AIA Kanada yang lengkap diterbitkan pada portal data kerajaan terbuka, menyokong ketelusan.

Di bawah Akta AI EU, artikel manakah yang menetapkan penilaian kesan hak asasi?

Artikel 27 Akta AI meliputi FRIA untuk penggembur tertentu sistem berisiko tinggi.