SeterusnyaPanduan seterusnya
Algoritma Penipuan Pengangguran Michigan MiDAS
Aplikasi
PANDUAN Masyarakat
Model Analytics Uitkeringsfraude Rotterdam membantu memilih penerima bantuan sosial untuk semakan manusia; skornya tidak mewujudkan penipuan atau menamatkan faedah.
Dengar panduan iniAI-diceritakan · ~3 min
Audit 2021 memberi amaran tentang risiko kelegapan dan bias proksi, manakala usaha pengganti yang berasingan bermula pada Januari 2022 dan dijeda pada 2023; kemasukan pendaftaran awam mendokumenkan model pemilihan 2017–2022, tetapi pautan tepatnya kepada artifak yang dipulihkan tidak terbukti.
Projek Analytics Uitkeringsfraude Rotterdam menggunakan model risiko untuk membantu memilih penerima untuk semakan. Dalam jawapan parlimen 2021, kerajaan Belanda menyampaikan akaun perbandaran: model menganggarkan risiko daripada data pentadbiran faedah sejarah; penerima kemudiannya boleh dijemput ke perbualan, dan pekerja menilai kesahihan. Perbandaran itu berkata ia tidak secara autonomi mewujudkan penipuan dan menyifatkan latihan sebagai proses yang dikendalikan manusia menggunakan penyiasatan sejarah dan rekod yang disimpan. Skor masih boleh membentuk siapa yang menghadapi penelitian. Laporan 2021 Mahkamah Audit Rotterdam "Teknologi Gekleurde" mengenal pasti jurang tadbir urus dan ketelusan. Ia berkata rakyat mempunyai sedikit keupayaan untuk memahami bagaimana algoritma mempengaruhi pemilihan dan memberi amaran bahawa proksi seperti celik huruf rendah boleh mencipta output berat sebelah. Audit tidak menyiasat sama ada keputusan sebenarnya tidak adil. Maklum balas kerajaan mengakui bahawa hubungan tidak langsung dengan ciri-ciri yang dilindungi boleh menghasilkan berat sebelah dan menyebut keupayaan bercakap sebagai proksi yang mungkin untuk asal usul atau etnik. Ini adalah risiko yang didokumenkan, bukan penemuan yang setiap kumpulan didiskriminasi. Pasukan penyiasat 2023 menerbitkan kod dan menggambarkan memperoleh model dan rekod terlatih. Repositorinya mendokumenkan artifak 315 ciri dan gangguan profil terkawal. Ujian ini bercakap dengan versi pulih dan profil yang dipilih; mereka tidak menganggarkan semua kadar ralat penerima atau membuktikan pelanggaran undang-undang. Mahkamah Audit juga mendapati pihak perbandaran tidak menilai dengan secukupnya sama ada model itu mengatasi kaedah lama atau kesannya. Entri daftar "Heronderzoeken Uitkeringsgerechtigden" tarikh algoritma pemilihan Januari 2017–Februari 2022 dan menandakan ia berhenti awal 2022. Tempoh dan fungsi pemilihannya sejajar dengan projek Uitkeringsfraude Analitis yang lebih lama, tetapi jangan buktikan rekod daftar ini ialah artifak kod yang dipulihkan. Susulan Mahkamah Audit 2024 secara berasingan mengatakan pembangunan model risiko pemeriksaan semula pengganti bermula Januari 2022 dan dijeda pada 2023. Daftar itu tidak dikenal pasti sebagai pengganti itu. Skor sahaja membuktikan tiada penipuan.
Penerima bertanya sama ada jemputan untuk menyemak faedah mereka mengikuti skor algoritma dan maklumat yang mempengaruhi pemilihan.
Juruaudit membezakan kedudukan risiko daripada pencarian fakta penyiasat dan keputusan undang-undang majlis perbandaran tentang faedah individu.
Semakan keadilan menguji sama ada bahasa atau ciri yang direkodkan oleh pekerja kes bertindak sebagai proksi untuk sifat yang dilindungi, tanpa menganggap korelasi sebagai bukti diskriminasi.
Seorang penyelidik membuat skop ujian terkawal bagi artifak model yang dipulihkan kepada versi itu dan profil ujian tersebut dan bukannya memanggilnya sebagai kajian impak peringkat populasi.
Jawapan audit dan parlimen 2021 menerangkan bekas projek berisiko penipuan dan peranan semakan manusianya. Daftar awam menetapkan tarikh algoritma pemilihan dari Januari 2017 hingga Februari 2022 dan menandakan ia berhenti pada awal 2022; audit 2024 secara berasingan melaporkan bahawa pembangunan model pengganti bermula pada Januari 2022 dan telah dijeda pada 2023. Sumber yang ada tidak menetapkan bahawa entri daftar adalah pengganti atau ia betul-betul sepadan dengan artifak yang dipulihkan. Semak rekod dan versi sebelum membuat tuntutan penggunaan semasa. Teruskan membezakan risiko proksi yang didokumenkan, ujian artifak, hasil yang diukur dan penemuan undang-undang rasmi.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Model Analytics Uitkeringsfraude Rotterdam membantu memilih penerima bantuan sosial untuk semakan manusia; skornya tidak mewujudkan penipuan atau menamatkan faedah. Audit 2021 memberi amaran tentang risiko kelegapan dan bias proksi, manakala usaha pengganti yang berasingan bermula pada Januari 2022 dan dijeda pada 2023; kemasukan pendaftaran awam mendokumenkan model pemilihan 2017–2022, tetapi pautan tepatnya kepada artifak yang dipulihkan tidak terbukti.
Maklum balas kerajaan 2021 menerangkan anggaran risiko yang digunakan untuk menjemput penerima ke perbualan; seseorang kemudian menilai kesahan faedah.
Audit mengenal pasti risiko proksi dan perlindungan yang tidak mencukupi tetapi berkata ia tidak menyiasat sama ada output sebenarnya tidak adil.
Model yang dilatih mengenai kes yang disiasat sebelum ini boleh mewarisi cara kes tersebut dipilih; ini adalah risiko metodologi, bukan bukti perbezaan tertentu.
Audit membincangkan literasi rendah; jawapan kerajaan menyatakan kebolehan bertutur secara tidak langsung boleh dikaitkan dengan asal usul atau etnik.
Pembiakan yang dikeluarkan menyokong ujian gangguan khusus artifak; sensitiviti profil sintetik bukanlah anggaran kesan populasi atau penemuan undang-undang.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Algoritma Penipuan Pengangguran Michigan MiDAS
Aplikasi