SeterusnyaPanduan seterusnya
Lorek Jantina dan Audit Bias Pengecaman Muka
Masyarakat
PANDUAN Masyarakat
Audit AI adalah penilaian terstruktur terhadap sistem AI, atau organisasi yang mengendalikannya, berdasarkan kriteria yang ditetapkan seperti ketepatan, keadilan, keselamatan, keperluan undang-undang atau piawaian tadbir urus, yang dijalankan secara dalaman, oleh pihak ketiga bebas, atau di bawah mandat regulator.
Dengar panduan iniAI-diceritakan · ~3 min
Jaminan pihak ketiga penting kerana tuntutan tentang sistem AI sukar untuk disahkan oleh pihak luar, dan audit menjadi cara utama regulator, pembeli dan orang awam memeriksanya.
AI audits differ in who does them and what they examine. Internal audits are run by the organization itself, ideally by a team separate from the builders; Raji and colleagues' 2020 framework proposed an end-to-end internal audit process across a system's development. External audits come from outsiders. Some are cooperative, with access to data and code; others are adversarial, like journalists or researchers testing a system through its public interface. Regulatory audits are required or performed under law. Methods fall into three broad groups. Governance or process audits check policies, documentation, roles and risk management. Technical audits test the model: performance across subgroups, robustness, security, and behaviour on edge cases, sometimes including red teaming. Outcome audits look at real-world effects, for example comparing decisions across groups or using sock-puppet accounts to probe a recommendation system. Conformity assessment is a related legal concept. Under the EU AI Act, providers of high-risk systems must show compliance before placing them on the market. For most standalone high-risk uses this is an internal control procedure, while certain biometric systems and AI in products already covered by EU safety laws may involve a notified body. New York City's Local Law 144 requires independent bias audits for automated employment decision tools, and the EU Digital Services Act requires independent audits of very large online platforms. Independence is the persistent weakness. Auditors are usually paid by the company being audited, may receive limited access, and often work without agreed standards for what counts as passing. Critics warn of audit-washing, where a narrow audit is presented as a clean bill of health. A common misconception is that an audit certifies a system as safe or fair in general; it only speaks to the criteria, scope and time period examined.
Majikan di New York City yang menggunakan alat penapisan resume automatik mengupah audit bias bebas yang melaporkan nisbah impak kadar pemilihan mengikut jantina dan kategori kaum atau etnik, seperti yang dikehendaki oleh Undang-Undang Tempatan 144 bandar tersebut.
Penyelidik menanyakan perkhidmatan analisis wajah komersial dengan set wajah yang seimbang dan menerbitkan kadar ralat mengikut jenis kulit dan jantina, audit luar yang dijalankan tanpa kerjasama vendor, seperti kajian Gender Shades 2018.
Sebuah syarikat perisian mencari pensijilan sistem pengurusan AI-nya mengikut ISO/IEC 42001 daripada badan pensijilan yang diakreditasi supaya pelanggan perusahaan dapat melihat kawalan tadbir urusnya telah diperiksa.
Sebuah platform dalam talian yang sangat besar di EU menjalani audit bebas tahunan ke atas pengurusan risikonya, termasuk sistem cadangannya, di bawah Akta Perkhidmatan Digital.
Industri jaminan AI sedang terbentuk, termasuk firma perakaunan, syarikat permulaan pakar, makmal ujian dan badan pensijilan. Kerja piawaian, seperti ISO/IEC 42001 untuk sistem pengurusan dan piawaian berkaitan bagi badan yang menentukannya, bertujuan menjadikan audit lebih dapat dibandingkan. Kerajaan termasuk UK telah menerbitkan rancangan untuk mengembangkan jaminan AI sebagai pasaran. Isu utama yang belum diselesaikan ialah akreditasi auditor, akses kepada dalaman model untuk penyelidik luar, dan siapa yang membayar tanpa mencipta konflik kepentingan. Audit model tujuan umum masih sangat tidak matang, kerana penggunaan mereka tidak terhad. Harapkan profesionalisme bertahap daripada satu kaedah yang dipersetujui dalam jangka masa terdekat.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Audit AI ialah penilaian berstruktur terhadap sistem AI, atau organisasi yang mengendalikannya, berbanding kriteria yang ditetapkan seperti ketepatan, keadilan, keselamatan, keperluan undang-undang atau piawaian tadbir urus, yang dilaksanakan secara dalaman, oleh pihak ketiga bebas, atau di bawah mandat regulator. Jaminan pihak ketiga penting kerana dakwaan mengenai sistem AI sukar disahkan oleh pihak luar, dan audit menjadi cara utama regulator, pembeli dan orang ramai memeriksanya.
Audit luar bersaing dilakukan oleh pihak luar, seperti wartawan atau penyelidik, yang menyelidik sistem tanpa kerjasama atau akses istimewa.
Audit proses memeriksa bagaimana organisasi mengurus AI, bukannya menguji model secara langsung.
Undang-Undang Tempatan 144 memerlukan audit bias bebas, termasuk nisbah impak mengikut kategori demografi.
Nisbah impak membandingkan kadar pemilihan setiap kategori dengan kategori yang paling banyak dipilih.
Kebanyakan sistem berisiko tinggi berdiri sendiri menggunakan kawalan dalaman, manakala beberapa sistem biometrik dan produk yang dikawal selia mungkin melibatkan badan yang diberitahu.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Lorek Jantina dan Audit Bias Pengecaman Muka
Masyarakat