GDPR и автоматизирано вземане на решения
Общият регламент за защита на данните на ЕС дава права на хората, когато компютрите автоматично вземат важни решения за тях.
Преглед
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Дълбоко гмуркане
GDPR, който е в сила от май 2018 г., е водещият закон за поверителността на ЕС. Неговата най-подходяща за AI разпоредба е член 22, който казва, че хората имат право да не бъдат обект на решение, основаващо се единствено на автоматизирана обработка, която произвежда правни или подобни значими последици, като автоматични откази на заеми или автоматизирани откази на наемане. Има изключения: решението може да бъде допуснато, ако е необходимо за договор, разрешено от закона или въз основа на изрично съгласие. Дори тогава организацията трябва да предложи гаранции, включително правото на човешка намеса, за да изразите своята гледна точка и да оспорите решението. Член 22 се прилага винаги, когато решението е изцяло автоматизирано и значимо, независимо дали е участвал ИИ.
Техническа информация
Член 22 зависи от два прага: решението трябва да бъде изцяло автоматизирано (без значимо човешко участие) и да има правни или подобни значими последици. Човешко щамповане на изхода на алгоритъм не се счита за смислен преглед. В съчетание с членове 13-15, администраторите трябва да предоставят съдържателна информация относно включената логика. Това тласка фирмите към обясними модели и одитни регистрационни файлове, тъй като те трябва да могат да опишат как входящите данни се съпоставят с решение.
Стратегическо въздействие
Risk and safety
Катастрофалните и ежедневните вреди от ИИ зависят от това кой разбира рисковете и кой може да действа.
Clearer decisions
Обществената и професионалната грамотност определя дали силната политика за безопасност е политически възможна.
Cutting through hype
Ясните обяснения намаляват улавянето от шум, лабораторен PR и неясен етичен театър.
Бъдещето на GDPR и автоматизираното вземане на решения
Прилагането на GDPR се засилва и сега се припокрива със Закона за изкуствен интелект на ЕС, който добавя рискови нива на задължения за високорискови системи като кредитен рейтинг и наемане. Очаквайте повече насоки за това какво се счита за изцяло автоматизирано решение, по-стриктен контрол на профилирането и големи глоби (до 4% от глобалния оборот). Съдилищата, включително Съдът на ЕС по делото за кредитен рейтинг SCHUFA, активно изясняват кога самото генериране на резултат задейства защитата по член 22.
Внедряване в реалния свят
Банката автоматично отхвърля заявление за кредитна карта, използвайки алгоритъм за оценяване, след което трябва да предложи на кандидата начин да поиска проверка от човек.
Онлайн заемодателят трябва да каже на отхвърления кредитополучател основните фактори зад автоматичния отказ съгласно правото на смислена информация относно логиката.
Платформа за икономия на концерти, която автоматично деактивира драйвери въз основа на оценки, е изправена пред предизвикателства по член 22 пред единствено автоматизираните уволнения.
Служител, използващ софтуер за скрининг на CV с изкуствен интелект, трябва да изгради контролен пункт за хора преди окончателно отхвърляне на наемане, за да спази член 22.
Рискове и предпазни огради
Третирането на екзистенциалния риск като научна фантастика, докато способностите се смесват.
Объркваща безопасност на повърхностния продукт с подравняване при висока автономност.
Оставяйки неанглийската и неекспертната публика само с източници с ниско качество.
Пътна карта за изпълнение
Отделете рисковете от увреждане на продукта, неправилна употреба и загуба на контрол/неправилно подравняване.
Попитайте кои доказателства биха променили мнението ви за сроковете и тежестта.
Предпочитайте първичните източници и конкретните оценки пред маркетинговите твърдения.
Определете един път на действие: кариера, политика, финансиране или умения - не само информираност.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
AI Вземане на решения
Frequently asked questions
What is GDPR and Automated Decision-Making?
Общият регламент за защита на данните на ЕС дава права на хората, когато компютрите автоматично вземат важни решения за тях. Това е едно от най-влиятелните правила в света, определящи начина, по който AI системите могат да се използват върху европейците.
Кой член от GDPR конкретно разглежда решения, базирани единствено на автоматизирана обработка?
Член 22 предоставя на лицата правото да не бъдат обект на решения, основани единствено на автоматизирана обработка, които имат правни или подобни значими последици.
За да се приложи член 22, какъв ефект трябва да има автоматичното решение?
Защитата се задейства, когато дадено решение поражда правни последици или по подобен начин значително засяга лицето, като отказ на заем или отхвърляне на работа.
Когато по изключение е разрешено изцяло автоматизирано решение, каква защита обикновено трябва да предостави организацията?
Гаранциите включват правото на човешка намеса, да изразиш своята гледна точка и да оспориш решението.
Какво означава човек, който просто подпечатва изхода на алгоритъма за член 22?
Смисленото човешко участие изисква истински преглед и власт, която да бъде отменена; знаковото подписване запазва решението в обхвата на член 22.