ДалееДалее в Ответственный пользователь ИИ
ИИ и конфиденциальность
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Предвзятость ИИ
Предвзятость ИИ может возникнуть из-за данных, измерений, выбора моделирования, человеческих суждений и более широкой системы, в которой используется модель.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Некоторые закономерности могут привести к несправедливым или вредным результатам. Оценка предвзятости требует определения контекста и последствий, а не простого удаления конфиденциального столбца из набора данных.
Ключевые выводы
- Изучите данные и варианты измерений.
- Сообщите о результатах соответствующей группы с неопределенностью.
- Оцените более широкий рабочий процесс и возможности обращения за помощью.
Глубокое погружение
Изучите, как были собраны примеры и метки. Отсутствующие популяции, противоречивые аннотации, исторические решения и выборочные измерения могут повлиять на то, что изучает модель. Целевой ярлык может отражать старый процесс, а не основной результат, который волнует людей. Измеряйте эффективность в соответствующих группах и условиях с помощью подходящих средств контроля конфиденциальности. Сообщите о размерах выборки и неопределенности. Небольшая подгруппа может иметь ненадежные оценки, в то время как глобальное среднее значение может скрывать большое и практически важное неравенство. Различные критерии справедливости отвечают на разные вопросы и могут противоречить друг другу. Уравнивание одного статистического показателя не решает всех этических или юридических проблем. Выбирайте критерии с учетом опыта предметной области и участия людей, затронутых системой. Просмотрите рабочий процесс вокруг модели. То, как используются прогнозы, кто может оспорить результат и как собирается обратная связь, может изменить распределение вреда. Оцените меры по смягчению последствий с точки зрения их предполагаемого эффекта и возможных новых проблем. Относитесь к справедливости как к постоянной оценке, а не как к единоразовому сертификату.
04Рабочий пример
Следите за общим счетом
В изобретенном тесте группа А содержит 900 примеров с точностью 95%, а группа Б — 100 примеров с точностью 60%.
В общем результате преобладает группа А. Сообщите о группе В отдельно и проверьте ее ошибки и неопределенность выборки.
Прежде чем выбирать меры по снижению риска, изучите причины покрытия данных и рабочего процесса.
Что это показывает
Эти гипотетические подсчеты иллюстрируют, почему совокупный балл не может обеспечить справедливую производительность.
Реальная реализация
Сравните уровень ошибок в реальных условиях эксплуатации с указанными размерами выборки.
Проверьте, отражает ли ярлык обучения прошлые решения, а не предполагаемый результат.
Применение на практике
Почему это важно
- Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
- Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
- Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Следите за
- Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
- Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
- Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Следующие шаги
- Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
- Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
- Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
- Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Источники и дальнейшее чтение
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the AI Bias quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Можно ли устранить предвзятость, удалив демографические поля?
Не только этим шагом. Прокси-переменные, метки, методы сбора данных и решения о развертывании по-прежнему могут приводить к неодинаковым результатам.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме