ДалееДалее в Ответственный пользователь ИИ
ИИ и авторское право
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
ИИ и конфиденциальность
Конфиденциальность ИИ касается того, как сбор, вывод, хранение и раскрытие информации системой могут повлиять на людей.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Защита конфиденциальности требует понимания всего потока данных. Скрытие имени или локальное использование модели не устраняет автоматически все риски конфиденциальности.
Ключевые выводы
- Нанесите на карту все места обработки и хранения.
- Минимизируйте информацию для задачи.
- Проверьте средства управления производными данными, а также исходными данными.
Глубокое погружение
Определите, что входит в систему и что из этого можно сделать. Подсказки, документы, изображения, голосовые записи, результаты работы инструментов и журналы использования могут содержать личную информацию. Запишите, какие поставщики и внутренние службы обрабатывают каждую категорию. Собирайте только то, что необходимо для выполнения задачи, и установите политику хранения. Отделите временный контекст от сохраненной памяти, аналитики, журналов отладки и использования при обучении. Пользователи должны иметь возможность понимать соответствующие настройки, не полагаясь на неподтвержденные утверждения помощника о его собственном поведении. Применяйте элементы управления доступом к исходным и производным данным. Поисковые индексы, внедрения, кэшированные ответы и экспортированные отчеты могут раскрывать информацию даже после удаления исходной загрузки. Протестируйте удаление и изоляцию учетной записи с помощью реального приложения. Тщательно оценивайте заявления о технической конфиденциальности. Деидентификация и синтетические данные могут иметь ограничения, в то время как формальные методы, такие как дифференциальная конфиденциальность, зависят от их механизма и параметров. При обработке косвенных данных ознакомьтесь с предполагаемым использованием, моделью угроз и применимыми требованиями, обладая соответствующими знаниями.
04Рабочий пример
Свернуть пример поддержки
Предположим, команде нужен образец сообщения для проверки классификации. Оригинал включает полный адрес, номер заказа и несвязанную медицинскую информацию.
Замените или удалите ненужные для теста поля, используя явно вымышленные заполнители.
Храните всю оставшуюся реальную информацию под документированным контролем доступа и хранения, а не предполагайте, что образец является анонимным.
Что это показывает
Это гипотетическое упражнение уменьшает ненужное раскрытие информации, не утверждая при этом, что простое редактирование доказывает анонимность.
Реальная реализация
Удалите несвязанные личные данные перед отправкой документа в авторизованную службу.
Убедитесь, что удаленный документ больше не отображается в результатах поиска пользователя.
Применение на практике
Почему это важно
- Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
- Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
- Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Следите за
- Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
- Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
- Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Следующие шаги
- Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
- Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
- Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
- Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Источники и дальнейшее чтение
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the AI & Privacy quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Является ли модель на устройстве автоматически конфиденциальной?
Локальная обработка может сократить некоторые передачи, но конфиденциальность также зависит от журналов, хранилища, подключенных сервисов, разрешений и того, как используются выходные данные.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме