РУКОВОДСТВО ПО ОБЩЕСТВУ

Теневой ИИ на рабочем месте

Теневой ИИ — это использование сотрудниками инструментов ИИ, таких как личные учетные записи чат-ботов, расширения браузера или функции ИИ в неутвержденных приложениях, без ведома или одобрения их организации.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее теневого искусственного интеллекта на рабочем месте
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Это важно, поскольку конфиденциальные данные могут покинуть компанию через запросы и загрузки, а обязательства по соблюдению требований могут быть нарушены незаметно для всех. Полные запреты, как правило, загоняют использование в подполье, а не прекращают его.

Глубокое погружение

Теневой ИИ возник из простого пробела: инструменты ИИ полезны, дешевы и доступны на вкладке браузера, в то время как одобренные альтернативы часто отсутствуют или менее эффективны. Большинство сотрудников, использующих несанкционированный ИИ, не действуют злонамеренно. Они пытаются быстрее писать, анализировать данные или исправлять код. Этот термин следует за термином «теневые ИТ», который описывает несанкционированное программное обеспечение и облачные сервисы, но ИИ повышает ставки, поскольку весь смысл заключается в том, чтобы вставить реальный рабочий контент. Риски делятся на несколько групп. Во-первых, это утечка данных. Подсказки и загруженные файлы могут сохраняться провайдером и, в зависимости от сервиса и настроек, использоваться для улучшения моделей. Потребительский и бизнес-уровни часто различаются, а бизнес-предложения крупных поставщиков обычно по умолчанию исключают данные о клиентах из обучения. Самый известный случай — Samsung. Сообщается, что в 2023 году инженеры ввели конфиденциальный исходный код и записи встреч в ChatGPT, а затем Samsung ограничила использование генеративного ИИ на устройствах компании. Второе – соответствие. Передача персональных данных обработчику, у которого нет контракта, может привести к нарушению законов о конфиденциальности, таких как GDPR, а в регулируемых секторах действуют дополнительные правила. Третье – качество и ответственность. Непроверенные результаты ИИ могут оказаться в работе клиента без записи об их источнике. Четвертый — это сами инструменты, такие как расширения и плагины, требующие широких разрешений. Организации, которые хорошо управляют теневым ИИ, склонны использовать комплекс мер вместо запрета. Они предлагают одобренные корпоративные инструменты с подходящими условиями использования данных. Они пишут краткую политику допустимого использования, которая сортирует данные по тому, что можно и что нельзя использовать в инструментах ИИ. Они используют технические средства контроля, такие как предотвращение потери данных и мониторинг доменов ИИ. И они дают людям быстрый способ запросить новые инструменты. Распространенным заблуждением является то, что блокировка одного популярного чат-бота решает проблему. Существуют сотни служб искусственного интеллекта и встроенных функций, а сотрудники могут использовать личные телефоны.

Реальная реализация

Инженер вставляет собственный исходный код в личный аккаунт чат-бота, чтобы найти ошибку. Это похоже на инциденты, произошедшие в Samsung в 2023 году, которые заставили компанию ограничить инструменты генеративного искусственного интеллекта.

Рекрутер загружает электронную таблицу с именами кандидатов, зарплатами и заметками об интервью в бесплатный инструмент искусственного интеллекта, чтобы обобщить ее, отправляя персональные данные поставщику без какого-либо соглашения об обработке данных.

Координатор по маркетингу устанавливает расширение браузера для написания искусственного интеллекта, которое может считывать содержимое каждой открываемой ею веб-страницы, включая внутренние информационные панели.

Администратор больницы использует несанкционированное приложение для транскрипции, чтобы подвести итог встречи, на которой обсуждались случаи пациентов, что создает риск соблюдения конфиденциальности в отношении здоровья.

Будущее теневого искусственного интеллекта на рабочем месте

Поскольку функции ИИ внедряются в обычное программное обеспечение, такое как офисные пакеты, браузеры и операционные системы, грань между одобренным и теневым ИИ будет размыта. Вопрос в том, какие функции ИИ включены и на каких условиях, а не какие веб-сайты посещают сотрудники. Автономные агенты, которые могут действовать на основе данных, еще больше повышают ставки. Организации, скорее всего, перейдут к программам управления ИИ, которые инвентаризируют инструменты, классифицируют данные и обучают персонал, а не полагаются на сетевые блоки. Такие правила, как Закон ЕС об искусственном интеллекте, добавляют обязательства для некоторых видов использования, что увеличивает необходимость знать, какой искусственный интеллект на самом деле используется.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the Shadow AI in the Workplace quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое теневой ИИ на рабочем месте?

Теневой ИИ — это использование сотрудниками инструментов ИИ, таких как личные учетные записи чат-ботов, расширения браузера или функции ИИ в неутвержденных приложениях, без ведома или одобрения их организации. Это важно, поскольку конфиденциальные данные могут покинуть компанию через запросы и загрузки, а обязательства по соблюдению требований могут быть нарушены незаметно для всех. Полные запреты, как правило, загоняют использование в подполье, а не прекращают его.

Что такое теневой ИИ?

Теневой ИИ — это несанкционированное использование ИИ, например, личные учетные записи чат-ботов, расширения или несанкционированные функции ИИ.

Почему ИИ повышает ставки по сравнению с обычными теневыми ИТ?

Ценность ИИ заключается в наполнении его реальным рабочим контентом, что напрямую создает риск раскрытия данных.

Что произошло в Samsung в 2023 году?

Сообщается, что конфиденциальный исходный код и записи встреч были введены в ChatGPT, что привело к ограничениям на устройства компании.

Согласно руководству, что обычно делают бизнес-предложения от крупных поставщиков ИИ по умолчанию?

Бизнес-уровни обычно по умолчанию исключают данные о клиентах из обучения, что является одной из причин, по которой утвержденные корпоративные инструменты снижают риск.

Почему в руководстве говорится, что прямой запрет часто не дает результатов?

Блокировка одного чат-бота оставляет множество альтернатив, и сотрудники могут переключиться на личные устройства, поэтому использование остается незамеченным.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →