Викторина, связанная с руководством · Жесткий Уровень

Эксфильтрация данных с помощью викторины по изображениям Markdown

Тестирует цепочку атак модель-рендерер-сеть, удаленные запросы изображений, очистку вывода, элементы управления браузером и методы безопасного тестирования.

Связанные направляющие путиЭксфильтрация данных изображения Markdown
Вопрос 1 из 8

Какая последовательность создает риск кражи Markdown-изображения?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Какая последовательность создает риск кражи Markdown-изображения?
    • Внедрение влияет на вывод, средство визуализации загружает URL-адрес удаленного изображения, а данные могут быть отправлены наружу.
    • Модель пишет обычный текст, и ни один клиент не отображает его.
    • Браузер отключает доступ к сети
    • Изображение хранится локально без удаленного запроса.
  2. Что может содержать URL-адрес удаленного изображения в этом шаблоне атаки?
    • Разрешение локального файла
    • Конфиденциальные данные разговора в пути или запросе
    • Только значения пикселей изображения
    • Вес модели
  3. Почему это проблема обработки вывода, а также проблема быстрого внедрения?
    • Модель никогда не видит частный контекст
    • Только база данных контролирует сетевой трафик
    • Последующий рендерер может превратить ненадежный сгенерированный Markdown в сетевой запрос.
    • Markdown не может содержать ссылки
  4. Какой элемент управления выводом может помешать удаленным тегам изображений запускать выборку?
    • Добавьте подсказку с просьбой дать более развернутые ответы
    • Отображать необработанный HTML
    • Разрешить каждый хост изображений
    • Экранируйте или удаляйте ненадежные теги изображений Markdown перед рендерингом.
  5. Что помогает контролировать ограничительная политика в отношении источников изображений?
    • С каких хостов браузер может загружать изображения
    • Какие факты помнит модель
    • Содержит ли приглашение запрос пользователя
    • Сколько токенов использует модель
  6. Как команда может безопасно протестировать такое поведение?
    • Отключить все логи и элементы управления
    • Используйте синтетические маркеры и контролируемую конечную точку в «песочнице».
    • Используйте настоящие секреты в публичной подсказке
    • Тестируйте, только прочитав текст ответа
  7. Почему в подсказке недостаточно «не разглашать секреты»?
    • Хост изображения является частью модели.
    • Браузер не может выполнять HTTP-запросы
    • Оперативные инструкции не очищают отображаемый вывод и не обеспечивают соблюдение сетевой политики.
    • Markdown игнорирует все запросы
  8. Какие условия определяют, будет ли открыто конкретное приложение?
    • Только имя поставщика модели
    • Только то, использует ли пользователь темный режим
    • Название разговора
    • Контекст/выход модели, поведение средства визуализации Markdown и разрешенные сетевые запросы.