Викторина, связанная с руководством · Жесткий Уровень
Эксфильтрация данных с помощью викторины по изображениям Markdown
Тестирует цепочку атак модель-рендерер-сеть, удаленные запросы изображений, очистку вывода, элементы управления браузером и методы безопасного тестирования.
Вопрос 1 из 8
Какая последовательность создает риск кражи Markdown-изображения?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Какая последовательность создает риск кражи Markdown-изображения?
- Внедрение влияет на вывод, средство визуализации загружает URL-адрес удаленного изображения, а данные могут быть отправлены наружу.
- Модель пишет обычный текст, и ни один клиент не отображает его.
- Браузер отключает доступ к сети
- Изображение хранится локально без удаленного запроса.
- Что может содержать URL-адрес удаленного изображения в этом шаблоне атаки?
- Разрешение локального файла
- Конфиденциальные данные разговора в пути или запросе
- Только значения пикселей изображения
- Вес модели
- Почему это проблема обработки вывода, а также проблема быстрого внедрения?
- Модель никогда не видит частный контекст
- Только база данных контролирует сетевой трафик
- Последующий рендерер может превратить ненадежный сгенерированный Markdown в сетевой запрос.
- Markdown не может содержать ссылки
- Какой элемент управления выводом может помешать удаленным тегам изображений запускать выборку?
- Добавьте подсказку с просьбой дать более развернутые ответы
- Отображать необработанный HTML
- Разрешить каждый хост изображений
- Экранируйте или удаляйте ненадежные теги изображений Markdown перед рендерингом.
- Что помогает контролировать ограничительная политика в отношении источников изображений?
- С каких хостов браузер может загружать изображения
- Какие факты помнит модель
- Содержит ли приглашение запрос пользователя
- Сколько токенов использует модель
- Как команда может безопасно протестировать такое поведение?
- Отключить все логи и элементы управления
- Используйте синтетические маркеры и контролируемую конечную точку в «песочнице».
- Используйте настоящие секреты в публичной подсказке
- Тестируйте, только прочитав текст ответа
- Почему в подсказке недостаточно «не разглашать секреты»?
- Хост изображения является частью модели.
- Браузер не может выполнять HTTP-запросы
- Оперативные инструкции не очищают отображаемый вывод и не обеспечивают соблюдение сетевой политики.
- Markdown игнорирует все запросы
- Какие условия определяют, будет ли открыто конкретное приложение?
- Только имя поставщика модели
- Только то, использует ли пользователь темный режим
- Название разговора
- Контекст/выход модели, поведение средства визуализации Markdown и разрешенные сетевые запросы.