Викторина, связанная с руководством · Жесткий Уровень
Тест на риски безопасности кода, сгенерированного искусственным интеллектом
Выявляйте риски в сгенерированном коде, проверяйте зависимости и границы доверия, изолируйте выполнение и применяйте меры безопасности.
Вопрос 1 из 8
SQL-запрос, сгенерированный искусственным интеллектом, вставляет пользовательский текст непосредственно в командную строку. Что должен проверить рецензент?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- SQL-запрос, сгенерированный искусственным интеллектом, вставляет пользовательский текст непосредственно в командную строку. Что должен проверить рецензент?
- Имеет ли запрос описательное имя переменной
- Использование параметризованных запросов и проверка ненадежных входных данных.
- Дал ли ассистент высокий балл доверия
- Использовалась ли в демо небольшая база данных
- Сгенерированный патч добавляет новый пакет с правдоподобным именем. Что должно произойти перед добавлением его в производство?
- Предположим, что пакет существует, поскольку импорт компилируется в ответе.
- Немедленно скопируйте его имя в сценарий развертывания.
- Проверьте точный пакет и оцените его сопровождающего, версию и рекомендации по безопасности.
- Отключите сканирование зависимостей, чтобы избежать предупреждений.
- Почему приложению опасно передавать сгенерированный моделью текст непосредственно в оболочку или привилегированный API?
- Непроверенный вывод может вызвать непредвиденные команды или действия.
- Модель всегда будет отклонять небезопасный ввод.
- Оболочка не может запускать текст, созданный программным обеспечением.
- Проверка вывода имеет значение только для изображений
- Сгенерированный скрипт необходимо протестировать, но его поведение незнакомо. Какая среда безопаснее?
- Рабочий сервер с доступом администратора
- Ноутбук разработчика, содержащий все персональные токены.
- Общая среда с неограниченным доступом к сети и файлам
- Песочница с минимальными разрешениями и без производственных учетных данных.
- Инструмент сканирования кода не сообщает об отсутствии результатов по сгенерированным изменениям. Какой вывод может сделать команда?
- Патч безопасен от всех угроз
- Сканер не обнаружил проблем в ходе проверок, но это не доказывает безопасность кода.
- Ручная проверка не требуется
- Код не может содержать логические ошибки
- Какой набор элементов управления обеспечивает более надежную проверку, чем использование только модели?
- Запрос модели на сертификацию собственного кода
- Только успешная компиляция
- Проверка кода, тестирование, сканирование зависимостей и секретов, а также проверка модели угроз.
- Копия сгенерированного кода в README.
- Почему агент должен иметь явное одобрение перед развертыванием или удалением данных?
- Эти действия могут иметь серьезные последствия и должны оставаться под ответственным человеческим контролем.
- Одобрение ускоряет компиляцию кода
- Развертывание устраняет все уязвимости безопасности.
- Удаление данных всегда обратимо
- Разработчик хочет защитить учетные данные, обращаясь за помощью к ИИ-помощнику. Какова самая безопасная практика быстрого реагирования?
- Вставьте производственные токены, чтобы модель могла их протестировать.
- Включите все файлы среды, чтобы избежать потери контекста.
- Попросите модель запомнить учетные данные для следующего задания.
- Удалите секреты и используйте одобренный сервис только с необходимым контекстом кода.