Викторина, связанная с руководством · Жесткий Уровень

Тест на риски безопасности кода, сгенерированного искусственным интеллектом

Выявляйте риски в сгенерированном коде, проверяйте зависимости и границы доверия, изолируйте выполнение и применяйте меры безопасности.

Вопрос 1 из 8

SQL-запрос, сгенерированный искусственным интеллектом, вставляет пользовательский текст непосредственно в командную строку. Что должен проверить рецензент?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. SQL-запрос, сгенерированный искусственным интеллектом, вставляет пользовательский текст непосредственно в командную строку. Что должен проверить рецензент?
    • Имеет ли запрос описательное имя переменной
    • Использование параметризованных запросов и проверка ненадежных входных данных.
    • Дал ли ассистент высокий балл доверия
    • Использовалась ли в демо небольшая база данных
  2. Сгенерированный патч добавляет новый пакет с правдоподобным именем. Что должно произойти перед добавлением его в производство?
    • Предположим, что пакет существует, поскольку импорт компилируется в ответе.
    • Немедленно скопируйте его имя в сценарий развертывания.
    • Проверьте точный пакет и оцените его сопровождающего, версию и рекомендации по безопасности.
    • Отключите сканирование зависимостей, чтобы избежать предупреждений.
  3. Почему приложению опасно передавать сгенерированный моделью текст непосредственно в оболочку или привилегированный API?
    • Непроверенный вывод может вызвать непредвиденные команды или действия.
    • Модель всегда будет отклонять небезопасный ввод.
    • Оболочка не может запускать текст, созданный программным обеспечением.
    • Проверка вывода имеет значение только для изображений
  4. Сгенерированный скрипт необходимо протестировать, но его поведение незнакомо. Какая среда безопаснее?
    • Рабочий сервер с доступом администратора
    • Ноутбук разработчика, содержащий все персональные токены.
    • Общая среда с неограниченным доступом к сети и файлам
    • Песочница с минимальными разрешениями и без производственных учетных данных.
  5. Инструмент сканирования кода не сообщает об отсутствии результатов по сгенерированным изменениям. Какой вывод может сделать команда?
    • Патч безопасен от всех угроз
    • Сканер не обнаружил проблем в ходе проверок, но это не доказывает безопасность кода.
    • Ручная проверка не требуется
    • Код не может содержать логические ошибки
  6. Какой набор элементов управления обеспечивает более надежную проверку, чем использование только модели?
    • Запрос модели на сертификацию собственного кода
    • Только успешная компиляция
    • Проверка кода, тестирование, сканирование зависимостей и секретов, а также проверка модели угроз.
    • Копия сгенерированного кода в README.
  7. Почему агент должен иметь явное одобрение перед развертыванием или удалением данных?
    • Эти действия могут иметь серьезные последствия и должны оставаться под ответственным человеческим контролем.
    • Одобрение ускоряет компиляцию кода
    • Развертывание устраняет все уязвимости безопасности.
    • Удаление данных всегда обратимо
  8. Разработчик хочет защитить учетные данные, обращаясь за помощью к ИИ-помощнику. Какова самая безопасная практика быстрого реагирования?
    • Вставьте производственные токены, чтобы модель могла их протестировать.
    • Включите все файлы среды, чтобы избежать потери контекста.
    • Попросите модель запомнить учетные данные для следующего задания.
    • Удалите секреты и используйте одобренный сервис только с необходимым контекстом кода.