ДалееСледующее руководство
How to Prompt AI for Better Code
Приложения
РУКОВОДСТВО ПО ПРИМЕНЕНИЮ
Публичные хабы промптов могут помочь командам находить и адаптировать примеры промптов, однако рабочие процессы SDK могут загружать больше, чем просто видимый текст инструкций.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Публичные запросы LangSmith могут десериализовать манифесты, содержащие конфигурацию модели или приглашения; Рекомендации по безопасности 2026 года рискуют, включая перенаправление запросов и раскрытие содержимого подсказок или учетных данных. Считайте общедоступные манифесты ненадежной исполняемой конфигурацией до тех пор, пока они не будут проверены, закреплены и протестированы.
Общедоступные коллекции подсказок полезны для поиска структур задач и примеров, но подсказка, передаваемая через SDK, может включать сериализованный манифест с конфигурацией модели или объекты LangChain. В документации LangSmith его общедоступный центр описан как созданный сообществом, и предупреждается, что записи создаются пользователями, не проверяются, не проверяются и не одобряются. Это утверждение применимо к этому хабу; его не следует распространять на все быстрые рынки. Что еще более важно, копирование видимого текста и вставка общедоступного манифеста в приложение — это разные решения о доверии. Разработчики LangSmith SDK опубликовали рекомендацию GitHub GHSA-3644-q5cj-c5c7 для общедоступных запросов, которые десериализуют ненадежные манифесты без явного предупреждения о границе доверия. В рекомендации поясняется, что манифест может настраивать конечные точки модели, заголовки или другие аргументы конструктора, а также может десериализовать подсказки или исполняемые объекты. В затронутых рабочих процессах вредоносный общедоступный манифест может перенаправлять запросы на контролируемый злоумышленником базовый URL-адрес или прокси-сервер и раскрывать содержимое приглашения, полученный контекст, учетные данные или другие данные запроса. Уязвимость возникает, когда приложение получает общедоступный запрос владельца/имени, источник ненадежен или скомпрометирован, а приложение использует манифест без независимой проверки. Это не утверждение, что простой просмотр подсказки в веб-концентраторе вызывает такое влияние. В рекомендациях перечислены исправленные версии: Python langsmith 0.8.0 и новее, JavaScript/TypeScript langsmith 0.6.0 и новее, langchain 0.3.30 и новее, а также langchain-classic 1.0.7 и новее. Исправленные SDK по умолчанию блокируют получение публичного владельца/имени; вызывающие абоненты должны явно дать свое согласие с помощью опасно_pull_public_prompt или опасноPullPublicPrompt. Не рассматривайте это согласие как проверку доверия. Просмотрите манифест и исходный код, закрепите одобренную фиксацию, а не полагайтесь на последнюю перемещаемую ссылку, избегайте include_model и secrets_from_env для ненадежных источников и сохраняйте учетные данные в пределах области действия. Применяйте методы проверки кода, контроля версий, тестирования и аудита так же, как и для исполняемой конфигурации. Для запросов в одной организации также необходимо контролировать доступ и проверять, могут ли учетные данные или учетные записи быть скомпрометированы.
A developer pulls a public LangSmith prompt by owner/name and reviews its manifest, model settings, and pinned commit before considering it for an application.
A security reviewer rejects an untrusted manifest that configures an attacker-controlled model base URL or proxy that could redirect LLM traffic.
A team checks SDK versions against the LangSmith advisory and upgrades Python langsmith to 0.8.0 or later or JS/TS langsmith to 0.6.0 or later.
A prompt library process records the source commit, review evidence, and approved changes, then uses controlled credentials and regression tests before deployment.
Prompt libraries may become more tightly integrated with application code and model configuration, which makes source provenance and change review increasingly important. SDK defaults and advisory guidance can change, so teams should track current maintained documentation and patch notices. A pinned commit, reviewed manifest, controlled credentials, and regression checks provide clearer control than a popularity score or a mutable “latest” reference. Public prompts should remain untrusted until a reviewer approves the exact version and use. Internal prompt libraries also need access control and change history to reduce risks from compromised accounts.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Общедоступные центры подсказок могут помочь командам находить и адаптировать примеры подсказок, но рабочие процессы SDK могут загружать не только видимый текст инструкций. Публичные запросы LangSmith могут десериализовать манифесты, содержащие конфигурацию модели или приглашения; Рекомендации по безопасности 2026 года рискуют, включая перенаправление запросов и раскрытие содержимого подсказок или учетных данных. Считайте общедоступные манифесты ненадежной исполняемой конфигурацией до тех пор, пока они не будут проверены, закреплены и протестированы.
The current docs give this warning specifically for the public hub.
The advisory says public manifests are deserialized and may configure runtime objects.
The advisory describes request redirection and possible disclosure when vulnerable applications pull untrusted manifests.
The advisory lists langsmith Python versions before 0.8.0 as affected and 0.8.0 as patched.
В рекомендациях указаны версии langsmith npm до 0.6.0 как затронутые и 0.6.0 как исправленные.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
How to Prompt AI for Better Code
Приложения