РУКОВОДСТВО ПО ПРИМЕНЕНИЮ

Торговые площадки промптов и публичные коллекции промптов

Публичные хабы промптов могут помочь командам находить и адаптировать примеры промптов, однако рабочие процессы SDK могут загружать больше, чем просто видимый текст инструкций.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице3 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее рынков подсказок и публичных коллекций подсказок
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Публичные запросы LangSmith могут десериализовать манифесты, содержащие конфигурацию модели или приглашения; Рекомендации по безопасности 2026 года рискуют, включая перенаправление запросов и раскрытие содержимого подсказок или учетных данных. Считайте общедоступные манифесты ненадежной исполняемой конфигурацией до тех пор, пока они не будут проверены, закреплены и протестированы.

Глубокое погружение

Общедоступные коллекции подсказок полезны для поиска структур задач и примеров, но подсказка, передаваемая через SDK, может включать сериализованный манифест с конфигурацией модели или объекты LangChain. В документации LangSmith его общедоступный центр описан как созданный сообществом, и предупреждается, что записи создаются пользователями, не проверяются, не проверяются и не одобряются. Это утверждение применимо к этому хабу; его не следует распространять на все быстрые рынки. Что еще более важно, копирование видимого текста и вставка общедоступного манифеста в приложение — это разные решения о доверии. Разработчики LangSmith SDK опубликовали рекомендацию GitHub GHSA-3644-q5cj-c5c7 для общедоступных запросов, которые десериализуют ненадежные манифесты без явного предупреждения о границе доверия. В рекомендации поясняется, что манифест может настраивать конечные точки модели, заголовки или другие аргументы конструктора, а также может десериализовать подсказки или исполняемые объекты. В затронутых рабочих процессах вредоносный общедоступный манифест может перенаправлять запросы на контролируемый злоумышленником базовый URL-адрес или прокси-сервер и раскрывать содержимое приглашения, полученный контекст, учетные данные или другие данные запроса. Уязвимость возникает, когда приложение получает общедоступный запрос владельца/имени, источник ненадежен или скомпрометирован, а приложение использует манифест без независимой проверки. Это не утверждение, что простой просмотр подсказки в веб-концентраторе вызывает такое влияние. В рекомендациях перечислены исправленные версии: Python langsmith 0.8.0 и новее, JavaScript/TypeScript langsmith 0.6.0 и новее, langchain 0.3.30 и новее, а также langchain-classic 1.0.7 и новее. Исправленные SDK по умолчанию блокируют получение публичного владельца/имени; вызывающие абоненты должны явно дать свое согласие с помощью опасно_pull_public_prompt или опасноPullPublicPrompt. Не рассматривайте это согласие как проверку доверия. Просмотрите манифест и исходный код, закрепите одобренную фиксацию, а не полагайтесь на последнюю перемещаемую ссылку, избегайте include_model и secrets_from_env для ненадежных источников и сохраняйте учетные данные в пределах области действия. Применяйте методы проверки кода, контроля версий, тестирования и аудита так же, как и для исполняемой конфигурации. Для запросов в одной организации также необходимо контролировать доступ и проверять, могут ли учетные данные или учетные записи быть скомпрометированы.

Реальная реализация

A developer pulls a public LangSmith prompt by owner/name and reviews its manifest, model settings, and pinned commit before considering it for an application.

A security reviewer rejects an untrusted manifest that configures an attacker-controlled model base URL or proxy that could redirect LLM traffic.

A team checks SDK versions against the LangSmith advisory and upgrades Python langsmith to 0.8.0 or later or JS/TS langsmith to 0.6.0 or later.

A prompt library process records the source commit, review evidence, and approved changes, then uses controlled credentials and regression tests before deployment.

Будущее рынков подсказок и публичных коллекций подсказок

Prompt libraries may become more tightly integrated with application code and model configuration, which makes source provenance and change review increasingly important. SDK defaults and advisory guidance can change, so teams should track current maintained documentation and patch notices. A pinned commit, reviewed manifest, controlled credentials, and regression checks provide clearer control than a popularity score or a mutable “latest” reference. Public prompts should remain untrusted until a reviewer approves the exact version and use. Internal prompt libraries also need access control and change history to reduce risks from compromised accounts.

Применение на практике

Почему это важно

  • Выбор сборки. Проектирование на уровне приложения определяет, улучшит ли ИИ реальные результаты.
  • Команда и рабочий процесс. Хорошая интеграция рабочих процессов обеспечивает повышение производительности, которому пользователи могут доверять.
  • Риски и безопасность. Хорошо продуманные варианты использования снижают усталость от изменений и риск внедрения.

Следите за

  • Автоматизация сломанного процесса может усугубить существующие проблемы.
  • Команды могут чрезмерно автоматизировать и исключить необходимое человеческое суждение.
  • Качество может ухудшиться, если результаты не будут оцениваться постоянно.

Следующие шаги

  1. Составьте карту текущего рабочего процесса и определите этап, вызывающий наибольшие затруднения.
  2. Определите человеческие контрольно-пропускные пункты перед полной автоматизацией.
  3. Обучайте пользователей подсказкам, путям эскалации и стандартам качества.
  4. Отслеживайте результаты на уровне задач, чтобы подтвердить устойчивую ценность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Пройдите викторину по рынкам подсказок и публичным коллекциям подсказок.

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

What is Prompt Marketplaces and Public Prompt Collections?

Общедоступные центры подсказок могут помочь командам находить и адаптировать примеры подсказок, но рабочие процессы SDK могут загружать не только видимый текст инструкций. Публичные запросы LangSmith могут десериализовать манифесты, содержащие конфигурацию модели или приглашения; Рекомендации по безопасности 2026 года рискуют, включая перенаправление запросов и раскрытие содержимого подсказок или учетных данных. Считайте общедоступные манифесты ненадежной исполняемой конфигурацией до тех пор, пока они не будут проверены, закреплены и протестированы.

What does LangChain say about prompts in its public LangSmith hub?

The current docs give this warning specifically for the public hub.

Why can an SDK pull involve more risk than copying visible prompt text?

The advisory says public manifests are deserialized and may configure runtime objects.

Which impact does GHSA-3644-q5cj-c5c7 describe?

The advisory describes request redirection and possible disclosure when vulnerable applications pull untrusted manifests.

Which Python langsmith version is listed as the patched floor in the advisory?

The advisory lists langsmith Python versions before 0.8.0 as affected and 0.8.0 as patched.

Which JavaScript/TypeScript langsmith version is listed as patched?

В рекомендациях указаны версии langsmith npm до 0.6.0 как затронутые и 0.6.0 как исправленные.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →