คู่มือทางเทคนิค

LLM Vulnerability Scanners: garak and PyRIT

NVIDIA garak is an open-source scanner for security testing systems that accept prompts and return text, using selected probes and detectors to examine defined failure modes.

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. The Future of LLM Vulnerability Scanners: garak and PyRIT
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

PyRIT is a broader red-teaming framework that can run selected security scenarios and attacks. Neither tool’s results certify a model or application as secure; findings depend on the target, test selection, and configuration.

เจาะลึก

NVIDIA garak is an open-source LLM vulnerability scanner whose documentation frames its purpose as testing the security of systems that take prompts and return text. It uses a configured generator to communicate with the target, probes to attempt a defined failure, attempts to record interactions, detectors to look for a particular failure signal, and evaluators to summarize results for probe-detector pairs. Security-oriented examples include prompt injection, data leakage, and other prompt-driven weaknesses in the configured target. A scan is only as relevant as its selected target, probes, and detector behavior. Microsoft PyRIT is a more general red-teaming framework with scanner, GUI, and framework modes. Its current documentation describes targets, scenarios, attack techniques, memory, and flexible scorers. Teams can select security-related scenarios, such as web injection or system-prompt extraction, when those objectives fit the system under review. PyRIT also supports broader safety assessment, but that broader scope should not be confused with a security guarantee or a claim that every scenario is a vulnerability test. The operator needs to choose the objective and understand how the configured scorer judges outcomes. Use these tools to produce evidence for a defined security review, not a universal pass/fail certificate. Test an authorized staging or assessment target with the integrations relevant to the real application. Inspect attempts behind a flagged result, reproduce meaningful findings, determine whether the issue affects the deployed workflow, and record the model or endpoint version and chosen test configuration. A scan with no findings means only that those configured tests did not trigger a detector under that run. It does not show that untested attack paths, tools, data sources, or application controls are secure.

การใช้งานจริงในโลกแห่งความเป็นจริง

A team runs garak’s selected prompt-injection probe against a staging endpoint and inspects the recorded attempts and detector result.

A security tester selects a garak data-leakage probe to check whether a configured target exposes information placed in its test context.

A red team chooses a PyRIT scenario and attack technique for a defined prompt-injection or leakage objective, then reviews the stored conversation and scoring outcome.

An engineer reproduces a confirmed weakness in the application path and adds the exact input and expected control behavior to a regression check.

The Future of LLM Vulnerability Scanners: garak and PyRIT

Security testing tools will keep adding probes, targets, scenarios, and scoring options, but a larger catalog does not make coverage complete. Teams will still need a threat model that reflects their application, integrations, and data access. Automated results can help prioritize investigation and track regressions when test setup is recorded. Human review and application-level verification remain necessary before teams describe a finding or a clean run as evidence about security. Teams should revisit tests when endpoints, tools, or data pathways change, and keep security claims tied to the conditions actually assessed.

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the LLM Vulnerability Scanners: garak and PyRIT quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

What is LLM Vulnerability Scanners: garak and PyRIT?

NVIDIA garak is an open-source scanner for security testing systems that accept prompts and return text, using selected probes and detectors to examine defined failure modes. PyRIT is a broader red-teaming framework that can run selected security scenarios and attacks. Neither tool’s results certify a model or application as secure; findings depend on the target, test selection, and configuration.

How does garak describe its primary testing purpose?

The garak documentation says its goal is testing the security of prompt-in/text-out systems.

What does a garak probe do in a security scan?

The docs describe probes as trying to exploit a weakness and elicit a failure.

What does a garak detector report?

A detector checks the recorded response for a defined phenomenon.

Which record helps a reviewer understand why a garak probe was flagged?

Garak attempts record interactions and reports include detailed attempt data.

Which PyRIT component can package datasets with attack techniques for a run?

Current PyRIT docs describe scenarios as packaging datasets with attack techniques.

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →