SeterusnyaPanduan seterusnya
Mengurangkan Kelewatan Aplikasi LLM
Teknikal
PANDUAN Teknikal
NVIDIA garak ialah pengimbas sumber terbuka untuk sistem ujian keselamatan yang menerima gesaan dan mengembalikan teks, menggunakan probe dan pengesan terpilih untuk memeriksa mod kegagalan yang ditentukan.
Dengar panduan iniAI-diceritakan · ~3 min
PyRIT ialah rangka kerja gabungan merah yang lebih luas yang boleh menjalankan senario dan serangan keselamatan terpilih. Tiada keputusan alat yang mengesahkan model atau aplikasi sebagai selamat; penemuan bergantung pada sasaran, pemilihan ujian dan konfigurasi.
NVIDIA garak ialah pengimbas kerentanan LLM sumber terbuka yang dokumentasinya merangka tujuannya sebagai menguji keselamatan sistem yang menerima gesaan dan mengembalikan teks. Ia menggunakan penjana yang dikonfigurasikan untuk berkomunikasi dengan sasaran, probe untuk mencuba kegagalan yang ditentukan, percubaan untuk merekod interaksi, pengesan untuk mencari isyarat kegagalan tertentu, dan penilai untuk meringkaskan keputusan untuk pasangan pengesan probe. Contoh berorientasikan keselamatan termasuk suntikan segera, kebocoran data dan kelemahan lain yang didorong segera dalam sasaran yang dikonfigurasikan. Imbasan hanya relevan dengan sasaran, probe dan gelagat pengesan yang dipilih. Microsoft PyRIT ialah rangka kerja gabungan merah yang lebih umum dengan mod pengimbas, GUI dan rangka kerja. Dokumentasi semasanya menerangkan sasaran, senario, teknik serangan, ingatan dan penjaring fleksibel. Pasukan boleh memilih senario berkaitan keselamatan, seperti suntikan web atau pengekstrakan segera sistem, apabila objektif tersebut sesuai dengan sistem yang sedang disemak. PyRIT juga menyokong penilaian keselamatan yang lebih luas, tetapi skop yang lebih luas itu tidak boleh dikelirukan dengan jaminan keselamatan atau tuntutan bahawa setiap senario adalah ujian kelemahan. Pengendali perlu memilih objektif dan memahami bagaimana penjaring yang dikonfigurasikan menilai keputusan. Gunakan alat ini untuk menghasilkan bukti bagi semakan keselamatan yang ditentukan, bukan sijil lulus/gagal universal. Uji sasaran pementasan atau penilaian yang dibenarkan dengan penyepaduan yang berkaitan dengan aplikasi sebenar. Periksa percubaan di sebalik hasil yang dibenderakan, hasilkan semula penemuan yang bermakna, tentukan sama ada isu itu mempengaruhi aliran kerja yang digunakan dan rekod model atau versi titik akhir dan konfigurasi ujian yang dipilih. Imbasan tanpa penemuan bermakna hanya ujian yang dikonfigurasikan itu tidak mencetuskan pengesan di bawah larian tersebut. Ia tidak menunjukkan bahawa laluan serangan, alatan, sumber data atau kawalan aplikasi yang belum diuji adalah selamat.
A team runs garak’s selected prompt-injection probe against a staging endpoint and inspects the recorded attempts and detector result.
A security tester selects a garak data-leakage probe to check whether a configured target exposes information placed in its test context.
A red team chooses a PyRIT scenario and attack technique for a defined prompt-injection or leakage objective, then reviews the stored conversation and scoring outcome.
An engineer reproduces a confirmed weakness in the application path and adds the exact input and expected control behavior to a regression check.
Security testing tools will keep adding probes, targets, scenarios, and scoring options, but a larger catalog does not make coverage complete. Teams will still need a threat model that reflects their application, integrations, and data access. Automated results can help prioritize investigation and track regressions when test setup is recorded. Human review and application-level verification remain necessary before teams describe a finding or a clean run as evidence about security. Teams should revisit tests when endpoints, tools, or data pathways change, and keep security claims tied to the conditions actually assessed.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
NVIDIA garak ialah pengimbas sumber terbuka untuk sistem ujian keselamatan yang menerima gesaan dan mengembalikan teks, menggunakan probe dan pengesan terpilih untuk memeriksa mod kegagalan yang ditentukan. PyRIT ialah rangka kerja gabungan merah yang lebih luas yang boleh menjalankan senario dan serangan keselamatan terpilih. Tiada keputusan alat yang mengesahkan model atau aplikasi sebagai selamat; penemuan bergantung pada sasaran, pemilihan ujian dan konfigurasi.
The garak documentation says its goal is testing the security of prompt-in/text-out systems.
The docs describe probes as trying to exploit a weakness and elicit a failure.
A detector checks the recorded response for a defined phenomenon.
Garak attempts record interactions and reports include detailed attempt data.
Current PyRIT docs describe scenarios as packaging datasets with attack techniques.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Mengurangkan Kelewatan Aplikasi LLM
Teknikal