แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

ความเสี่ยงด้านความปลอดภัยของแบบทดสอบโค้ดที่สร้างโดย AI

ระบุความเสี่ยงในโค้ดที่สร้างขึ้น ตรวจสอบการขึ้นต่อกันและขอบเขตความน่าเชื่อถือ แยกการดำเนินการ และใช้การควบคุมความปลอดภัย

คำถาม 1 ของ 8

การสืบค้น SQL ที่สร้างโดย AI จะแทรกข้อความผู้ใช้ลงในสตริงคำสั่งโดยตรง ผู้ตรวจสอบควรตรวจสอบอะไรบ้าง?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. การสืบค้น SQL ที่สร้างโดย AI จะแทรกข้อความผู้ใช้ลงในสตริงคำสั่งโดยตรง ผู้ตรวจสอบควรตรวจสอบอะไรบ้าง?
    • ไม่ว่าแบบสอบถามจะมีชื่อตัวแปรที่สื่อความหมายหรือไม่
    • การใช้แบบสอบถามแบบกำหนดพารามิเตอร์และการตรวจสอบอินพุตที่ไม่น่าเชื่อถือ
    • ว่าผู้ช่วยให้คะแนนความมั่นใจสูงหรือไม่
    • ไม่ว่าการสาธิตจะใช้ฐานข้อมูลขนาดเล็กหรือไม่
  2. โปรแกรมปรับปรุงที่สร้างขึ้นจะเพิ่มแพ็คเกจใหม่พร้อมชื่อที่น่าเชื่อถือ สิ่งที่ควรเกิดขึ้นก่อนที่จะเพิ่มลงในการผลิต?
    • สมมติว่ามีแพ็คเกจอยู่เนื่องจากการนำเข้าคอมไพล์ในคำตอบ
    • คัดลอกชื่อลงในสคริปต์การปรับใช้ทันที
    • ตรวจสอบแพ็คเกจที่แน่นอนและประเมินผู้ดูแล เวอร์ชัน และคำแนะนำด้านความปลอดภัย
    • ปิดใช้งานการสแกนการขึ้นต่อกันเพื่อหลีกเลี่ยงคำเตือน
  3. เหตุใดจึงเป็นอันตรายสำหรับแอปพลิเคชันที่จะส่งข้อความที่สร้างโดยโมเดลโดยตรงไปยังเชลล์หรือ API ที่มีสิทธิ์
    • เอาต์พุตที่ไม่ได้รับการตรวจสอบอาจทำให้เกิดคำสั่งหรือการดำเนินการที่ไม่ได้ตั้งใจ
    • โมเดลจะปฏิเสธอินพุตที่ไม่ปลอดภัยเสมอ
    • เชลล์ไม่สามารถเรียกใช้ข้อความที่สร้างโดยซอฟต์แวร์ได้
    • การตรวจสอบความถูกต้องของเอาต์พุตมีความสำคัญกับรูปภาพเท่านั้น
  4. จำเป็นต้องทดสอบสคริปต์ที่สร้างขึ้นแต่พฤติกรรมของสคริปต์ไม่คุ้นเคย สภาพแวดล้อมใดปลอดภัยกว่า?
    • เซิร์ฟเวอร์ที่ใช้งานจริงพร้อมสิทธิ์การเข้าถึงของผู้ดูแลระบบ
    • แล็ปท็อปสำหรับนักพัฒนาที่มีโทเค็นส่วนบุคคลทั้งหมด
    • สภาพแวดล้อมที่ใช้ร่วมกันพร้อมเครือข่ายและการเข้าถึงไฟล์ที่ไม่จำกัด
    • แซนด์บ็อกซ์ที่มีสิทธิ์ขั้นต่ำและไม่มีข้อมูลรับรองการผลิต
  5. เครื่องมือสแกนโค้ดรายงานว่าไม่พบการเปลี่ยนแปลงที่สร้างขึ้น ทีมงานจะสรุปอะไรได้บ้าง?
    • แพตช์นี้ปลอดภัยต่อทุกภัยคุกคาม
    • เครื่องสแกนไม่พบปัญหาใดๆ ในการตรวจสอบ แต่ไม่ได้พิสูจน์ว่ารหัสมีความปลอดภัย
    • ไม่จำเป็นต้องตรวจสอบด้วยตนเอง
    • รหัสต้องไม่มีข้อผิดพลาดทางตรรกะ
  6. ชุดควบคุมใดที่ให้การตรวจสอบได้ดีกว่าการพึ่งพาโมเดลเพียงอย่างเดียว
    • การร้องขอให้โมเดลรับรองรหัสของตัวเอง
    • การรวบรวมที่ประสบความสำเร็จเท่านั้น
    • การตรวจสอบโค้ด การทดสอบ การพึ่งพาและการสแกนความลับ รวมถึงการตรวจสอบโมเดลภัยคุกคาม
    • สำเนาของโค้ดที่สร้างขึ้นใน README
  7. เหตุใดตัวแทนจึงควรได้รับการอนุมัติอย่างชัดเจนก่อนที่จะปรับใช้หรือลบข้อมูล
    • การกระทำเหล่านั้นอาจมีผลกระทบสูงและควรอยู่ภายใต้การควบคุมของมนุษย์ที่รับผิดชอบ
    • การอนุมัติทำให้การคอมไพล์โค้ดเร็วขึ้น
    • การปรับใช้จะลบช่องโหว่ด้านความปลอดภัยทั้งหมด
    • การลบข้อมูลสามารถย้อนกลับได้เสมอ
  8. นักพัฒนาต้องการปกป้องข้อมูลประจำตัวในขณะที่ขอความช่วยเหลือจากผู้ช่วย AI การปฏิบัติที่รวดเร็วและปลอดภัยที่สุดคืออะไร?
    • วางโทเค็นที่ใช้งานจริงเพื่อให้โมเดลทดสอบได้
    • รวมไฟล์สภาพแวดล้อมทั้งหมดเพื่อหลีกเลี่ยงบริบทที่หายไป
    • ขอให้โมเดลจดจำข้อมูลประจำตัวสำหรับงานถัดไป
    • ลบความลับและใช้บริการที่ได้รับอนุมัติโดยมีบริบทโค้ดที่จำเป็นเท่านั้น