แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
ความเสี่ยงด้านความปลอดภัยของแบบทดสอบโค้ดที่สร้างโดย AI
ระบุความเสี่ยงในโค้ดที่สร้างขึ้น ตรวจสอบการขึ้นต่อกันและขอบเขตความน่าเชื่อถือ แยกการดำเนินการ และใช้การควบคุมความปลอดภัย
คำถาม 1 ของ 8
การสืบค้น SQL ที่สร้างโดย AI จะแทรกข้อความผู้ใช้ลงในสตริงคำสั่งโดยตรง ผู้ตรวจสอบควรตรวจสอบอะไรบ้าง?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- การสืบค้น SQL ที่สร้างโดย AI จะแทรกข้อความผู้ใช้ลงในสตริงคำสั่งโดยตรง ผู้ตรวจสอบควรตรวจสอบอะไรบ้าง?
- ไม่ว่าแบบสอบถามจะมีชื่อตัวแปรที่สื่อความหมายหรือไม่
- การใช้แบบสอบถามแบบกำหนดพารามิเตอร์และการตรวจสอบอินพุตที่ไม่น่าเชื่อถือ
- ว่าผู้ช่วยให้คะแนนความมั่นใจสูงหรือไม่
- ไม่ว่าการสาธิตจะใช้ฐานข้อมูลขนาดเล็กหรือไม่
- โปรแกรมปรับปรุงที่สร้างขึ้นจะเพิ่มแพ็คเกจใหม่พร้อมชื่อที่น่าเชื่อถือ สิ่งที่ควรเกิดขึ้นก่อนที่จะเพิ่มลงในการผลิต?
- สมมติว่ามีแพ็คเกจอยู่เนื่องจากการนำเข้าคอมไพล์ในคำตอบ
- คัดลอกชื่อลงในสคริปต์การปรับใช้ทันที
- ตรวจสอบแพ็คเกจที่แน่นอนและประเมินผู้ดูแล เวอร์ชัน และคำแนะนำด้านความปลอดภัย
- ปิดใช้งานการสแกนการขึ้นต่อกันเพื่อหลีกเลี่ยงคำเตือน
- เหตุใดจึงเป็นอันตรายสำหรับแอปพลิเคชันที่จะส่งข้อความที่สร้างโดยโมเดลโดยตรงไปยังเชลล์หรือ API ที่มีสิทธิ์
- เอาต์พุตที่ไม่ได้รับการตรวจสอบอาจทำให้เกิดคำสั่งหรือการดำเนินการที่ไม่ได้ตั้งใจ
- โมเดลจะปฏิเสธอินพุตที่ไม่ปลอดภัยเสมอ
- เชลล์ไม่สามารถเรียกใช้ข้อความที่สร้างโดยซอฟต์แวร์ได้
- การตรวจสอบความถูกต้องของเอาต์พุตมีความสำคัญกับรูปภาพเท่านั้น
- จำเป็นต้องทดสอบสคริปต์ที่สร้างขึ้นแต่พฤติกรรมของสคริปต์ไม่คุ้นเคย สภาพแวดล้อมใดปลอดภัยกว่า?
- เซิร์ฟเวอร์ที่ใช้งานจริงพร้อมสิทธิ์การเข้าถึงของผู้ดูแลระบบ
- แล็ปท็อปสำหรับนักพัฒนาที่มีโทเค็นส่วนบุคคลทั้งหมด
- สภาพแวดล้อมที่ใช้ร่วมกันพร้อมเครือข่ายและการเข้าถึงไฟล์ที่ไม่จำกัด
- แซนด์บ็อกซ์ที่มีสิทธิ์ขั้นต่ำและไม่มีข้อมูลรับรองการผลิต
- เครื่องมือสแกนโค้ดรายงานว่าไม่พบการเปลี่ยนแปลงที่สร้างขึ้น ทีมงานจะสรุปอะไรได้บ้าง?
- แพตช์นี้ปลอดภัยต่อทุกภัยคุกคาม
- เครื่องสแกนไม่พบปัญหาใดๆ ในการตรวจสอบ แต่ไม่ได้พิสูจน์ว่ารหัสมีความปลอดภัย
- ไม่จำเป็นต้องตรวจสอบด้วยตนเอง
- รหัสต้องไม่มีข้อผิดพลาดทางตรรกะ
- ชุดควบคุมใดที่ให้การตรวจสอบได้ดีกว่าการพึ่งพาโมเดลเพียงอย่างเดียว
- การร้องขอให้โมเดลรับรองรหัสของตัวเอง
- การรวบรวมที่ประสบความสำเร็จเท่านั้น
- การตรวจสอบโค้ด การทดสอบ การพึ่งพาและการสแกนความลับ รวมถึงการตรวจสอบโมเดลภัยคุกคาม
- สำเนาของโค้ดที่สร้างขึ้นใน README
- เหตุใดตัวแทนจึงควรได้รับการอนุมัติอย่างชัดเจนก่อนที่จะปรับใช้หรือลบข้อมูล
- การกระทำเหล่านั้นอาจมีผลกระทบสูงและควรอยู่ภายใต้การควบคุมของมนุษย์ที่รับผิดชอบ
- การอนุมัติทำให้การคอมไพล์โค้ดเร็วขึ้น
- การปรับใช้จะลบช่องโหว่ด้านความปลอดภัยทั้งหมด
- การลบข้อมูลสามารถย้อนกลับได้เสมอ
- นักพัฒนาต้องการปกป้องข้อมูลประจำตัวในขณะที่ขอความช่วยเหลือจากผู้ช่วย AI การปฏิบัติที่รวดเร็วและปลอดภัยที่สุดคืออะไร?
- วางโทเค็นที่ใช้งานจริงเพื่อให้โมเดลทดสอบได้
- รวมไฟล์สภาพแวดล้อมทั้งหมดเพื่อหลีกเลี่ยงบริบทที่หายไป
- ขอให้โมเดลจดจำข้อมูลประจำตัวสำหรับงานถัดไป
- ลบความลับและใช้บริการที่ได้รับอนุมัติโดยมีบริบทโค้ดที่จำเป็นเท่านั้น