เกิดอะไรขึ้น
SecurityBrief Australia รายงานว่า Abnormal AI ได้เปิดตัว AI Cloud Security ซึ่งเป็นผลิตภัณฑ์ตัวอย่างส่วนตัวสำหรับลูกค้าที่เลือก บริการนี้ได้รับการออกแบบมาเพื่อสร้างแบบจำลองพฤติกรรมปกติของผู้ใช้ที่เป็นมนุษย์ บัญชีบริการ คีย์ API ปริมาณงาน และตัวแทน AI จากนั้นระบุกิจกรรมที่ผิดปกติและสนับสนุนการตอบสนองที่กำหนดไว้ล่วงหน้า เช่น การแยกปริมาณงานหรือการเพิกถอนข้อมูลประจำตัว
SecurityBrief Australia รายงานว่า Abnormal AI ได้เปิดตัว AI Cloud Security และวางไว้ในหน้าตัวอย่างส่วนตัวสำหรับลูกค้าที่เลือก บริษัทกำลังขยายแนวทางการรักษาความปลอดภัยตามพฤติกรรมนอกเหนือจากการตรวจสอบอีเมล ข้อมูลประจำตัว และภัยคุกคามภายในไปสู่โครงสร้างพื้นฐานคลาวด์ โดยมีกิจกรรม AI-agent เป็นศูนย์กลาง
ตามรายงานของ SecurityBrief Australia ผลิตภัณฑ์ดังกล่าวจะสร้างแบบจำลองพฤติกรรมสำหรับข้อมูลประจำตัวในสภาพแวดล้อมของลูกค้า รวมถึงผู้ใช้ที่เป็นมนุษย์ บัญชีบริการ คีย์ API และตัวแทน AI มีจุดมุ่งหมายเพื่อสร้างพื้นฐานสำหรับกิจกรรมปกติและการเบี่ยงเบนธงเพื่อการสืบสวน
รายงานระบุว่าลูกค้าสามารถกำหนดค่าการดำเนินการตอบสนองที่กำหนดไว้ล่วงหน้าได้ รวมถึงการแยกภาระงาน การเพิกถอนข้อมูลรับรอง และมีทรัพยากรที่ได้รับผลกระทบ ลูกค้าสามารถเลือกการดำเนินการอัตโนมัติหรือการตรวจสอบโดยเจ้าหน้าที่ได้ ขึ้นอยู่กับความรุนแรงของเหตุการณ์ รายงานไม่ได้ระบุราคา ช่วงเวลาความพร้อมใช้งานทั่วไป ความครอบคลุมของผู้ให้บริการคลาวด์ หรือผลการทดสอบอิสระ
SecurityBrief Australia รายงานว่าโมเดล Daybreak ของ OpenAI วิเคราะห์บันทึกและสัญญาณพฤติกรรมระหว่างการตรวจสอบ ช่วยให้ผู้เผชิญเหตุเข้าใจเหตุการณ์ ประเมินขอบเขต และเลือกมาตรการตอบสนอง ช่องทางจำหน่ายจะแยกการใช้งานเชิงสืบสวนนี้ออกจากระบบพฤติกรรมที่นำเสนอเป็นกลไกการตรวจจับของผลิตภัณฑ์
รายละเอียดที่มา: securitybrief.com.au ↗
ทำไมมันถึงสำคัญ
เจ้าหน้าที่ AI สามารถดำเนินการข้ามระบบคลาวด์ด้วยความเร็วที่อาจเกินกว่ากระบวนการตรวจสอบความปลอดภัยแบบเดิมๆ SecurityBrief Australia รายงานว่า Abnormal AI กำลังขยายการตรวจจับตามพฤติกรรมไปสู่การระบุตัวตนที่ไม่ใช่มนุษย์ ซึ่งอาจทำให้ทีมรักษาความปลอดภัยมีวิธีระบุกิจกรรมที่ไม่ตรงกับลายเซ็นภัยคุกคามที่รู้จัก คุณค่าในทางปฏิบัติจะขึ้นอยู่กับความแม่นยำในการตรวจจับ การป้องกันการตอบสนอง ความครอบคลุมของการบูรณาการ และลูกค้าสามารถแยกแยะพฤติกรรมที่เป็นอันตรายจากระบบอัตโนมัติที่ถูกกฎหมายได้อย่างน่าเชื่อถือหรือไม่
SecurityBrief Australia วางกรอบการเปิดตัวเพื่อตอบสนองต่อความเป็นไปได้ที่เพิ่มขึ้นว่าตัวแทนซอฟต์แวร์อัตโนมัติสามารถเชื่อมโยงจุดอ่อนเข้าด้วยกัน เข้าถึงทรัพยากรระบบคลาวด์ และดำเนินการได้เร็วกว่าที่นักวิเคราะห์ที่เป็นมนุษย์จะสามารถตรวจสอบการแจ้งเตือนได้ ซึ่งสร้างปัญหาทั้งด้านการปฏิบัติงานและด้านเทคนิค: องค์กรอาจต้องการการควบคุมที่สามารถตีความพฤติกรรมของข้อมูลระบุตัวตนและดำเนินการขั้นตอนการกักกันที่กำหนดไว้อย่างแคบได้อย่างรวดเร็ว
การตรวจสอบตามพฤติกรรมอาจมีประโยชน์ในกรณีที่การกระทำของตัวแทนเป็นเรื่องแปลกใหม่ ดังนั้นจึงขาดตัวชี้วัดที่เป็นที่ยอมรับของการประนีประนอม แต่รายงานไม่ได้ให้หลักฐานที่เป็นอิสระว่าระบบของ Abnormal AI สามารถระบุตัวแทนอันธพาลในสภาพแวดล้อมการใช้งานจริงได้อย่างแม่นยำ การเพิกถอนข้อมูลรับรองอัตโนมัติหรือการแยกภาระงานอาจขัดขวางขั้นตอนการทำงานที่ถูกต้องตามกฎหมาย หากนโยบายหรือบรรทัดฐานด้านพฤติกรรมไม่ถูกต้อง
รายงานระบุว่า Abnormal AI อ้างว่าปกป้ององค์กรมากกว่า 4,500 แห่ง รวมถึงมากกว่า 25% ของ Fortune 500 ตัวเลขเหล่านี้เป็นการอ้างสิทธิ์ของบริษัทที่รายงานโดย SecurityBrief Australia และไม่ได้รับการยืนยันอย่างอิสระในแหล่งที่มาที่ให้มา
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
จะดูอะไรต่อไป.
สินค้าไม่มีวางจำหน่ายทั่วไปตามรายงาน สิ่งที่ไม่ทราบหลัก ได้แก่ ราคา แพลตฟอร์มคลาวด์ที่รองรับ ประสิทธิภาพการตรวจจับ อัตราผลบวกลวง ขีดจำกัดการตอบสนอง และลูกค้ารายใดที่สามารถเข้าร่วมการแสดงตัวอย่างแบบส่วนตัวได้ SecurityBrief Australia ยังรายงานว่าโมเดล OpenAI Daybreak ใช้ในการตรวจสอบบันทึกและสัญญาณพฤติกรรม แต่บอกว่าโมเดลเหล่านั้นไม่ใช่กลไกการตรวจจับ เหตุการณ์ OpenAI-Hugging Face ที่อ้างถึง และการกล่าวอ้างที่เกี่ยวข้องยังไม่ได้รับการยืนยันอย่างอิสระที่นี่
เหตุการณ์สำคัญที่เกิดขึ้นทันทีคือการแสดงตัวอย่างแบบส่วนตัวจะขยายไปสู่ผลิตภัณฑ์ที่เปิดเผยต่อสาธารณะหรือไม่ เงื่อนไขการเข้าถึง ราคา ความมุ่งมั่นระดับการบริการ และสภาพแวดล้อมคลาวด์ที่รองรับยังไม่ทราบ
ทีมรักษาความปลอดภัยควรเฝ้าดูการประเมินอิสระที่แสดงให้เห็นว่าระบบทำงานอย่างไรกับระบบอัตโนมัติที่มีปริมาณมากที่ถูกต้องตามกฎหมาย บัญชีบริการที่ถูกบุกรุก เจ้าหน้าที่ที่แทรกข้อมูลพร้อมท์ และเส้นทางการโจมตีที่มองไม่เห็นก่อนหน้านี้ รายงานที่ให้มาไม่มีการทดสอบดังกล่าว
การแบ่งระหว่างการตรวจจับและการสืบสวนเป็นสิ่งสำคัญ SecurityBrief Australia รายงานว่าโมเดล OpenAI Daybreak ช่วยวิเคราะห์หลักฐานหลังจากสร้างสัญญาณแล้ว ไม่ได้รายงานว่าโมเดลเหล่านั้นตัดสินใจอย่างอิสระว่ากิจกรรมใดที่เป็นอันตราย
การใช้งานใดๆ ที่อนุญาตให้มีการแยกอัตโนมัติหรือการเพิกถอนข้อมูลรับรองจะต้องใช้นโยบายการอนุมัติ บันทึกการตรวจสอบ ขั้นตอนการย้อนกลับ และการยกระดับโดยเจ้าหน้าที่อย่างชัดเจน รายงานไม่ได้ระบุวิธีการทำงานของการควบคุมเหล่านั้น