เกิดอะไรขึ้น
นักวิจัยเสนอการกลั่นเฉพาะที่ ซึ่งเป็นวิธีการที่โมเดล AI แบบกล่องดำทำหน้าที่เป็นครูสำหรับโมเดลนักเรียนเชิงเส้นที่ได้รับการปรับแต่งให้เหมาะกับจุดสืบค้นแต่ละจุด รายงานฉบับนี้รายงานว่าแนวทางนี้เกือบจะตรงกับความแม่นยำของครูในชุดข้อมูลมาตรฐาน 17 ชุด ในขณะเดียวกันก็สร้างแบบจำลองที่กระจัดกระจายและตีความได้เฉพาะที่
บทความที่ส่งไปยัง arXiv เมื่อวันที่ 24 สิงหาคม เสนอวิธีการที่เรียกว่าการกลั่นเฉพาะที่เพื่อตีความการคาดการณ์จากระบบ AI กล่องดำ ผู้เขียนมุ่งเน้นไปที่โมเดลสมัยใหม่ เช่น โมเดลรากฐานแบบตารางและชุดที่มีการไล่ระดับสี ซึ่งพวกเขาอธิบายว่าอาจมีความแม่นยำมากกว่าวิธีการแบบคลาสสิก แต่ยากที่จะให้เหตุผล ระบบที่นำเสนอจะสร้างโมเดล "นักเรียน" เชิงเส้นที่แยกจากกันและสม่ำเสมอใกล้กับจุดสอบถามแต่ละจุด โดยระบบกล่องดำทำหน้าที่เป็น "ครู"
วิธีการกำหนดสิ่งที่นับเป็นท้องถิ่นในลักษณะที่ขึ้นอยู่กับผลลัพธ์ โดยจะเพิ่มน้ำหนักการสังเกตการณ์การฝึกอบรมซึ่งมีผลลัพธ์ที่คาดการณ์ไว้คล้ายกับการทำนายที่อธิบายไว้ แทนที่จะอาศัยเฉพาะระยะทางในพื้นที่คุณลักษณะดั้งเดิม นอกจากนี้ยังรวมถึงการทำนายของครูที่จุดสอบถามเป็นการสังเกตหลอกแบบถ่วงน้ำหนัก โดยยึดความพอดีเชิงเส้นเฉพาะที่กับผลลัพธ์ของโมเดลกล่องดำ แหล่งข่าวกล่าวว่าน้ำหนักของการสังเกตการณ์หลอกนั้นประเมินจากข้อมูล
สำหรับการตีความ ผู้เขียนเพิ่มการสุ่มแบบเกาส์เซียนจำนวนเล็กน้อยเข้ากับวัตถุประสงค์เฉพาะที่ และปรับโมเดลนักเรียนซ้ำหลายครั้ง พวกเขาใช้ความถี่ในการเลือกคุณสมบัติเพื่อระบุคุณสมบัติที่ปรากฏอย่างน่าเชื่อถือที่จุดสืบค้นเฉพาะ พวกเขายังจัดกลุ่มความพอดีแบบสุ่มเพื่อระบุกลุ่มย่อยที่มีความเสถียรในข้อมูล ภายใต้บทลงโทษแบบบ่วงบาศ บทความกล่าวว่ามันพิสูจน์ได้ว่าความน่าจะเป็นในการเลือกคุณสมบัติที่ได้นั้นยังคงมีเสถียรภาพภายใต้การรบกวนเล็กน้อยของการตอบสนองต่อการฝึกอบรม
ผู้เขียนรายงานว่าการกลั่นเฉพาะที่เกือบจะตรงกับความแม่นยำของครูสอน AI ในชุดข้อมูลการวัดประสิทธิภาพทั้ง 17 ชุด ขณะเดียวกันก็สร้างแบบจำลองเชิงเส้นแบบกระจัดกระจายสำหรับจุดทดสอบแต่ละจุด ในตัวอย่างการแสดงออกของยีนมะเร็งในมิติสูง กรอบการทำงานจะระบุกลุ่มย่อยของผู้ป่วยที่แบบจำลองเฉพาะที่ใช้ยีนที่แตกต่างกัน ผู้เขียนกล่าวว่าความแตกต่างประเภทนี้ไม่สามารถมองเห็นได้ในโมเดลเชิงเส้นทั่วโลก และยากที่จะแสดงโดยตรงในโมเดลกล่องดำ แหล่งที่มาไม่ได้ให้คะแนนเกณฑ์มาตรฐาน ชื่อชุดข้อมูล หรือผลลัพธ์ทางคลินิกแต่ละรายการในบทคัดย่อ
ทำไมมันถึงสำคัญ
วิธีการนี้มุ่งเป้าไปที่ปัญหาสำคัญใน AI ที่มีเดิมพันสูง: ระบบอาจคาดการณ์ได้อย่างแม่นยำโดยไม่ต้องชี้แจงให้ชัดเจนว่าเหตุใดจึงบรรลุผลโดยเฉพาะ คำอธิบายในท้องถิ่นสามารถช่วยให้ผู้ใช้ตรวจสอบว่าคุณลักษณะใดมีความสำคัญต่อการทำนายแต่ละรายการ และกลุ่มต่างๆ ได้รับการตัดสินใจด้วยเหตุผลที่แตกต่างกันหรือไม่
ความสามารถในการตีความเป็นผลสืบเนื่องโดยเฉพาะอย่างยิ่งเมื่อการคาดการณ์ของ AI อาจส่งผลต่อการรักษา การมีสิทธิ์ การประเมินความเสี่ยง หรือการเข้าถึงบริการของบุคคล คำอธิบายสากลเพียงข้อเดียวอาจบอกเป็นนัยว่าตัวแปรเดียวกันจะขับเคลื่อนทุกการตัดสินใจ แม้ว่าแบบจำลองจะมีพฤติกรรมที่แตกต่างกันไปตามภูมิภาคของข้อมูลก็ตาม แนวทางท้องถิ่นของบทความนี้ได้รับการออกแบบมาเพื่อเปิดเผยความผันแปรนั้นโดยปรับคำอธิบายที่กระจัดกระจายเกี่ยวกับการทำนายแต่ละครั้ง
โครงสร้างที่เสนออาจทำให้นักวิเคราะห์มีวัตถุที่เฉพาะเจาะจงมากขึ้นในการตรวจสอบมากกว่าการจัดอันดับความสำคัญของคุณลักษณะทั่วไป แบบจำลองเชิงเส้นเฉพาะที่สามารถระบุทิศทางและการมีส่วนร่วมแบบสัมพัทธ์ของลักษณะเฉพาะที่เลือกไว้ใกล้กับจุดสอบถามจุดเดียว ในขณะที่การปรับปรุงซ้ำๆ จะทำให้สามารถแยกแยะลักษณะพิเศษที่เกิดขึ้นจากลักษณะที่ปรากฏเพียงเพราะการเปลี่ยนแปลงเล็กน้อยในกระบวนการปรับให้เหมาะสม สิ่งเหล่านี้เป็นการกล่าวอ้างเกี่ยวกับการออกแบบวิธีการและรายงานการทดลอง ไม่ใช่หลักฐานว่าคำอธิบายนั้นถูกต้องตามเหตุและผลโดยอัตโนมัติ
ผลลัพธ์ของกลุ่มย่อยอาจมีประโยชน์เนื่องจากเชื่อมโยงความสามารถในการตีความกับความหลากหลายของโมเดล ในตัวอย่างการแสดงออกของยีนมะเร็ง เอกสารรายงานว่ากลุ่มย่อยของผู้ป่วยที่แตกต่างกันมีความเกี่ยวข้องกับแบบจำลองเฉพาะที่โดยใช้ยีนที่แตกต่างกัน หากทำซ้ำ การค้นพบดังกล่าวอาจช่วยให้นักวิจัยตรวจสอบว่าระบบ AI ใช้รูปแบบที่แตกต่างกันในส่วนต่างๆ ของชุดข้อมูลหรือไม่ แทนที่จะถือว่าการคาดการณ์เป็นกฎเดียวกัน
วิธีการนี้ยังกล่าวถึงข้อดีข้อเสียระหว่างความถูกต้องและความโปร่งใสอีกด้วย การแทนที่โมเดลที่ซับซ้อนด้วยการประมาณเชิงเส้นทั่วโลกสามารถลดความเที่ยงตรงได้ ในขณะที่การใช้กล่องดำเพียงอย่างเดียวอาจทำให้การตัดสินใจของแต่ละคนยากต่อการตรวจสอบ การกลั่นในท้องถิ่นพยายามรักษาพฤติกรรมการทำนายของครูไว้ใกล้กับแต่ละคำถาม ในขณะเดียวกันก็นำเสนอแบบจำลองขนาดเล็กที่ผู้คนสามารถตรวจสอบได้ แหล่งที่มาไม่ได้ระบุว่าการแลกเปลี่ยนนี้เกิดขึ้นในระบบเรียลไทม์ ขั้นตอนการทำงานที่ได้รับการควบคุม หรือการตัดสินใจที่เกี่ยวข้องกับผลที่ตามมาของมนุษย์อย่างมาก
กลไกเชิงโต้ตอบ: มันทำงานอย่างไร
สำรวจเทคโนโลยีเบื้องหลังการพัฒนานี้แบบโต้ตอบ
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
จะดูอะไรต่อไป.
งานนี้เป็นงานพิมพ์ล่วงหน้า arXiv และแหล่งที่มาไม่ได้สร้างการตรวจสอบโดยผู้ทรงคุณวุฒิ การจำลองแบบอิสระ การนำไปใช้งาน หรือประสิทธิภาพในการตั้งค่าการปฏิบัติงาน คำถามปลายเปิดที่สำคัญ ได้แก่ ความมีเสถียรภาพของคำอธิบายภายใต้การเปลี่ยนแปลงของข้อมูล วิธีการทำงานได้ดีเพียงใดนอกเหนือจากเกณฑ์มาตรฐานที่รายงาน และผู้ใช้ตีความโมเดลในเครื่องได้อย่างถูกต้องหรือไม่
ข้อจำกัดทันทีคือสถานะหลักฐานของงาน แหล่งที่มาระบุว่างานวิจัยนี้เป็นการส่ง arXiv และรายงานการกล่าวอ้างทางคณิตศาสตร์และเชิงประจักษ์ของผู้เขียน แต่ไม่ได้จัดทำเอกสารการตรวจสอบโดยผู้ทรงคุณวุฒิ การจำลองแบบอิสระ การเปรียบเทียบกับวิธีการตีความหลักๆ ทั้งหมด หรือใช้ในระบบการตัดสินใจที่เกิดขึ้นจริง ผลการรายงานจึงควรถือเป็นผลการวิจัยเบื้องต้น
การประเมินในอนาคตควรทดสอบว่าคำอธิบายในท้องถิ่นมีเสถียรภาพหรือไม่ เมื่อการกระจายข้อมูลพื้นฐานเปลี่ยนแปลง เมื่อคุณลักษณะมีความสัมพันธ์กัน และเมื่อใดที่โมเดลครูได้รับการฝึกอบรมใหม่ ผลลัพธ์ความเสถียรของกระดาษเกี่ยวข้องกับการก่อกวนเล็กน้อยในการตอบสนองการฝึกอบรมภายใต้การตั้งค่าบ่วงบาศแบบสุ่มตามที่ระบุไว้ ที่ไม่ได้สร้างความแข็งแกร่งให้กับตัวแปรที่หายไป การเปลี่ยนแปลงการกระจาย ข้อผิดพลาดในการวัด หรือการเปลี่ยนแปลงในสถาปัตยกรรมแบบจำลองด้วยตัวมันเอง
ตัวอย่างมะเร็งยังรับประกันการติดตามผลอย่างระมัดระวัง การระบุยีนที่ใช้โดยแบบจำลองท้องถิ่นที่แตกต่างกันไม่ได้พิสูจน์ว่ายีนเหล่านั้นทำให้เกิดผลลัพธ์ของผู้ป่วย หรือกลุ่มย่อยที่เกิดขึ้นนั้นมีความหมายทางคลินิก แหล่งที่มาไม่ได้รายงานการตรวจสอบทางคลินิก การทดสอบในอนาคต ผลการรักษา หรือหลักฐานที่แสดงว่าวิธีการดังกล่าวช่วยปรับปรุงการตัดสินใจทางการแพทย์ สิ่งที่ไม่ทราบเหล่านี้มีความสำคัญก่อนที่แนวทางดังกล่าวจะสามารถแจ้งการดูแลผู้ป่วยได้อย่างมีความรับผิดชอบ
การนำไปใช้จริงจะขึ้นอยู่กับว่าผู้ใช้ที่ต้องการสามารถเข้าใจและท้าทายโมเดลท้องถิ่นโดยไม่เข้าใจผิดว่าเป็นคำอธิบายที่สมบูรณ์เกี่ยวกับวิธีการทำงานของครูกล่องดำหรือไม่ รายละเอียดที่สำคัญที่ไม่ได้ระบุในแหล่งที่มา ได้แก่ ต้นทุนการคำนวณ จำนวนฟีเจอร์ที่มักจะรอดพ้นจากการลงโทษแบบจำกัด คำอธิบายเปรียบเทียบกับเส้นพื้นฐานที่ง่ายกว่า และจะเกิดอะไรขึ้นเมื่อการปรับให้เหมาะกับท้องถิ่นไม่เสถียรหรือขัดแย้งกัน คำถามเหล่านี้จะตัดสินว่าการกลั่นในท้องถิ่นกลายเป็นเครื่องมือตรวจสอบที่มีประโยชน์หรือยังคงเป็นเทคนิคการวิจัยเป็นหลัก