Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเอง
Toolformer คือวิธีการ Meta AI ปี 2023 ที่ให้โมเดลภาษาสอนตัวเองว่าจะเรียกเครื่องมือภายนอกเมื่อใดและอย่างไร เช่น เครื่องคิดเลข เครื่องมือค้นหา และนักแปล
ภาพรวม
แทนที่มนุษย์จะตั้งชื่อการเรียกเครื่องมือ โมเดลจะสร้างและกรองตัวอย่างการฝึกของตัวเอง จากนั้นปรับแต่งเฉพาะตัวอย่างที่ช่วยได้จริง
เจาะลึก
Toolformer จาก Schick และคณะ ที่ Meta AI จัดการกับความขัดแย้ง: โมเดลขนาดใหญ่เก่งภาษาแต่ไม่เก่งเลขคณิต ข้อเท็จจริงใหม่ๆ และการค้นหาที่แม่นยำ วงจรการฝึกอบรมมีการดูแลตนเอง โมเดลนี้ได้รับตัวอย่างที่เขียนโดยมนุษย์จำนวนหนึ่งซึ่งแสดงไวยากรณ์การเรียก API จากนั้นได้รับแจ้งให้แทรกการเรียกของผู้สมัคร (ห่อด้วยโทเค็นพิเศษ) ในหลายตำแหน่งทั่วทั้งคลังข้อความขนาดใหญ่ การเรียกผู้สมัครแต่ละครั้งได้รับการดำเนินการจริง และผลลัพธ์จะถูกเชื่อมต่อเข้าด้วยกัน ขั้นตอนการกรองคีย์จะคงการเรียกเครื่องมือไว้ก็ต่อเมื่อการมีผล API ช่วยลดความซับซ้อนของโมเดลในข้อความจริงที่กำลังจะมาถึงมากกว่าการไม่โทรหรือการโทรที่แตกต่างออกไป จากนั้นโมเดลจะได้รับการปรับแต่งอย่างละเอียดบนชุดข้อมูลที่กรองและสร้างขึ้นเองนี้ โดยเรียนรู้ที่จะเรียกใช้เครื่องมือ 5 ชนิด ได้แก่ เครื่องคิดเลข ระบบ QA เครื่องมือค้นหา นักแปล และปฏิทิน
ข้อมูลเชิงลึกทางเทคนิค
แนวคิดที่เด็ดขาดคือวัตถุประสงค์ในการกรองแบบควบคุมตนเอง สำหรับแต่ละตำแหน่งผู้สมัคร Toolformer จะเปรียบเทียบการสูญเสียของการทำนายโทเค็นต่อไปนี้กับผลลัพธ์ API ที่แทรกไว้กับที่ไม่มีการแทรก การโทรที่ลดการสูญเสียมากกว่าเกณฑ์จะยังคงอยู่ สายที่ไร้ประโยชน์หรือมีเสียงดังจะถูกทิ้งไป ซึ่งหมายความว่าไม่จำเป็นต้องมีคำอธิบายประกอบโดยมนุษย์เกี่ยวกับการใช้เครื่องมือ 'ถูกต้อง' โมเดลจะตัดสินว่าการเรียกใดให้ข้อมูลอย่างแท้จริง และเรียนรู้ตำแหน่งและข้อโต้แย้งร่วมกัน
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของ Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเอง
Toolformer เป็นผู้ริเริ่มการใช้เครื่องมือและการเรียกใช้ฟังก์ชันในปัจจุบัน ขอบเขตกำลังย้ายจากเครื่องมือคงที่จำนวนหนึ่งไปเป็นหลายสิบหรือหลายร้อยที่พบในรันไทม์ โดยมีโมเดลต่างๆ คอยให้เหตุผลว่าเครื่องมือใดที่จะเรียกใช้ การโทรแบบผูกมัด และการจัดการความล้มเหลว คาดหวังการผสานรวมที่เข้มงวดยิ่งขึ้นกับการเรียนรู้แบบเสริมกำลังและลูปของตัวแทน รวมถึงการเรียนรู้แบบทันทีทันใดของ API ใหม่ เพื่อให้การใช้เครื่องมือที่เรียนรู้ด้วยตนเองกลายเป็นความสามารถมาตรฐานมากกว่าการปรับแต่งแบบเฉพาะทาง
การใช้งานจริงในโลกแห่งความเป็นจริง
การเรียกเครื่องคิดเลข API ประโยคกลางเพื่อรับเลขคณิตที่แน่นอนแทนที่จะเดาคำตอบที่เป็นตัวเลข
การสอบถามการค้นหาหรือระบบประกันคุณภาพเพื่อดึงข้อมูลที่เป็นปัจจุบันหรือข้อเท็จจริงที่ไม่ค่อยพบเห็น
การเรียกใช้เครื่องมือแปลด้วยเครื่องเพื่อแสดงวลีในภาษาอื่นภายในข้อความที่สร้างขึ้น
การใช้เครื่องมือปฏิทิน/วันที่เพื่อแก้ไขการอ้างอิงที่เกี่ยวข้อง เช่น 'วันศุกร์หน้า' กับวันที่ที่เป็นรูปธรรม
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การสะท้อนตนเองใน Agent Loops
คำถามที่พบบ่อย
Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเองคืออะไร?
Toolformer คือวิธีการ Meta AI ปี 2023 ที่ให้โมเดลภาษาสอนตัวเองว่าจะเรียกเครื่องมือภายนอกเมื่อใดและอย่างไร เช่น เครื่องคิดเลข เครื่องมือค้นหา และนักแปล แทนที่จะให้มนุษย์ติดป้ายกำกับการเรียกใช้เครื่องมือ โมเดลจะสร้างและกรองตัวอย่างการฝึกของตัวเอง จากนั้นจึงปรับแต่งตัวอย่างที่ช่วยได้จริง
อะไรทำให้แนวทางการใช้เครื่องมือการเรียนรู้ของ Toolformer มีความโดดเด่น
Toolformer มีการดูแลตนเอง: โมเดลเสนอการเรียก API ของผู้สมัคร ดำเนินการ และเก็บเฉพาะรายการที่เป็นประโยชน์ โดยไม่มีคำอธิบายประกอบเกี่ยวกับการใช้งานที่ถูกต้องโดยมนุษย์
Toolformer ใช้เกณฑ์ใดในการตัดสินใจว่าจะคงการเรียก API ของผู้สมัครไว้หรือไม่
การเรียกจะยังคงอยู่ก็ต่อเมื่อการแทรกผลลัพธ์จะช่วยลดความฉงนสนเท่ห์/การสูญเสียของโมเดลในข้อความจริงที่กำลังจะมาถึงซึ่งเกินขีดจำกัด ซึ่งบ่งชี้ว่ามันมีประโยชน์อย่างแท้จริง
Toolformer ดั้งเดิมเรียนรู้การใช้ชุดเครื่องมือใด
Toolformer ได้รับการฝึกอบรมให้เรียกใช้ API ห้ารายการ ได้แก่ เครื่องคิดเลข ระบบตอบคำถาม เครื่องมือค้นหา เครื่องแปล และปฏิทิน
การเรียกเครื่องมือแสดงในข้อความระหว่างกระบวนการของ Toolformer อย่างไร
การเรียกของผู้สมัครและผลลัพธ์ที่ส่งคืนจะถูกแทรกในบรรทัดในข้อความโดยใช้โทเค็นพิเศษ ดังนั้นโมเดลจึงเรียนรู้ตำแหน่งและข้อโต้แย้งร่วมกัน
จุดอ่อนที่ซ่อนอยู่ของโมเดลภาษาขนาดใหญ่เป็นแรงบันดาลใจให้ Toolformer หรือไม่
แม้จะมีทักษะทางภาษาที่แข็งแกร่ง แต่ LLM ก็ยังต้องเผชิญกับปัญหาทางคณิตศาสตร์ที่แม่นยำ ข้อเท็จจริงที่เป็นปัจจุบัน และการเรียกค้นข้อมูลที่แม่นยำ ซึ่งเครื่องมือภายนอกสามารถจัดหาได้