คู่มือทางเทคนิค

Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเอง

Toolformer คือวิธีการ Meta AI ปี 2023 ที่ให้โมเดลภาษาสอนตัวเองว่าจะเรียกเครื่องมือภายนอกเมื่อใดและอย่างไร เช่น เครื่องคิดเลข เครื่องมือค้นหา และนักแปล

ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min

บนหน้านี้อ่าน 2 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของ Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเอง
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

แทนที่มนุษย์จะตั้งชื่อการเรียกเครื่องมือ โมเดลจะสร้างและกรองตัวอย่างการฝึกของตัวเอง จากนั้นปรับแต่งเฉพาะตัวอย่างที่ช่วยได้จริง

เจาะลึก

Toolformer จาก Schick และคณะ ที่ Meta AI จัดการกับความขัดแย้ง: โมเดลขนาดใหญ่เก่งภาษาแต่ไม่เก่งเลขคณิต ข้อเท็จจริงใหม่ๆ และการค้นหาที่แม่นยำ วงจรการฝึกอบรมมีการดูแลตนเอง โมเดลนี้ได้รับตัวอย่างที่เขียนโดยมนุษย์จำนวนหนึ่งซึ่งแสดงไวยากรณ์การเรียก API จากนั้นได้รับแจ้งให้แทรกการเรียกของผู้สมัคร (ห่อด้วยโทเค็นพิเศษ) ในหลายตำแหน่งทั่วทั้งคลังข้อความขนาดใหญ่ การเรียกผู้สมัครแต่ละครั้งได้รับการดำเนินการจริง และผลลัพธ์จะถูกเชื่อมต่อเข้าด้วยกัน ขั้นตอนการกรองคีย์จะคงการเรียกเครื่องมือไว้ก็ต่อเมื่อการมีผล API ช่วยลดความซับซ้อนของโมเดลในข้อความจริงที่กำลังจะมาถึงมากกว่าการไม่โทรหรือการโทรที่แตกต่างออกไป จากนั้นโมเดลจะได้รับการปรับแต่งอย่างละเอียดบนชุดข้อมูลที่กรองและสร้างขึ้นเองนี้ โดยเรียนรู้ที่จะเรียกใช้เครื่องมือ 5 ชนิด ได้แก่ เครื่องคิดเลข ระบบ QA เครื่องมือค้นหา นักแปล และปฏิทิน

การใช้งานจริงในโลกแห่งความเป็นจริง

การเรียกเครื่องคิดเลข API ประโยคกลางเพื่อรับเลขคณิตที่แน่นอนแทนที่จะเดาคำตอบที่เป็นตัวเลข

การสอบถามการค้นหาหรือระบบประกันคุณภาพเพื่อดึงข้อมูลที่เป็นปัจจุบันหรือข้อเท็จจริงที่ไม่ค่อยพบเห็น

การเรียกใช้เครื่องมือแปลด้วยเครื่องเพื่อแสดงวลีในภาษาอื่นภายในข้อความที่สร้างขึ้น

การใช้เครื่องมือปฏิทิน/วันที่เพื่อแก้ไขการอ้างอิงที่เกี่ยวข้อง เช่น 'วันศุกร์หน้า' กับวันที่ที่เป็นรูปธรรม

อนาคตของ Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเอง

Toolformer เป็นผู้ริเริ่มการใช้เครื่องมือและการเรียกใช้ฟังก์ชันในปัจจุบัน ขอบเขตกำลังย้ายจากเครื่องมือคงที่จำนวนหนึ่งไปเป็นหลายสิบหรือหลายร้อยที่พบในรันไทม์ โดยมีโมเดลต่างๆ คอยให้เหตุผลว่าเครื่องมือใดที่จะเรียกใช้ การโทรแบบผูกมัด และการจัดการความล้มเหลว คาดหวังการผสานรวมที่เข้มงวดยิ่งขึ้นกับการเรียนรู้แบบเสริมกำลังและลูปของตัวแทน รวมถึงการเรียนรู้แบบทันทีทันใดของ API ใหม่ เพื่อให้การใช้เครื่องมือที่เรียนรู้ด้วยตนเองกลายเป็นความสามารถมาตรฐานมากกว่าการปรับแต่งแบบเฉพาะทาง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Toolformer and Self-Taught Tool Use quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

Toolformer และการใช้เครื่องมือที่เรียนรู้ด้วยตนเองคืออะไร?

Toolformer คือวิธีการ Meta AI ปี 2023 ที่ให้โมเดลภาษาสอนตัวเองว่าจะเรียกเครื่องมือภายนอกเมื่อใดและอย่างไร เช่น เครื่องคิดเลข เครื่องมือค้นหา และนักแปล แทนที่จะให้มนุษย์ติดป้ายกำกับการเรียกใช้เครื่องมือ โมเดลจะสร้างและกรองตัวอย่างการฝึกของตัวเอง จากนั้นจึงปรับแต่งตัวอย่างที่ช่วยได้จริง

อะไรทำให้แนวทางการใช้เครื่องมือการเรียนรู้ของ Toolformer มีความโดดเด่น

Toolformer มีการดูแลตนเอง: โมเดลเสนอการเรียก API ของผู้สมัคร ดำเนินการ และเก็บเฉพาะรายการที่เป็นประโยชน์ โดยไม่มีคำอธิบายประกอบเกี่ยวกับการใช้งานที่ถูกต้องโดยมนุษย์

Toolformer ใช้เกณฑ์ใดในการตัดสินใจว่าจะคงการเรียก API ของผู้สมัครไว้หรือไม่

การเรียกจะยังคงอยู่ก็ต่อเมื่อการแทรกผลลัพธ์จะช่วยลดความฉงนสนเท่ห์/การสูญเสียของโมเดลในข้อความจริงที่กำลังจะมาถึงซึ่งเกินขีดจำกัด ซึ่งบ่งชี้ว่ามันมีประโยชน์อย่างแท้จริง

Toolformer ดั้งเดิมเรียนรู้การใช้ชุดเครื่องมือใด

Toolformer ได้รับการฝึกอบรมให้เรียกใช้ API ห้ารายการ ได้แก่ เครื่องคิดเลข ระบบตอบคำถาม เครื่องมือค้นหา เครื่องแปล และปฏิทิน

การเรียกเครื่องมือแสดงในข้อความระหว่างกระบวนการของ Toolformer อย่างไร

การเรียกของผู้สมัครและผลลัพธ์ที่ส่งคืนจะถูกแทรกในบรรทัดในข้อความโดยใช้โทเค็นพิเศษ ดังนั้นโมเดลจึงเรียนรู้ตำแหน่งและข้อโต้แย้งร่วมกัน

จุดอ่อนที่ซ่อนอยู่ของโมเดลภาษาขนาดใหญ่เป็นแรงบันดาลใจให้ Toolformer หรือไม่

แม้จะมีทักษะทางภาษาที่แข็งแกร่ง แต่ LLM ก็ยังต้องเผชิญกับปัญหาทางคณิตศาสตร์ที่แม่นยำ ข้อเท็จจริงที่เป็นปัจจุบัน และการเรียกค้นข้อมูลที่แม่นยำ ซึ่งเครื่องมือภายนอกสามารถจัดหาได้

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →