คู่มือบริษัท

แลงเชน

LangChain เป็นเฟรมเวิร์กโอเพ่นซอร์ส (และบริษัท) สำหรับการสร้างแอปพลิเคชันที่ขับเคลื่อนโดยโมเดลภาษาขนาดใหญ่

ภาพรวม

LangChain เป็นเฟรมเวิร์กโอเพ่นซอร์ส (และบริษัท) สำหรับการสร้างแอปพลิเคชันที่ขับเคลื่อนโดยโมเดลภาษาขนาดใหญ่ โดยมี Building Block ที่นำมาใช้ซ้ำได้สำหรับการเชื่อมโยงการโทร LLM การเชื่อมต่อกับข้อมูลและเครื่องมือ และการจัดการเอเจนต์แบบหลายขั้นตอน

LangChain เป็นที่เข้าใจดีที่สุดในบริบทของกลยุทธ์ การเข้าถึงโมเดล การตัดสินใจเกี่ยวกับแพลตฟอร์ม และความร่วมมือในระบบนิเวศ

เจาะลึก

เปิดตัวโดย Harrison Chase ในเดือนตุลาคม 2022 ก่อนที่ ChatGPT จะบูม LangChain กลายเป็นเฟรมเวิร์กที่ได้รับความนิยมมากที่สุดสำหรับการวางสาย LLM เข้ากับแอปพลิเคชันจริง หลักฐานก็คือแอป LLM ที่มีประโยชน์นั้นแทบจะไม่ได้รับการแจ้งเตือนเพียงครั้งเดียว พวกเขาเชื่อมโยงการเรียกโมเดล ดึงเอกสาร เรียก API แยกวิเคราะห์เอาต์พุต และรักษาหน่วยความจำ LangChain สร้างมาตรฐานให้กับชิ้นส่วนเหล่านี้ด้วยนามธรรมสำหรับ prompts, model,ดึงข้อมูล, tools และ 'chains' LangChain Expression Language (LCEL) ช่วยให้นักพัฒนาสามารถเขียนส่วนประกอบด้วยไวยากรณ์แบบไปป์ได้ บริษัทขยายไปสู่ชุดผลิตภัณฑ์: LangGraph สำหรับการสร้างเวิร์กโฟลว์ตัวแทนแบบมีสถานะและควบคุมได้เป็นกราฟ; LangSmith สำหรับการติดตาม ดีบัก และประเมินแอป LLM ในการผลิต และ LangServe สำหรับการปรับใช้ พร้อมใช้งานใน Python และ JavaScript โดยมีดาว GitHub นับหมื่นดาวและการนำไปใช้ในวงกว้างระดับองค์กร แม้ว่านักวิจารณ์บางคนแย้งว่านามธรรมของมันเพิ่มความซับซ้อนให้กับกรณีการใช้งานที่เรียบง่าย

ข้อมูลเชิงลึกทางเทคนิค

หัวใจสำคัญของ LangChain คือเลเยอร์การเรียบเรียง คอมโพเนนต์ใช้อินเทอร์เฟซ Runnable ร่วมกัน ดังนั้นเทมเพลตพร้อมต์ LLM และตัวแยกวิเคราะห์เอาต์พุตสามารถไพพ์ร่วมกัน (พร้อมท์ | โมเดล | ตัวแยกวิเคราะห์) ให้เป็นสายเดียวที่เรียกได้ สำหรับรุ่นที่ดึงข้อมูลมาเสริม จะเชื่อมต่อโมเดลที่ฝังไว้และร้านค้าเวกเตอร์เพื่อดึงบริบทที่เกี่ยวข้อง LangGraph จำลองเอเจนต์เป็นเครื่องสถานะ ซึ่งให้การควบคุมลูป สาขา และการเรียกเครื่องมืออย่างชัดเจน

การเรียนรู้ LangChain

LangChain เป็นเฟรมเวิร์กโอเพ่นซอร์ส (และบริษัท) สำหรับการสร้างแอปพลิเคชันที่ขับเคลื่อนโดยโมเดลภาษาขนาดใหญ่ โดยมี Building Block ที่นำมาใช้ซ้ำได้สำหรับการเชื่อมโยงการโทร LLM การเชื่อมต่อกับข้อมูลและเครื่องมือ และการจัดการเอเจนต์แบบหลายขั้นตอน LangChain เป็นที่เข้าใจดีที่สุดในบริบทของกลยุทธ์ การเข้าถึงโมเดล การตัดสินใจเกี่ยวกับแพลตฟอร์ม และความร่วมมือในระบบนิเวศ เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ปฏิบัติต่อ LangChain เสมือนเป็นโมเดลการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ LangChain จะประเมินกลยุทธ์ของผู้ขาย ความน่าเชื่อถือของแผนงาน และความเสี่ยงในการล็อคอินก่อนตัดสินใจ โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป ในขณะเดียวกัน การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป

โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว

ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง

สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของ LangChain

LangChain กำลังเปลี่ยนจากกลุ่มโซ่ไปสู่การประสานงานของตัวแทน โดยมี LangGraph เป็นแกนหลักที่ทนทานสำหรับตัวแทนที่เชื่อถือได้และมีสถานะ ซึ่งสามารถหยุดชั่วคราว ดำเนินการต่อ และรวมการตรวจสอบโดยมนุษย์ได้ คาดหวังการเน้นที่ลึกซึ้งยิ่งขึ้นในเรื่องความสามารถในการสังเกตและการประเมินผลผ่าน LangSmith เนื่องจากทีมที่ย้ายแอป LLM ไปสู่การใช้งานจริงจำเป็นต้องวัดคุณภาพและต้นทุน เดิมพันที่กว้างขึ้น: เมื่อตัวแทนกลายเป็นรูปแบบที่โดดเด่น การจัดการที่มีประสิทธิภาพและเครื่องมือการแก้ไขจุดบกพร่องมีความสำคัญมากกว่าการห่อแบบอำนวยความสะดวก

การใช้งานจริงในโลกแห่งความเป็นจริง

สตาร์ทอัพจะสร้างบอทถามตอบเอกสารที่ดึงข้อความ PDF ที่เกี่ยวข้องจากร้านค้าเวกเตอร์ และป้อนไปยัง LLM เพื่อหาคำตอบที่มีเหตุผล

นักพัฒนาเขียนห่วงโซ่ที่รับคำขอของผู้ใช้ เรียก API สภาพอากาศเป็นเครื่องมือ จากนั้นจัดรูปแบบผลลัพธ์เป็นการตอบกลับที่เป็นมิตร

องค์กรใช้ LangGraph เพื่อสร้างตัวแทนสนับสนุนลูกค้าที่วนขั้นตอนและหยุดชั่วคราวเพื่อขออนุมัติจากมนุษย์ก่อนจะคืนเงิน

ทีมงานใช้ LangSmith เพื่อติดตามทุกขั้นตอนของห่วงโซ่การผลิตที่ช้า ค้นหาปัญหาคอขวด และประเมินคุณภาพคำตอบโดยเทียบกับชุดทดสอบ

รูปแบบการดำเนินงาน

LangChain ในทางปฏิบัติ

สตาร์ทอัพจะสร้างบอทถามตอบเอกสารที่ดึงข้อความ PDF ที่เกี่ยวข้องจากร้านค้าเวกเตอร์ และป้อนไปยัง LLM เพื่อหาคำตอบที่มีเหตุผล

สตาร์ทอัพสร้างบอตถามตอบเอกสารที่ดึงข้อความ PDF ที่เกี่ยวข้องจากร้านค้าเวกเตอร์และป้อนไปยัง LLM เพื่อรับคำตอบที่มีเหตุผล ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

LangChain ในทางปฏิบัติ

นักพัฒนาเขียนห่วงโซ่ที่รับคำขอของผู้ใช้ เรียก API สภาพอากาศเป็นเครื่องมือ จากนั้นจัดรูปแบบผลลัพธ์เป็นการตอบกลับที่เป็นมิตร

นักพัฒนาสร้างห่วงโซ่ที่รับคำขอของผู้ใช้ เรียก API สภาพอากาศเป็นเครื่องมือ จากนั้นจัดรูปแบบผลลัพธ์เป็นการตอบกลับที่เป็นมิตร ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

LangChain ในทางปฏิบัติ

องค์กรใช้ LangGraph เพื่อสร้างตัวแทนสนับสนุนลูกค้าที่วนขั้นตอนและหยุดชั่วคราวเพื่อขออนุมัติจากมนุษย์ก่อนจะคืนเงิน

องค์กรใช้ LangGraph เพื่อสร้างตัวแทนฝ่ายสนับสนุนลูกค้าที่วนซ้ำขั้นตอนและหยุดชั่วคราวเพื่อการอนุมัติโดยมนุษย์ก่อนที่จะออกการคืนเงิน ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

LangChain ในทางปฏิบัติ

ทีมงานใช้ LangSmith เพื่อติดตามทุกขั้นตอนของห่วงโซ่การผลิตที่ช้า ค้นหาปัญหาคอขวด และประเมินคุณภาพคำตอบโดยเทียบกับชุดทดสอบ

ทีมใช้ LangSmith เพื่อติดตามทุกขั้นตอนของห่วงโซ่การผลิตที่ช้า ค้นหาการเรียกคอขวด และประเมินคุณภาพคำตอบเทียบกับชุดทดสอบ โดยปกติแล้วทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง

!

การกำหนดราคา API หรือการเปลี่ยนแปลงนโยบายสามารถทำลายสมมติฐานได้ในชั่วข้ามคืน

!

การพึ่งพาผู้ขายรายเดียวจะเพิ่มค่าใช้จ่ายในการล็อคอินและการย้ายข้อมูล

แผนงานการดำเนินงาน

1

ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง

ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ

ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย

รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ

ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป