HƯỚNG DẪN công ty

LangChain

LangChain là một framework (và công ty) nguồn mở để xây dựng các ứng dụng được cung cấp bởi các mô hình ngôn ngữ lớn.

Đọc trong 2 phútCập nhật lần cuối

Tổng quan

It provides reusable building blocks for chaining LLM calls, connecting to data and tools, and orchestrating multi-step agents.

Lặn sâu

Được ra mắt bởi Harrison Chase vào tháng 10 năm 2022, ngay trước khi bùng nổ ChatGPT, LangChain đã trở thành framework phổ biến nhất để kết nối LLM vào các ứng dụng thực. Tiền đề của nó là các ứng dụng LLM hữu ích hiếm khi chỉ có một lời nhắc duy nhất; họ xâu chuỗi các lệnh gọi mô hình, truy xuất tài liệu, gọi API, phân tích cú pháp kết quả đầu ra và duy trì bộ nhớ. LangChain tiêu chuẩn hóa những phần này bằng cách tóm tắt các lời nhắc, mô hình, công cụ truy xuất, công cụ và 'chuỗi'. Ngôn ngữ biểu thức LangChain (LCEL) cho phép các nhà phát triển soạn thảo các thành phần theo cú pháp kiểu đường ống. Công ty đã mở rộng thành bộ sản phẩm: LangGraph để xây dựng quy trình làm việc của tổng đài viên có trạng thái, có thể kiểm soát được dưới dạng biểu đồ; LangSmith để theo dõi, gỡ lỗi và đánh giá các ứng dụng LLM trong quá trình sản xuất; và LangServe để triển khai. Có sẵn bằng Python và JavaScript, nó có hàng chục nghìn ngôi sao GitHub và được áp dụng rộng rãi trong doanh nghiệp, mặc dù một số nhà phê bình cho rằng tính trừu tượng của nó làm tăng thêm độ phức tạp cho các trường hợp sử dụng đơn giản.

Hiểu biết kỹ thuật

Về cơ bản LangChain là một lớp tổng hợp. Các thành phần chia sẻ một giao diện Runnable chung, do đó, mẫu nhắc, LLM và trình phân tích cú pháp đầu ra có thể được kết hợp với nhau (prompt | model | parser) thành một lệnh gọi duy nhất. Để tạo ra khả năng truy xuất tăng cường, nó kết nối các mô hình nhúng và kho lưu trữ vectơ để tìm nạp ngữ cảnh có liên quan. LangGraph mô hình hóa các tác nhân như một máy trạng thái, cung cấp khả năng kiểm soát rõ ràng đối với các vòng lặp, nhánh và lệnh gọi công cụ.

Tác động chiến lược

Chiến lược nhà cung cấp

Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.

Chi phí và ngân sách

Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.

Rủi ro và an toàn

Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.

Tương lai của LangChain

LangChain đang chuyển hướng từ một chuỗi các chuỗi sang điều phối tác nhân, với LangGraph là cốt lõi bền vững cho các tác nhân có trạng thái, đáng tin cậy có thể tạm dừng, tiếp tục và kết hợp đánh giá của con người. Mong đợi sự nhấn mạnh sâu hơn vào khả năng quan sát và đánh giá thông qua LangSmith, vì các nhóm chuyển ứng dụng LLM sang sản xuất cần phải đo lường chất lượng và chi phí. Đặt cược rộng hơn: khi các tác nhân trở thành mô hình thống trị, công cụ gỡ lỗi và điều phối mạnh mẽ quan trọng hơn các trình bao bọc tiện lợi.

Triển khai trong thế giới thực

Một công ty khởi nghiệp xây dựng bot Hỏi & Đáp tài liệu để truy xuất các đoạn PDF có liên quan từ kho lưu trữ vectơ và cung cấp chúng cho LLM để có câu trả lời có căn cứ.

Nhà phát triển soạn thảo một chuỗi nhận yêu cầu của người dùng, gọi API thời tiết làm công cụ, sau đó định dạng kết quả thành một câu trả lời thân thiện.

Một doanh nghiệp sử dụng LangGraph để xây dựng một đại lý hỗ trợ khách hàng lặp lại các bước và tạm dừng để con người phê duyệt trước khi hoàn lại tiền.

Một nhóm sử dụng LangSmith để theo dõi từng bước của chuỗi sản xuất chậm, tìm ra nguyên nhân gây tắc nghẽn và đánh giá chất lượng câu trả lời dựa trên bộ thử nghiệm.

Rủi ro & lan can

Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.

Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.

Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.

Lộ trình thực hiện

1

Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.

2

Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.

3

Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.

4

Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.

Tiếp tục khám phá

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the LangChain quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bắt đầu bài kiểm tra

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Hướng dẫn tiếp theo

Trung tâm liên lạc Cresta AI

Câu hỏi thường gặp

What is LangChain?

LangChain là một framework (và công ty) nguồn mở để xây dựng các ứng dụng được cung cấp bởi các mô hình ngôn ngữ lớn. Nó cung cấp các khối xây dựng có thể tái sử dụng để xâu chuỗi các cuộc gọi LLM, kết nối với dữ liệu và công cụ cũng như điều phối các tác nhân nhiều bước.

Ý tưởng trung tâm đằng sau LangChain là gì?

LangChain cung cấp các khối xây dựng có thể tái sử dụng để xâu chuỗi các cuộc gọi LLM, kết nối dữ liệu và công cụ cũng như điều phối các tác nhân.

Ai đã tạo ra LangChain và khoảng khi nào?

Harrison Chase ra mắt LangChain vào tháng 10 năm 2022, ngay trước khi ChatGPT ứng dụng LLM phổ biến.

LangGraph được sử dụng để làm gì trong hệ sinh thái LangChain?

LangGraph mô hình hóa các tác nhân dưới dạng máy/biểu đồ trạng thái, cho phép kiểm soát rõ ràng các vòng lặp, nhánh và lệnh gọi công cụ.

Vai trò chính của LangSmith là gì?

LangSmith cung cấp khả năng quan sát: truy tìm từng bước, gỡ lỗi và đánh giá chất lượng đầu ra trong sản xuất.

Trong LangChain, cú pháp ống 'prompt | người mẫu | trình phân tích cú pháp' đại diện?

Các thành phần chia sẻ giao diện Runnable nên chúng có thể được kết hợp bằng Ngôn ngữ biểu thức LangChain thành một đường dẫn duy nhất có thể gọi được.