HƯỚNG DẪN AI về ngôn ngữ

BloombergGPT và LLM tài chính

BloombergGPT là một mô hình nghiên cứu được đào tạo dựa trên sự kết hợp giữa văn bản tài chính và văn bản tổng quát, minh họa cách dữ liệu miền có thể trợ giúp thực hiện các nhiệm vụ ngôn ngữ tài chính trong khi vẫn duy trì được khả năng ngôn ngữ rộng hơn.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của BloombergGPT và LLM tài chính
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Bài báo của nó báo cáo các kết quả chuẩn, không đảm bảo rằng bất kỳ LLM tài chính nào đều mang lại sự đầu tư đáng tin cậy, sự tuân thủ hoặc lời khuyên về thị trường hiện tại.

Lặn sâu

BloombergGPT là mô hình ngôn ngữ gồm 50 tỷ tham số được các nhà nghiên cứu của Bloomberg mô tả trong tài liệu nghiên cứu năm 2023. Các nhà nghiên cứu đã tập hợp một tập hợp gồm 363 tỷ token tài chính và 345 tỷ token đa năng. Đây là kích thước kho văn bản, không phải là tuyên bố rằng mọi mã thông báo đều được sử dụng trong quá trình đào tạo. Các tác giả đánh giá mô hình dựa trên tiêu chuẩn ngôn ngữ tiêu chuẩn, tiêu chuẩn tài chính và nhiệm vụ nội bộ. Ngôn ngữ tài chính có từ vựng, cấu trúc tài liệu và nhiệm vụ chuyên ngành. Một mô hình được đào tạo về tài liệu miền có thể học các cách trình bày hữu ích để phân loại tình cảm, nhận dạng thực thể, trả lời câu hỏi hoặc tóm tắt văn bản tài chính. Dữ liệu chung có thể giúp duy trì các khả năng rộng hơn. Nhưng bản thân quy mô và chuyên môn hóa dữ liệu không đảm bảo độ chính xác thực tế, tính chính xác về số lượng hoặc tính phù hợp cho một quyết định được quản lý. Kết quả điểm chuẩn phụ thuộc vào bộ dữ liệu, số liệu, đường cơ sở và giai đoạn đánh giá đã chọn. Khi so sánh LLM tài chính với mô hình chung, trước tiên hãy xác định nhiệm vụ mục tiêu. Sử dụng các hồ sơ, tin tức, bản ghi hoặc câu hỏi phân tích mang tính đại diện, được lưu sẵn và ngăn chặn rò rỉ từ các ví dụ điểm chuẩn. Đánh giá các số liệu chính xác tách biệt với chất lượng văn xuôi. Kiểm tra các câu hỏi, trích dẫn, công ty hiếm hoi, ví dụ tiêu cực và tài liệu đa ngôn ngữ nếu chúng nằm trong phạm vi kiểm tra. So sánh kết quả đầu ra với tài liệu nguồn và đo lường tần suất người đánh giá cần sửa kết quả. Lớp truy xuất có thể cung cấp các hồ sơ hiện tại hoặc tài liệu thị trường, nhưng việc truy xuất không loại bỏ nhu cầu xác minh các tính toán và báo giá. Lưu trữ nguồn và ngày của tài liệu, đồng thời giúp hệ thống phân biệt thông tin được truy xuất với phần giải thích do mô hình tạo ra. Giữ sự chấp thuận của con người trong quy trình công việc nơi kết quả đầu ra có thể ảnh hưởng đến quyết định đầu tư, tín dụng, tuân thủ hoặc khách hàng. Đánh giá quyền riêng tư, quyền dữ liệu, độ trễ và chi phí cùng với chất lượng nhiệm vụ. Bài viết của BloombergGPT cũng minh họa các giới hạn của các tuyên bố công khai: điểm chuẩn nội bộ có thể không được tái tạo một cách độc lập và lợi thế được báo cáo trong một bài kiểm tra không tạo nên tính ưu việt giữa các nhiệm vụ. LLM tài chính nên được coi là thành phần của công việc ngôn ngữ, chứ không phải là cơ quan có thẩm quyền tự chủ về tiền bạc hoặc luật pháp. Chỉ sử dụng chúng trong một quy trình xác nhận và trách nhiệm giải trình rõ ràng.

Triển khai trong thế giới thực

Một nhà phân tích so sánh mô hình chuyên ngành tài chính và mô hình chung về các câu hỏi về cuộc gọi thu nhập được đưa ra bằng cách sử dụng cùng một phiếu đánh giá và tài liệu nguồn.

Một nhóm nghiên cứu yêu cầu một mô hình ngôn ngữ trích xuất các số liệu trong bảng cân đối kế toán từ một hồ sơ, sau đó xác minh mọi con số đối với bảng hồ sơ được trích dẫn.

Nhóm sản phẩm đánh giá phân loại cảm tính theo quy mô công ty và các nguồn tin tức, kiểm tra xem kết quả có thay đổi theo các điều khoản tài chính không phổ biến hay không.

Quy trình làm việc tuân thủ căn cứ vào bản tóm tắt của mô hình trong các hồ sơ ghi ngày tháng và gắn nhãn kết quả đầu ra như một sự hỗ trợ để xem xét thay vì một đề xuất.

Tương lai của BloombergGPT và LLM tài chính

Các mô hình ngôn ngữ tài chính có thể cải thiện khi việc đánh giá bao gồm nhiều nhiệm vụ, khoảng thời gian và loại tài liệu hơn, nhưng mức tăng điểm chuẩn phải gắn liền với một quy trình làm việc cụ thể. Các nhóm nên lưu giữ nội dung nguồn cập nhật, làm mới các bài kiểm tra đã thực hiện và đo lường các lỗi về số và trích dẫn tách biệt với mức độ trôi chảy. So sánh các hệ thống chuyên biệt và tổng quát trên cùng một bằng chứng. Sử dụng sự phê duyệt của con người cho các quyết định mang tính hệ quả và xem xét lại tính phù hợp khi dữ liệu, sản phẩm hoặc điều kiện thị trường thay đổi. Ghi lại ngày thử nghiệm và thành phần mẫu để có thể so sánh mức tăng được báo cáo giữa các phiên bản.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Tốc độ và tỷ lệ. Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
  • Truy cập và tiếp cận. Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
  • Quyết định rõ ràng hơn. Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.

coi chừng

  • Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
  • Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
  • Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.

Các bước tiếp theo

  1. Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
  2. Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
  3. Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
  4. Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the BloombergGPT and Financial LLMs quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

BloombergGPT và LLM tài chính là gì?

BloombergGPT là một mô hình nghiên cứu được đào tạo dựa trên sự kết hợp giữa văn bản tài chính và văn bản tổng quát, minh họa cách dữ liệu miền có thể trợ giúp thực hiện các nhiệm vụ ngôn ngữ tài chính trong khi vẫn duy trì được khả năng ngôn ngữ rộng hơn. Bài báo của nó báo cáo các kết quả chuẩn, không đảm bảo rằng bất kỳ LLM tài chính nào đều mang lại sự đầu tư đáng tin cậy, sự tuân thủ hoặc lời khuyên về thị trường hiện tại.

Bài báo BloombergGPT đã báo cáo gì về dữ liệu đào tạo trước của nó?

Bài viết mô tả một kho dữ liệu tài chính lớn kết hợp với dữ liệu có mục đích chung.

Điểm số cao trên một tiêu chuẩn tài chính thiết lập điều gì?

Điểm chuẩn được giới hạn ở tập dữ liệu, số liệu và thiết kế đánh giá được thử nghiệm.

Tại sao đánh giá việc trích xuất số tách biệt với tóm tắt trôi chảy?

Sự trôi chảy và độ chính xác thực tế là những khả năng khác nhau; số liệu và thời gian cần kiểm tra trực tiếp.

Nên sử dụng hồ sơ được truy xuất như thế nào trong quy trình LLM tài chính?

Việc truy xuất có thể cung cấp bằng chứng, nhưng nhà phân tích vẫn kiểm tra các tuyên bố và tính toán dựa trên nguồn.

Bộ đánh giá nào hữu ích khi so sánh các mô hình tổng quát và chuyên ngành tài chính?

Một tập hợp được chia sẻ, được giữ lại giúp việc so sánh có ý nghĩa hơn và giảm sai lệch lựa chọn.