Giảm kích thước
Giảm kích thước sẽ thu nhỏ dữ liệu từ nhiều cột (tính năng) xuống một số cột trong khi vẫn giữ cấu trúc quan trọng.
Tổng quan
Nó chống lại 'lời nguyền của chiều không gian', tăng tốc mô hình và cho phép bạn trực quan hóa dữ liệu phức tạp ở dạng 2D hoặc 3D.
Lặn sâu
Các bộ dữ liệu thực thường có hàng trăm hoặc hàng nghìn tính năng: từng pixel trong một hình ảnh, từng từ trong từ vựng, mọi cảm biến trên máy. Trong không gian nhiều chiều như vậy, các điểm dữ liệu trở nên thưa thớt và cách xa nhau, các phép đo khoảng cách trở nên không đáng tin cậy và các mô hình có xu hướng bị nhiễu quá mức. Đây là lời nguyền của chiều. Giảm kích thước ánh xạ dữ liệu thành ít kích thước hơn trong khi vẫn duy trì các mối quan hệ có ý nghĩa. PCA thực hiện điều này một cách tuyến tính bằng cách tìm ra hướng có phương sai lớn nhất. t-SNE và UMAP là phi tuyến tính và xuất sắc trong việc hiển thị các cụm để trực quan hóa. Việc giảm kích thước sẽ loại bỏ các tính năng dư thừa hoặc nhiễu, cắt giảm bộ nhớ và khả năng tính toán, đồng thời thường xuyên cải thiện độ chính xác của mô hình xuôi dòng vì có ít tín hiệu không liên quan hơn gây nhầm lẫn cho mô hình đó.
Hiểu biết kỹ thuật
PCA hoạt động bằng cách tính toán hiệp phương sai của các đặc điểm và tìm các vectơ riêng, 'các thành phần chính', chỉ ra các hướng có phương sai tối đa. Bạn giữ lại một số thành phần trên cùng và chiếu dữ liệu lên chúng, loại bỏ các hướng có phương sai thấp, chủ yếu là nhiễu. Thay vào đó, t-SNE và UMAP mô hình hóa các mối quan hệ lân cận: họ cố gắng giữ các điểm gần nhau ở kích thước cao gần với bản đồ chiều thấp. UMAP xây dựng biểu đồ các điểm lân cận, giúp nó nhanh hơn t-SNE và bảo toàn cấu trúc toàn cầu rộng hơn tốt hơn.
Tác động chiến lược
Quyết định rõ ràng hơn
Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
Chi phí và ngân sách
Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
Nhóm và quy trình làm việc
Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
Tương lai của việc giảm kích thước
Giảm kích thước hiện là một bước thường xuyên bên trong các quy trình AI lớn hơn chứ không phải là một nhiệm vụ độc lập. UMAP phần lớn đã trở thành mặc định để khám phá các phần nhúng từ các mô hình ngôn ngữ và tầm nhìn lớn, nơi các kỹ sư chiếu hàng nghìn chiều vào bản đồ 2D để kiểm tra những gì mô hình đã học được. Mong đợi sự tích hợp chặt chẽ hơn với bảng điều khiển tương tác, triển khai được tăng tốc GPU nhanh hơn cho bộ dữ liệu hàng tỷ hàng và mức độ sử dụng ngày càng tăng trong công việc giải thích, trong đó các nhà nghiên cứu giảm kích hoạt nội bộ của mô hình để hiểu và gỡ lỗi hành vi của nó.
Triển khai trong thế giới thực
Vẽ biểu đồ nhúng từ hoặc câu từ mô hình ngôn ngữ ở dạng 2D bằng UMAP để xem các khái niệm mà mô hình nhóm lại với nhau
Nén hàng nghìn phép đo biểu hiện gen trên mỗi bệnh nhân thành một vài thành phần trước khi phân nhóm các phân nhóm bệnh
Giảm các đặc điểm hình ảnh trước khi đưa chúng vào bộ phân loại để việc đào tạo nhanh hơn và ít bị trang bị quá mức
Trực quan hóa hành vi của khách hàng trên hàng trăm số liệu dưới dạng biểu đồ phân tán 2D để xác định các phân khúc thị trường riêng biệt
Rủi ro & lan can
Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Lộ trình thực hiện
Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
Tài liệu giúp Giảm kích thước và nơi các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Dimensionality Reduction quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Cặp song sinh Barlow và giảm dư thừa
Câu hỏi thường gặp
Giảm chiều là gì?
Giảm kích thước sẽ thu nhỏ dữ liệu từ nhiều cột (tính năng) xuống một số cột trong khi vẫn giữ cấu trúc quan trọng. Nó chống lại 'lời nguyền về chiều', tăng tốc các mô hình và cho phép bạn thực sự trực quan hóa dữ liệu phức tạp ở dạng 2D hoặc 3D.
'Lời nguyền của chiều hướng' là gì?
Trong không gian có nhiều chiều, các điểm nằm cách xa nhau và các thước đo khoảng cách bị phá vỡ, do đó các mô hình gặp khó khăn trong việc tìm ra các mẫu và có xu hướng khớp quá mức.
PCA quyết định nên giữ hướng nào?
PCA tìm ra các thành phần chính, các trục có phương sai lớn nhất và giữ lại những thành phần hàng đầu vì chúng mang nhiều thông tin nhất.
Tại sao PCA được gọi là phương pháp 'tuyến tính'?
Mỗi thành phần chính là sự kết hợp tuyến tính của các tính năng ban đầu, do đó PCA không thể nắm bắt được cấu trúc phi tuyến, cong theo cách mà t-SNE hoặc UMAP có thể.
T-SNE và UMAP đặc biệt giỏi về lĩnh vực gì?
Cả hai đều là kỹ thuật phi tuyến giúp giữ các điểm lân cận ở gần nhau trong bản đồ chiều thấp, làm cho các cụm hiển thị ở dạng 2D hoặc 3D.