HƯỚNG DẪN KỸ THUẬT

Điểm Silhouette và Đánh giá cụm

Hệ số hình bóng so sánh khoảng cách trung bình của mỗi quan sát với cụm của chính nó với khoảng cách của nó đến cụm thay thế gần nhất.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Điểm Silhouette và Đánh giá Cụm
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Nó cung cấp chẩn đoán phân cụm nội bộ mà không có nhãn thực tế, nhưng các giả định và số liệu của nó có thể thiên về các nhóm nhỏ gọn, tách biệt và không thể chứng minh rằng các cụm đó hữu ích.

Lặn sâu

Việc phân cụm thường không có nhãn mục tiêu nên các số liệu nội bộ đánh giá cấu trúc chỉ bằng cách sử dụng dữ liệu và các nhóm được chỉ định. Đối với quan sát i, gọi a(i) là khoảng cách trung bình của nó tới các điểm khác trong cụm của chính nó. Đặt b(i) là khoảng cách trung bình nhỏ nhất từ ​​i đến các điểm trong bất kỳ cụm nào khác. Hệ số hình bóng là (b-a)/max(a,b), nằm trong khoảng từ -1 đến 1 khi khoảng cách được xác định. Một giá trị gần một giá trị gợi ý rằng quan sát đó gần với cụm của chính nó hơn nhiều so với cụm khác. Giá trị gần 0 gợi ý vị trí biên và giá trị âm cho thấy cụm khác có thể ở gần hơn. Điểm hình bóng tổng thể tính trung bình các hệ số qua các quan sát. Giá trị trung bình cao có thể hỗ trợ các cụm nhỏ gọn, tách biệt trong khoảng cách đã chọn, nhưng nó không chứng tỏ các nhóm có ý nghĩa. Một cụm lớn có thể lấn át mức trung bình và một số điểm được chỉ định kém có thể bị ẩn đi. Kiểm tra các giá trị trên mỗi cụm và mỗi điểm, kích thước cụm và hình ảnh trực quan. Điểm số cũng phụ thuộc vào thước đo khoảng cách và tỷ lệ tính năng. Davies-Bouldin so sánh sự phân tán trong cụm với sự phân tách giữa các cụm; thấp hơn nói chung là tốt hơn theo định nghĩa của nó. Calinski-Harabasz so sánh sự phân tán giữa cụm với sự phân tán trong cụm; cao hơn nói chung là tốt hơn. Các chỉ số này có thang đo và tùy chọn khác nhau, do đó, không coi số liệu thô lớn hơn trong một số liệu là có thể so sánh với số liệu khác. Giả định của họ cũng có thể thiên về những hình dạng hoặc sự cân bằng nhất định của cụm. Các số liệu nội bộ không thay thế cho việc xác nhận bên ngoài khi có nhãn cũng như không để đánh giá tiện ích tiếp theo. Điểm hình bóng có thể ưu tiên một phân vùng rõ ràng về mặt hình học nhưng vô nghĩa về mặt vận hành. Ngược lại, các cụm hữu ích có hình dạng bất thường có thể nhận được điểm khiêm tốn. So sánh các phương pháp đề xuất trên dữ liệu nhất quán và quá trình tiền xử lý, kiểm tra độ ổn định khi lấy mẫu lại và thay đổi tham số, đồng thời hỏi người dùng miền xem các nhóm có ủng hộ quyết định thực sự hay không. Nếu phân cụm được sử dụng để phục vụ con người, hãy đánh giá mức độ bao phủ và tác hại cũng như sự phân tách hình học.

Triển khai trong thế giới thực

Một điểm có khoảng cách trung bình trong cụm a=2 và khoảng cách cụm khác gần nhất b=5. Hình bóng của nó là (5-2)/max(2,5)=0,6, cho thấy nó ở gần cụm được chỉ định hơn so với cụm thay thế.

Một điểm gần ranh giới cụm có a=4 và b=3, cho (3-4)/4=-0,25. Giá trị âm cho biết điểm trung bình nằm gần một cụm khác theo chỉ số đã chọn.

Một nhà phân tích so sánh các giá trị hình bóng trên số cụm k-mean ứng viên dựa trên cùng các tính năng được tiêu chuẩn hóa, sau đó kiểm tra kích thước cụm và liệu các nhóm có trả lời câu hỏi kinh doanh hay không.

Một nhóm cũng xem xét các chỉ số Davies-Bouldin và Calinski-Harabasz nhưng tránh so sánh trực tiếp các giá trị thô của chúng vì chúng sử dụng các công thức và hướng ưu tiên khác nhau.

Tương lai của Điểm Silhouette và Đánh giá Cụm

Báo cáo đánh giá cụm có thể làm cho điểm số nội bộ trở nên hữu ích hơn bằng cách hiển thị mức phân bổ theo cụm, kích thước, tiền xử lý và chỉ số khoảng cách cùng với mức trung bình. Sau đó, các đội có thể so sánh bằng chứng hình học với độ ổn định và kết quả xuôi dòng thay vì chỉ chọn điểm cao nhất. Nếu có các nhãn đã biết hoặc phán đoán của con người, hãy sử dụng các biện pháp kiểm tra bên ngoài đồng thời đề phòng việc đánh giá vòng tròn. Khi dân số thay đổi, hãy lặp lại việc kiểm tra độ ổn định và tiện ích. Trang tổng quan số liệu phải giải thích các hướng và giới hạn ưu tiên để người dùng không hiểu hệ số là điểm chung cho chất lượng phân cụm.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Chi phí và ngân sách. Các quyết định về kiến ​​trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
  • Quyết định rõ ràng hơn. Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
  • Kiểm soát chất lượng. Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.

coi chừng

  • Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
  • Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
  • Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.

Các bước tiếp theo

  1. Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
  2. Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
  3. Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
  4. Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra về Điểm Silhouette và Đánh giá Cụm

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Điểm Silhouette và Đánh giá cụm là gì?

Hệ số hình bóng so sánh khoảng cách trung bình của mỗi quan sát với cụm của chính nó với khoảng cách của nó đến cụm thay thế gần nhất. Nó cung cấp chẩn đoán phân cụm nội bộ mà không có nhãn thực tế, nhưng các giả định và số liệu của nó có thể thiên về các nhóm nhỏ gọn, tách biệt và không thể chứng minh rằng các cụm đó hữu ích.

Với a=2 và b=5, hệ số hình bóng (b-a)/max(a,b) là bao nhiêu?

Tử số là 3 và mẫu số là 5 nên hệ số là 0,6.

Một điểm có a=4 và b=3. Hình bóng tiêu cực của nó chỉ ra điều gì?

Bởi vì b nhỏ hơn a nên một cụm khác có tính trung bình gần hơn cụm được chỉ định.

Một hình bóng gần số 0 thường gợi ý điều gì cho một quan sát?

Các giá trị a và b tương tự đặt quan sát gần ranh giới phân cụm theo số liệu.

Hướng nào thường được ưa thích hơn cho chỉ số Davies-Bouldin?

Davies-Bouldin thường được giải thích với các giá trị thấp hơn cho thấy sự phân tách thuận lợi hơn so với phân tán.

Tại sao không nên so sánh trực tiếp các giá trị thô của Davies-Bouldin và Calinski-Harabasz?

Các chỉ số có định nghĩa toán học, thang đo và hướng tối ưu hóa khác nhau.