PANDUAN Dasar

Pengurangan Dimensi

Pengurangan dimensi memperkecil data dari banyak kolom (fitur) menjadi beberapa kolom dengan tetap mempertahankan struktur penting.

2 min readTerakhir diperbarui

Ikhtisar

It fights the 'curse of dimensionality,' speeds up models, and lets you actually visualize complex data in 2D or 3D.

Menyelam Lebih Dalam

Kumpulan data nyata sering kali memiliki ratusan atau ribuan fitur: setiap piksel dalam gambar, setiap kata dalam kosa kata, setiap sensor pada mesin. Dalam ruang berdimensi tinggi seperti itu, titik data menjadi jarang dan berjauhan, pengukuran jarak menjadi tidak dapat diandalkan, dan model cenderung menggunakan noise yang berlebihan. Ini adalah kutukan dimensi. Pengurangan dimensi memetakan data ke dalam dimensi yang jauh lebih sedikit sambil menjaga hubungan yang bermakna. PCA melakukan ini secara linier dengan mencari arah dengan varian terbesar. t-SNE dan UMAP bersifat nonlinier dan unggul dalam mengungkap cluster untuk visualisasi. Mengurangi dimensi menghilangkan fitur-fitur yang berlebihan atau berisik, memotong memori dan komputasi, dan sering kali meningkatkan akurasi model hilir karena sinyal yang tidak relevan lebih sedikit sehingga membingungkan.

Wawasan Teknis

PCA bekerja dengan menghitung kovarians fitur dan menemukan vektor eigen, 'komponen utama', yang menunjukkan arah varians maksimum. Anda menyimpan beberapa komponen teratas dan memproyeksikan data ke dalamnya, membuang arah variansi rendah yang sebagian besar berupa noise. t-SNE dan UMAP malah memodelkan hubungan tetangga: mereka mencoba menjaga titik-titik yang dekat di dimensi tinggi tetap dekat di peta berdimensi rendah. UMAP membuat grafik titik-titik terdekat, yang membuatnya lebih cepat dibandingkan t-SNE dan lebih baik dalam mempertahankan struktur global yang lebih luas.

Dampak Strategis

Clearer decisions

Ini membantu Anda memisahkan klaim teknis yang jelas dari bahasa pemasaran.

Cost and budget

Anda dapat mengajukan pertanyaan implementasi yang lebih baik sebelum mengeluarkan uang atau waktu.

Team and workflow

Tim dengan pemahaman bersama membuat keputusan produk, kebijakan, dan pembelajaran yang lebih baik.

Masa Depan Pengurangan Dimensi

Pengurangan dimensi kini menjadi langkah rutin dalam jaringan AI yang lebih besar dan bukan tugas yang berdiri sendiri. UMAP sebagian besar telah menjadi default untuk mengeksplorasi penyematan dari model bahasa dan visi yang besar, di mana para insinyur memproyeksikan ribuan dimensi ke dalam peta 2D untuk memeriksa apa yang telah dipelajari oleh suatu model. Harapkan integrasi yang lebih erat dengan dasbor interaktif, implementasi akselerasi GPU yang lebih cepat untuk kumpulan data miliaran baris, dan peningkatan penggunaan dalam pekerjaan interpretabilitas, di mana peneliti mengurangi aktivasi internal model untuk memahami dan men-debug perilakunya.

Implementasi Dunia Nyata

Merencanakan penyematan kata atau kalimat dari model bahasa dalam 2D dengan UMAP untuk melihat konsep mana yang dikelompokkan bersama oleh model

Mengompresi ribuan pengukuran ekspresi gen per pasien menjadi beberapa komponen sebelum mengelompokkan subtipe penyakit

Mengurangi fitur gambar sebelum memasukkannya ke pengklasifikasi sehingga pelatihan menjadi lebih cepat dan mengurangi risiko overfitting

Memvisualisasikan perilaku pelanggan di ratusan metrik sebagai plot sebar 2D untuk mengenali segmen pasar yang berbeda

Risiko & Pagar Pembatas

Tim yang berbeda mungkin menggunakan istilah yang sama secara berbeda, jadi tentukan cakupannya sejak dini.

Tolok ukur dapat terlihat kuat sementara kinerja di dunia nyata tidak merata.

Mengabaikan kualitas data dan rencana evaluasi sering kali menimbulkan hasil yang rapuh.

Peta Jalan Implementasi

1

Mulailah dengan definisi bahasa sederhana tentang hasil yang Anda butuhkan.

2

Pilih satu metrik keberhasilan dan satu kondisi kegagalan sebelum pengujian.

3

Jalankan uji coba kecil dengan data yang representatif, bukan kumpulan demo yang disempurnakan.

4

Dokumentasikan di mana Pengurangan Dimensi membantu dan di mana metode yang lebih sederhana lebih baik.

Terus Menjelajah

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Dimensionality Reduction quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Mulai kuis

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Barlow Twins dan Pengurangan Redundansi

Pertanyaan yang sering diajukan

What is Dimensionality Reduction?

Pengurangan dimensi memperkecil data dari banyak kolom (fitur) menjadi beberapa kolom dengan tetap mempertahankan struktur penting. Ini melawan 'kutukan dimensi', mempercepat model, dan memungkinkan Anda memvisualisasikan data kompleks dalam 2D ​​atau 3D.

Apa yang dimaksud dengan 'kutukan dimensi'?

Dalam ruang berdimensi sangat tinggi, titik-titik tersebar berjauhan dan ukuran jarak menjadi tidak jelas, sehingga model kesulitan menemukan pola dan cenderung overfit.

Bagaimana PCA memutuskan arah mana yang harus dipertahankan?

PCA menemukan komponen utama, sumbu dengan varian terbesar, dan mempertahankan komponen teratas karena membawa informasi paling banyak.

Mengapa PCA disebut metode 'linier'?

Setiap komponen utama merupakan kombinasi linier dari fitur aslinya, sehingga PCA tidak dapat menangkap struktur melengkung dan nonlinier seperti yang dapat dilakukan oleh t-SNE atau UMAP.

Apa kelebihan t-SNE dan UMAP?

Keduanya merupakan teknik nonlinier yang menjaga titik-titik terdekat tetap berada di dekat peta berdimensi rendah, membuat cluster terlihat dalam 2D ​​atau 3D.