Reducción de dimensionalidad
La reducción de dimensionalidad reduce los datos de muchas columnas (características) a unas pocas, manteniendo la estructura importante.
Descripción general
It fights the 'curse of dimensionality,' speeds up models, and lets you actually visualize complex data in 2D or 3D.
Buceo profundo
Los conjuntos de datos reales suelen tener cientos o miles de características: cada píxel de una imagen, cada palabra de un vocabulario, cada sensor de una máquina. En espacios de tan alta dimensión, los puntos de datos se vuelven escasos y alejados, las mediciones de distancia se vuelven poco confiables y los modelos tienden a sobreajustar el ruido. Esta es la maldición de la dimensionalidad. La reducción de dimensionalidad asigna los datos a muchas menos dimensiones y al mismo tiempo preserva las relaciones significativas. PCA hace esto linealmente al encontrar las direcciones de mayor variación. t-SNE y UMAP no son lineales y destacan por revelar grupos para su visualización. La reducción de dimensiones elimina características redundantes o ruidosas, reduce la memoria y el cálculo y, con frecuencia, mejora la precisión de un modelo posterior porque hay menos señales irrelevantes que lo confundan.
Información técnica
PCA funciona calculando la covarianza de las características y encontrando vectores propios, los 'componentes principales', que apuntan en direcciones de máxima varianza. Mantienes los primeros componentes y proyectas datos en ellos, descartando direcciones de baja variación que son en su mayoría ruido. En cambio, t-SNE y UMAP modelan relaciones de vecinos: intentan mantener cerca los puntos que estaban cerca en dimensiones altas en el mapa de dimensiones bajas. UMAP construye un gráfico de puntos cercanos, lo que lo hace más rápido que t-SNE y mejor para preservar una estructura global más amplia.
Impacto Estratégico
Decisiones más claras
Le ayuda a separar las afirmaciones técnicas claras del lenguaje de marketing.
Costo y presupuesto
Puede hacer mejores preguntas sobre implementación antes de gastar dinero o tiempo.
Equipo y flujo de trabajo
Los equipos con conocimientos compartidos toman mejores decisiones sobre productos, políticas y aprendizaje.
El futuro de la reducción de dimensionalidad
La reducción de la dimensionalidad es ahora un paso rutinario dentro de procesos de IA más grandes, en lugar de una tarea independiente. UMAP se ha convertido en gran medida en el método predeterminado para explorar incrustaciones de grandes modelos de lenguaje y visión, donde los ingenieros proyectan miles de dimensiones en un mapa 2D para inspeccionar lo que ha aprendido un modelo. Espere una integración más estrecha con paneles interactivos, implementaciones más rápidas aceleradas por GPU para conjuntos de datos de mil millones de filas y un uso cada vez mayor en el trabajo de interpretabilidad, donde los investigadores reducen las activaciones internas de un modelo para comprender y depurar su comportamiento.
Implementación en el mundo real
Trazar incrustaciones de palabras u oraciones desde un modelo de lenguaje en 2D con UMAP para ver qué conceptos agrupa el modelo
Comprimir miles de mediciones de expresión genética por paciente en unos pocos componentes antes de agrupar los subtipos de enfermedades.
Reducir las características de la imagen antes de enviarlas a un clasificador para que el entrenamiento sea más rápido y menos propenso al sobreajuste.
Visualizar el comportamiento del cliente a través de cientos de métricas como un diagrama de dispersión 2D para detectar distintos segmentos del mercado.
Riesgos y barandillas
Diferentes equipos pueden usar el mismo término de manera diferente, por lo tanto, defina el alcance con anticipación.
Los puntos de referencia pueden parecer sólidos, mientras que el desempeño en el mundo real es desigual.
Ignorar la calidad de los datos y los planes de evaluación a menudo genera resultados frágiles.
Hoja de ruta de implementación
Comience con una definición en lenguaje sencillo del resultado que necesita.
Elija una métrica de éxito y una condición de fracaso antes de realizar la prueba.
Ejecute un pequeño piloto con datos representativos, no un conjunto de demostración pulido.
Documente dónde ayuda la reducción de dimensionalidad y dónde son mejores los métodos más simples.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Dimensionality Reduction quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Los gemelos de Barlow y la reducción de la redundancia
Preguntas frecuentes
What is Dimensionality Reduction?
La reducción de dimensionalidad reduce los datos de muchas columnas (características) a unas pocas, manteniendo la estructura importante. Combate la "maldición de la dimensionalidad", acelera los modelos y permite visualizar datos complejos en 2D o 3D.
¿Qué es la 'maldición de la dimensionalidad'?
En espacios de muy altas dimensiones, los puntos están muy separados y las medidas de distancia se descomponen, por lo que los modelos tienen dificultades para encontrar patrones y tienden a sobreajustarse.
¿Cómo decide la PCA qué direcciones seguir?
PCA encuentra los componentes principales, los ejes de mayor variación, y mantiene los superiores porque contienen la mayor cantidad de información.
¿Por qué se llama al PCA un método "lineal"?
Cada componente principal es una combinación lineal de las características originales, por lo que PCA no puede capturar una estructura curva y no lineal como lo hacen t-SNE o UMAP.
¿En qué son especialmente buenos t-SNE y UMAP?
Ambas son técnicas no lineales que mantienen los puntos cercanos cerca en el mapa de baja dimensión, haciendo que los grupos sean visibles en 2D o 3D.