Намаляване на размерността
Намаляването на размерността свива данните от много колони (характеристики) до няколко, като запазва важната структура.
Преглед
It fights the 'curse of dimensionality,' speeds up models, and lets you actually visualize complex data in 2D or 3D.
Дълбоко гмуркане
Реалните набори от данни често имат стотици или хиляди функции: всеки пиксел в изображение, всяка дума в речник, всеки сензор на машина. В такива пространства с големи размери точките от данни стават редки и далеч една от друга, измерванията на разстоянието стават ненадеждни и моделите са склонни да преувеличават шума. Това е проклятието на размерността. Намаляването на размерността картографира данните в много по-малко измерения, като същевременно запазва значими връзки. PCA прави това линейно, като намира посоките на най-голяма дисперсия. t-SNE и UMAP са нелинейни и превъзходни в разкриването на клъстери за визуализация. Намаляването на размерите премахва излишни или шумни функции, намалява паметта и изчисленията и често подобрява точността на модела надолу по веригата, тъй като има по-малко неуместен сигнал, който да го обърква.
Техническа информация
PCA работи чрез изчисляване на ковариацията на характеристиките и намиране на собствени вектори, „основните компоненти“, които сочат по посоките на максималната дисперсия. Вие запазвате първите няколко компонента и проектирате данни върху тях, като отхвърляте посоки с ниска вариация, които са предимно шум. t-SNE и UMAP вместо това моделират съседски взаимоотношения: те се опитват да запазят точките, които са били близки във високи измерения, близки в нискоизмерната карта. UMAP изгражда графика на близки точки, което го прави по-бърз от t-SNE и по-добър в запазването на по-широка глобална структура.
Стратегическо въздействие
Clearer decisions
Помага ви да отделите ясните технически твърдения от маркетинговия език.
Cost and budget
Можете да задавате въпроси за по-добро внедряване, преди да харчите пари или време.
Team and workflow
Екипи със споделено разбиране вземат по-добри решения за продукти, политики и обучение.
Бъдещето на намаляването на размерността
Намаляването на размерността вече е рутинна стъпка в рамките на по-големи AI тръбопроводи, а не самостоятелна задача. UMAP до голяма степен се превърна в стандарт за изследване на вграждания от големи езикови и визуални модели, където инженерите проектират хиляди измерения в 2D карта, за да проверят какво е научил даден модел. Очаквайте по-тясна интеграция с интерактивни табла за управление, по-бързи GPU-ускорени реализации за масиви от данни от милиарди редове и нарастваща употреба в работата по интерпретация, където изследователите намаляват вътрешните активации на модела, за да разберат и отстранят грешки в поведението му.
Внедряване в реалния свят
Изчертаване на вграждания на думи или изречения от езиков модел в 2D с UMAP, за да видите кои концепции моделът групира заедно
Компресиране на хиляди измервания на генна експресия на пациент в няколко компонента преди групиране на подтипове на заболяването
Намаляване на характеристиките на изображението, преди подаването им към класификатор, така че обучението да е по-бързо и по-малко склонно към пренастройване
Визуализиране на поведението на клиентите в стотици показатели като двуизмерна точкова диаграма за откриване на различни пазарни сегменти
Рискове и предпазни огради
Различните екипи могат да използват един и същи термин по различен начин, така че дефинирайте обхвата рано.
Бенчмарковете могат да изглеждат силни, докато производителността в реалния свят е неравномерна.
Пренебрегването на качеството на данните и плановете за оценка често създава крехки резултати.
Пътна карта за изпълнение
Започнете с дефиниция на обикновен език за резултата, от който се нуждаете.
Изберете един показател за успех и едно условие за неуспех преди тестване.
Изпълнете малък пилотен проект с представителни данни, а не изпипан демонстрационен набор.
Документирайте къде Намаляването на размерността помага и къде по-простите методи са по-добри.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Dimensionality Reduction quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Близнаци Барлоу и намаляване на съкращенията
Frequently asked questions
What is Dimensionality Reduction?
Намаляването на размерността свива данните от много колони (характеристики) до няколко, като запазва важната структура. Той се бори с „проклятието на размерността“, ускорява моделите и ви позволява действително да визуализирате сложни данни в 2D или 3D.
Какво е „проклятието на размерността“?
В пространства с много големи размери точките се разпръскват далеч една от друга и измерванията на разстоянието се развалят, така че моделите се затрудняват да намерят модели и са склонни да прекаляват.
Как PCA решава кои указания да запази?
PCA намира главните компоненти, осите на най-голяма дисперсия, и запазва горните, защото те носят най-много информация.
Защо PCA се нарича „линеен“ метод?
Всеки основен компонент е линейна комбинация от оригиналните характеристики, така че PCA не може да улови извита, нелинейна структура по начина, по който t-SNE или UMAP могат.
В какво са особено добри t-SNE и UMAP?
И двете са нелинейни техники, които поддържат близките точки наблизо в нискоизмерната карта, което прави клъстерите видими в 2D или 3D.