Техническо РЪКОВОДСТВО

Магазини за функции

Хранилището на функции е централна система, която изчислява, съхранява и обслужва входните променливи (характеристики), които моделите за машинно обучение използват.

2 min readПоследна актуализация

Преглед

It exists to guarantee that the exact same feature values are used during training and during live prediction, eliminating a notorious source of silent model failures.

Дълбоко гмуркане

Моделите не се учат от необработените данни; те се учат от функции като „средна сума на покупка през последните 30 дни“ или „време от последното влизане“. Без хранилище на функции, един екип изчислява тези в конвейер за обучение, а друг ги внедрява отново в производствения код, и двата се отдалечават, проблем, наречен изкривяване на обучението. Магазинът за функции решава това с два синхронизирани слоя: офлайн магазин (склад за данни, съхраняващ години история за обучение) и онлайн магазин (бърза база данни с ключ-стойност, обслужваща функции за милисекунди за заявки на живо). И двете се попълват от едни и същи дефиниции на функции. Екипите също така получават споделен каталог, така че функциите, създадени за един модел, да могат да бъдат открити и използвани повторно от друг, плюс коректност към даден момент, която предотвратява случайно обучение върху данни от бъдещето.

Техническа информация

Най-трудният проблем, който магазинът за функции решава, е присъединяването към даден момент. Когато изграждате набор за обучение, трябва да прикачите стойностите на характеристиките, каквито са били в момента на всяко историческо събитие, а не текущите им стойности, или моделът се учи от изтичане на данни. Функцията съхранява дата на всяка стойност и извършва присъединяване към офлайн магазина. Онлайн магазинът, често Redis или DynamoDB, съдържа само най-новата стойност на ключ за обект за справки под 10 милисекунди по време на извод.

Стратегическо въздействие

Cost and budget

Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.

Clearer decisions

Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.

Quality control

По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.

Бъдещето на магазините за екстри

Хранилищата на функции се сближават с по-широкия стек от данни: много сега изчисляват функции директно в хранилища за данни, вместо да поддържат отделни конвейери. Функциите в реално време и стрийминг, изчислени от потоци от събития за секунди, стават стандарт за измами и персонализиране. Очаквайте по-дълбока интеграция с векторни бази данни, тъй като вгражданията се превръщат в първокласни функции и по-тясно свързване с мониторинг на модела, така че дрейфът на характеристиките да се открива автоматично. Има също тласък към „платформи с функции“, които обединяват дефиниране, обслужване, мониторинг и управление в един управляван слой.

Внедряване в реалния свят

Компания за плащания съхранява 24-часови функции за скорост на транзакция в онлайн магазин, така че нейният модел за измама може да отбележи плъзгане за под 10 милисекунди.

Услуга за стрийминг дефинира „време за гледане през последните 7 дни“ веднъж в магазин за функции, след което го използва повторно в модели за препоръчване, отлив и насочване на реклами.

Платформата за отпускане на заеми използва съединявания в определен момент за изграждане на данни за обучение, като гарантира, че всяко решение за заем вижда само характеристиките на кандидата, известни преди това решение.

Приложението за навикване на превоз обслужва функции за вълна и наличност на водача в реално време от конвейер за функции за стрийминг до неговия модел за прогнозиране на ETA.

Рискове и предпазни огради

Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.

Разходите за инфраструктура и поддръжка често се подценяват.

Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.

Пътна карта за изпълнение

1

Определете целите за латентност, качество и разходи преди внедряването.

2

Бенчмарк при реалистични условия на натоварване и данни.

3

Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.

4

Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.

Продължете да изследвате

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Feature Stores quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Start quiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Линейно изследване и оценка на замразени характеристики

Frequently asked questions

What is Feature Stores?

Хранилището на функции е централна система, която изчислява, съхранява и обслужва входните променливи (характеристики), които моделите за машинно обучение използват. Съществува, за да гарантира, че абсолютно същите стойности на характеристиките се използват по време на обучение и по време на прогнозиране на живо, елиминирайки известния източник на неуспешни грешки на модела.

Какъв основен проблем основно решава магазинът за функции?

Чрез изчисляване на функции от споделени дефиниции и обслужване на едни и същи стойности както за обучение, така и за извод, хранилищата на функции елиминират изкривяването между двете.

Каква е разликата между офлайн и онлайн магазините?

Офлайн магазинът съхранява години история за изграждане на набори за обучение, докато онлайн магазинът е база данни с ниска латентност, обслужваща текущите стойности на характеристиките към момента на извод.

Защо съединяванията в определен момент са важни при изграждането на данни за обучение?

Използването на текущи стойности вместо исторически позволява на модела да „вижда бъдещето“, увеличавайки офлайн точността, но се проваля в производството. As-of присъединяванията поправете това.

Какъв тип база данни се използва обикновено за онлайн магазина?

Онлайн обслужването се нуждае от търсене под 10 милисекунди по ключ на обекта, така че бързите хранилища в паметта или NoSQL ключ-стойност са типичен избор.

Какво е „функция“ в този контекст?

Характеристиките са обработените входни сигнали, които моделът консумира, често агрегации или трансформации на необработени данни, а не самите необработени данни.