Преглед
Liquid AI е спинаут на MIT, изграждащ Liquid Foundation Models (LFM), които изхвърлят стандартния Transformer за архитектури, вдъхновени от динамични системи. Целта са малки, бързи, ефективни от паметта модели, които работят на телефони и периферни устройства, без да се жертва прекалено много качество.
Моделите Liquid AI и Liquid Foundation се разбират най-добре в контекста на стратегия, достъп до модели, решения за платформа и партньорства в екосистемите.
Дълбоко гмуркане
Liquid AI е основан през 2023 г. от Рамин Хасани, Матиас Лехнер, Александър Амини и Даниела Рус, екипът на MIT CSAIL зад „течните невронни мрежи“. Те произлизат от изучаването на червея нематода C. elegans, чийто малък мозък от 302 неврона вдъхнови мрежи с течна времева константа (LTC), където поведението на всеки неврон се променя непрекъснато във времето чрез диференциални уравнения. Комерсиалните модели на Liquid, Liquid Foundation Models (LFM-1B, 3B, 40B), обобщават тази идея отвъд Transformers. Отличителна характеристика е почти постоянен отпечатък от паметта с нарастване на контекста, за разлика от Transformers, чиито внимание кеширани балони с дължина на последователността. През 2024 г. компанията събра голяма серия A (съобщени около 250 милиона долара) и по-късно пусна LFM2, настроен за внедряване на устройства на лаптопи, телефони и автомобили.
Техническа информация
Трансформаторите съхраняват кеш ключ-стойност, който нараства линейно с дължината на входа, така че дългите контексти изяждат паметта. Вместо това LFM използват „течни“ изчислителни единици, изградени от структурирано пространство на състоянието и оператори на динамична система, които компресират минала информация в повтарящо се състояние с фиксиран размер. Изчислението се описва чрез уравнения за непрекъснато време, чиито параметри (като времеви константи) се адаптират към входа, позволявайки на модела да обработва дълги последователности с приблизително равна памет и предсказуема латентност, което е идеално за крайен хардуер с ограничени ресурси.
Овладяване на моделите Liquid AI и Liquid Foundation
Liquid AI е спинаут на MIT, изграждащ Liquid Foundation Models (LFM), които изхвърлят стандартния Transformer за архитектури, вдъхновени от динамични системи. Целта са малки, бързи, ефективни от паметта модели, които работят на телефони и периферни устройства, без да се жертва прекалено много качество. Моделите Liquid AI и Liquid Foundation се разбират най-добре в контекста на стратегия, достъп до модели, решения за платформа и партньорства в екосистемите. За да изградите дълбоко разбиране, третирайте Liquid AI и Liquid Foundation Models като оперативен модел, а не като отделна функция: дефинирайте желаните резултати, изяснете предположенията и отделете това, което системата може да направи надеждно от това, което все още изисква експертна преценка.
На практика силни екипи, използващи Liquid AI и Liquid Foundation Models, оценяват стратегията на доставчика, надеждността на пътната карта и риска от блокиране, преди да се ангажират. Те документират изрични критерии за успех, тестват срещу реалистични данни и работни потоци и повтарят въз основа на наблюдавани модели на неуспех, а не на еднократни победи в бенчмарка. Това е мястото, където теоретичното разбиране се превръща в трайна способност за продукти, политики и операции.
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък. В същото време съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси. Най-устойчивият подход е да се комбинира скоростта на експериментиране с дисциплината на управление: стартирайте пилотни проекти, събирайте доказателства, публикувайте регистрационни файлове за решения и непрекъснато актуализирайте предпазните мерки, докато поведението на модела, очакванията на потребителите и регулаторните изисквания се развиват.
Стратегическо въздействие
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък.
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск.
Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта.
Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Внедряване в реалния свят
Изпълнение на способен асистент за чат изцяло офлайн на смартфон за чувствителна към поверителността употреба
Вграждане на езиково разбиране с ниска латентност в автомобили за гласови контроли без облачни обиколки
Обработка на много дълги документи или регистрационни файлове на лаптоп, където кеш паметта на Transformer би била твърде голяма
Модерна роботика и IoT устройства, където оригиналните течни мрежи, вдъхновени от C. elegans, се отличават с непрекъснат контрол
Модели на изпълнение
Модели Liquid AI и Liquid Foundation на практика
Изпълнение на способен асистент за чат изцяло офлайн на смартфон за чувствителна към поверителността употреба.
Изпълнение на способен асистент за чат изцяло офлайн на смартфон за чувствителна към поверителността употреба Екипите обикновено получават по-добри резултати, когато предварително определят прагове за качество, поддържат човешки път за ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Модели Liquid AI и Liquid Foundation на практика
Вграждане на езиково разбиране с ниска латентност в автомобили за гласови контроли без облачни обиколки.
Вграждане на езиково разбиране с ниска латентност в автомобилите за гласови контроли без облачни обиколки Екипите обикновено получават по-добри резултати, когато дефинират прагове за качество предварително, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Модели Liquid AI и Liquid Foundation на практика
Обработка на много дълги документи или регистрационни файлове на лаптоп, където кеш паметта на Transformer би била твърде голяма.
Обработка на много дълги документи или регистрационни файлове на лаптоп, където кешът на паметта на Transformer би бил твърде голям Екипите обикновено получават по-добри резултати, когато дефинират прагове за качество предварително, поддържат човешки път за ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Модели Liquid AI и Liquid Foundation на практика
Мощна роботика и IoT устройства, където оригиналните течни мрежи, вдъхновени от C. elegans, се отличават с непрекъснат контрол.
Захранване на ръбова роботика и IoT устройства, където оригиналните течни мрежи, вдъхновени от C. elegans, се отличават с непрекъснат контрол. Екипите обикновено получават по-добри резултати, когато определят прагове за качество предварително, поддържат човешки път за ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рискове и предпазни огради
Съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси.
Ценообразуването на API или промените в политиката могат да разбият предположенията за една нощ.
Зависимостта от един доставчик увеличава разходите за заключване и миграция.
Пътна карта за изпълнение
Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни.
Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Прегледайте поверителността, сигурността и правните условия преди интегриране.
Прегледайте поверителността, сигурността и правните условия преди интегриране. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Поддържайте резервен план за модели или доставчици.
Поддържайте резервен план за модели или доставчици. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите.
Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.