Какво стана
IT Brew съобщава, че компании, включително SmartBear, Tanium и Smartsheet, експериментират с отворени AI модели, тъй като разходите за използване на патентовани модели се увеличават. Ръководителите посочиха потенциални спестявания, по-ниска латентност, локален хостинг и намалена зависимост от основните доставчици, като същевременно подчертаха, че повечето експерименти все още не са се превърнали в широкомащабни внедрявания.
IT Brew съобщава, че Fitz Nowlan, вицепрезидент на SmartBear за AI и архитектура, провежда обширна оценка на модели с отворено тегло, след като видя, че китайските модели намаляват разликата в производителността с предложения от големи лаборатории за AI. Nowlan каза на изхода, че SmartBear обмисля маршрутизиране на някои подкани към системи с отворено тегло, ако анализът на разходите и ползите е благоприятен. Компанията тества дали тези модели могат да поддържат ценни технически случаи на употреба, като същевременно намаляват оперативните разходи и забавянето. Взети заедно, този акаунт описва оценка на ниво конкретни случаи на употреба и избор на работа. Той не описва завършена миграция и решението остава обвързано със собствените оценки на компаниите за ефективност, цена и годност.
Според IT Brew, Tanium също оценява модели с отворено тегло. Техническият директор на Tanium Харман Каур каза, че компанията трябва да определи кой модел да използва, как да го хоства и кои приложения трябва да бъдат тествани първо. В доклада се казва, че Tanium е установил, че някои задачи се изпълняват сравнимо със затворените модели, но все още има въпроси относно управлението и дали китайските модели трябва да се предоставят на клиентите. Kaur оценява модела Inkling от Thinking Machines Lab. Тази оценка оставя отворени няколко решения наведнъж. Примерите в доклада свързват избора на модел с хостинга, избора на приложение и използването от страна на клиента, така че благоприятният резултат в една задача сам по себе си не би разрешил по-широкия въпрос за внедряването.
IT Brew също така съобщава, че Smartsheet в момента разчита главно на модели Anthropic и Amazon, докато проучва алтернативи с отворено тегло. Изпълнителният директор Rajeev Singh каза, че компанията в крайна сметка може да насочи по-прости задачи към по-евтини модели, но засега дава приоритет на скоростта и времето за излизане на пазара. Статията цитира глобалния главен инженер на PwC AI Скот Лайкенс, който казва, че моделите с отворено тегло са основна тема за клиентите, въпреки че той не вижда приемане в мащаб. Тези акаунти са докладвани от IT Brew и не са независимо потвърдени в предоставения източник. Следователно примерите показват интерес, без да установяват общ модел на осиновяване. Тяхното значение се крие в набора от въпроси, които се разглеждат, докато предоставените доклади продължават да разграничават експериментирането от потвърдената производствена употреба.
Детайли за източника: itbrew.com ↗
Защо има значение
Докладът описва практическа промяна от въпроса какво може да направи ИИ към въпроса колко струва работата в мащаб. Отворените модели биха могли да дадат на компаниите повече контрол върху хостинга и избора на модели, но също така създават допълнителни отговорности около оценката, персонализирането, сигурността, управлението и възможните пристрастия.
Докладът разглежда моделите с отворено тегло като въпрос за цена и контрол, а не просто като техническо състезание. Компаниите, които са преминали отвъд ранните прототипи, сега може да имат достатъчно потребителски трафик, за да могат таксите за извод да повлияят на икономиката на единицата. IT Brew цитира Iz Beltagy, директор на изследванията на AI в Allen Institute for AI, който казва, че фирмите със значителен трафик и данни за взаимодействие с потребителите имат по-сериозни причини да обмислят локални или самоуправляеми модели.
Отворените системи могат да предложат гъвкавост, каквато собствените интерфейси за програмиране на приложения не предлагат. Бизнесът може потенциално да ги хоства в облака или в собствената си инфраструктура, да избира различни модели за различни задачи и да избягва да разчита изцяло на един доставчик. Статията казва, че ръководителите са особено заинтересовани от по-ниска латентност, ефективност на разходите и защита срещу възможността доставчик на модел да може да разработи конкурентен софтуерен продукт. Тези ползи остават перспективни за описаните компании.
Компромисът е, че изтеглянето на теглата на модела не елиминира цената или риска от внедряването. IT Brew съобщава, че може да се наложи организациите да плащат за инфраструктура, да извършват строги оценки, да прецизират или персонализират модели и да изследват произхода на модела, за да намалят рисковете за сигурността. Статията също така повдига опасения относно пристрастията, свързани със създателите на модели, и относно това дали техническото представяне на задачи като извикване на инструменти е достатъчно за справяне с по-широки въпроси на управлението. Източникът не предоставя независимо сравнение на разходите, одит на сигурността, методология за сравнение или данни за надеждността на производството.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
Which component of an AI application is the machine-learning model itself?
Какво да гледате след това
Ключовите индикатори ще бъдат дали експериментите преминават в производство, какви задачи възлагат компаниите на моделите с отворено тегло и дали по-ниските разходи за изводи компенсират разходите за настройка и поддръжка. Компаниите също така ще трябва да решат дали моделите, разработени от китайски фирми, са приемливи за клиентска или регулирана употреба.
Незабавният въпрос е дали компаниите, цитирани от IT Brew, преминават отвъд оценката. Плановете за маршрутизиране на SmartBear, прегледът на модела и управлението на Tanium и възможното използване на системи с отворено тегло на Smartsheet за по-прости задачи са описани като проучвателни. Източникът не предоставя дати за внедряване, обеми на внедряване, измерени спестявания, проценти на грешки или доказателства, че някой от експериментите е достигнал производство, ориентирано към клиентите.
Изборът на модел ще бъде друг важен сигнал. Статията идентифицира китайските системи като GLM-5 и DeepSeek v4 на Z.ai като примери за модели, които привличат интерес, като същевременно споменава предложения с отворено тегло от американски компании. Компаниите ще трябва да оценят не само сравнителното представяне, но и лицензирането, практиките за актуализиране, произхода на данните за обучението, излагането на сигурност, опасенията за цензура или пристрастия и обработката на чувствителна информация. IT Brew съобщава за тези опасения, но не ги проверява независимо.
И накрая, наблюдавайте дали икономиката се променя с нарастването на употребата. Докладът предполага, че компаниите могат да запазят скъпи гранични модели за сложна работа, докато изпращат рутинни заявки към по-евтини системи, създавайки стратегия с множество модели. Този подход може да намали средните разходи, но може да добави допълнителни разходи за маршрутизиране, наблюдение и контрол на качеството. Предоставеният източник не установява, че моделите с отворено тегло ще намалят съществено общите разходи, ще изместят частните доставчици или ще станат стандартни в корпоративния AI.