Kini o ṣẹlẹ
Liquid AI tu Pipette silẹ, ohun elo foonuiyara ọfẹ ti o jẹ ki awọn olumulo ṣiṣẹ awọn awoṣe AI ti o ni iwọn ni agbegbe ati wiwọn iṣẹ ṣiṣe. Isuna BigGo ṣe idanwo ẹya iOS lori iPhone 17 Pro ati gbasilẹ awọn ami-ami 48.3726 fun iṣẹju kan nigbati o nṣiṣẹ awoṣe 4-bit ti Gemma 4 E2B IT pẹlu MLX. BigGo tun royin awọn abajade ala-ilẹ lati ifowosowopo Analysis Artificial ti o bo awọn awoṣe kekere ti o baamu laarin 8GB nigbati o ba ṣe iwọn.
BigGo Finance Ijabọ pe Liquid AI tu Pipette silẹ fun iOS ati Android bi ohun elo ala-ilẹ ọfẹ fun wiwọn ipaniyan awoṣe AI lori awọn fonutologbolori. Awọn olumulo le ṣe igbasilẹ awọn awoṣe ti o ni iwọn, pẹlu awọn awoṣe lati awọn idile Gemma ati Qwen, ati ṣiṣe awọn idanwo agbegbe fun lairi opin-si-opin, iṣaju iṣaju, ṣiṣafihan iyipada ati lilo iranti ti o pọju. Ìfilọlẹ naa nilo iforukọsilẹ akọọlẹ ni ifilọlẹ akọkọ, ni ibamu si BigGo, ati awọn awoṣe ti a gbasilẹ ti wa ni ipamọ sori ẹrọ fun idanwo. Koodu orisun wa ni gbangba lori GitHub, ṣugbọn ijabọ yii ko ṣe idaniloju awọn akoonu inu ibi-ipamọ yẹn tabi wiwa ohun elo ni gbogbo ọja.
BigGo's ọwọ-lori iroyin ṣe apejuwe iṣan-iṣẹ ninu eyiti awọn olumulo ṣẹda iṣẹ kan, yan boya llama.cpp tabi MLX, yan awoṣe ki o yan awọn iru idanwo. Ijabọ naa sọ pe gbogbo awọn iru idanwo mẹrin ni a yan nipasẹ aiyipada. O tun sọ pe awọn olumulo le yan boya awọn abajade ni a firanṣẹ si olupin bi data gbangba. Idanwo pẹlu awọn akoko itutu ti a pinnu lati dinku iwọn otutu ẹrọ, ati BigGo sọ pe idanwo rẹ ti awoṣe Gemma 4-bit ti o ni iwọn 4 E2B IT pẹlu MLX lori iPhone 17 Pro gba iṣẹju 18. Abajade iyipada koodu-iṣayẹwo jẹ awọn ami ami 48.3726 fun iṣẹju kan. Awọn akiyesi wọnyi jẹ ijabọ nipasẹ BigGo ati pe ko ti ni idaniloju ominira nibi.
BigGo tun ṣe apejuwe ifowosowopo lọtọ laarin Itupalẹ Artificial ati Liquid AI lati ṣe iṣiro awọn awoṣe kekere lori iPhone 17 Pro kan. Eto ti a royin ṣajọpọ awọn idanwo iṣẹ-ṣiṣe itetisi Oríkĕ pẹlu idanwo iṣẹ-ṣiṣe Liquid AI. Awọn ipilẹ ala marun ni a lo: BFCL, IFBench, AA-Omniscience, GPQA Diamond ati MATH-500. BigGo sọ pe igbelewọn naa ni opin si awọn awoṣe ti o baamu laarin 8GB ni titobi 4-bit ati lo fila ipari-ipari ti awọn ami-ami 16,000 fun awọn afiwera-apapọ. Nanbeige4.2-3B ati LFM2.5-2.6B ni iroyin ṣe aṣeyọri awọn ikun aropin ti o ga julọ labẹ awọn ipo wọnyẹn, lakoko ti LFM2.5-8B-A1B ṣe itọsọna lafiwe kan ti o wa ni iṣẹju kan ti akoko idahun. Orisun naa ko pese tabili alaiṣe aise ti a ṣayẹwo ni ominira tabi awọn abajade isọdọtun.
Awọn alaye orisun: finance.biggo.com ↗
Kini idi ti o ṣe pataki
Pipette jẹ ki awọn ihamọ AI ẹrọ ti o wulo lori ẹrọ diẹ sii han nipasẹ wiwọn lairi, iṣelọpọ ati lilo iranti lori ohun elo nibiti awọn awoṣe n ṣiṣẹ gangan. Iyẹn le ṣe iranlọwọ fun awọn olupilẹṣẹ ati awọn olumulo ṣe iyatọ didara awoṣe imọ-jinlẹ lati iyara ati awọn ibeere orisun ti itọkasi agbegbe, botilẹjẹpe awọn abajade jẹ ipilẹ-pato kii ṣe ipo agbaye ti awọn awoṣe tabi awọn foonu.
Pataki ti Pipette ni pe o ṣe iwọn awọn ipo ti o pinnu boya AI agbegbe jẹ lilo lori ẹrọ kan pato. Awoṣe le ṣe daradara lori ipilẹ agbara aṣa sibẹsibẹ o lọra ju, iranti-lekoko tabi eletan gbona fun foonu kan. Lairi yoo ni ipa lori lilo ibaraenisepo, iṣelọpọ yoo ni ipa lori bi ọrọ yarayara ṣe le ṣe ipilẹṣẹ, ati lilo iranti pinnu boya awoṣe le ṣiṣẹ lẹgbẹẹ ẹrọ iṣẹ ati awọn ohun elo miiran. Nipa ṣiṣafihan awọn iwọn wọnyi, ọpa kan gẹgẹbi Pipette le fun awọn olupilẹṣẹ ni alaye ilowo diẹ sii nigbati o ba yan awọn awoṣe fun aisinipo tabi awọn ohun elo ti o ni imọlara.
BigGo ṣe ijabọ pe awọn aṣepari aṣa nigbagbogbo jẹ apẹrẹ ni ayika titobi, awọn awoṣe kilasi aarin data. Gẹgẹbi ijabọ naa, awọn awoṣe ti o kere ju ti n ṣiṣẹ lori awọn fonutologbolori nigbakan kuna lati pari awọn idanwo wọnyẹn ati gba awọn nọmba ti odo, lakoko ti sọfitiwia itọkasi foonuiyara ko dagba ati yatọ si awọn amayederun aarin data. Aami ti a ṣe deede si kekere, awọn awoṣe ti o ni iwọn le pese aworan ti o wulo diẹ sii ti awọn iṣowo ipele-ẹrọ. Iyẹn ko jẹ ki awọn abajade jẹ afiwera taara pẹlu awọn ikun lati awọn eto nla. O tumọ si pe igbelewọn n dahun ibeere ti o dín: bawo ni agbara ati idahun awoṣe kan wa labẹ ohun elo agbegbe ati awọn ipo sọfitiwia.
Awọn abajade ti a royin tun ṣe apejuwe idi ti iyara ati oye ko le ṣe itọju bi metiriki kan. BigGo sọ pe Nanbeige4.2-3B gba wọle bakanna si LFM2.5-2.6B ṣugbọn o nifẹ lati nilo akoko diẹ sii lati ṣe awọn ami ami 256. O tun ṣe ijabọ iṣẹ ṣiṣe tokini kekere fun Qwen3.5 9B Reasoning ati Qwen3.5 4B Idi ni itupalẹ kan. Awọn awari wọnyi le ṣe pataki fun awọn olupilẹṣẹ yiyan laarin awoṣe ti o lagbara diẹ sii ati ọkan yiyara, ṣugbọn wọn yẹ ki o ṣe itọju bi awọn abajade lati iṣeto idanwo ti o royin dipo awọn idajọ gbogbogbo nipa awọn awoṣe. Ko si igbelewọn ominira, iwadii olumulo tabi ẹri imuṣiṣẹ iṣelọpọ ti pese.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
Which component of an AI application is the machine-learning model itself?
Kini lati wo tókàn
Ifilelẹ akọkọ jẹ afiwera. BigGo ṣe ijabọ pe iOS lọwọlọwọ ṣe atilẹyin isare GPU lakoko ti Android jẹ Sipiyu-nikan, ati Liquid AI kilọ lodi si awọn afiwera ẹrọ-agbelebu. Awọn imudojuiwọn ọjọ iwaju ni a nireti lati ṣafikun awọn awoṣe ati awọn afiwera ti o da lori lilo iranti, ṣugbọn orisun ko ni ominira fi idi igbẹkẹle gbooro ti ohun elo naa, gbigba tabi maapu ọna pipẹ.
Ọrọ akọkọ lati wo ni ibamu Syeed. BigGo ṣe ijabọ pe ẹya iOS ti Pipette ṣe atilẹyin iširo isare GPU lakoko ti ẹya Android jẹ Sipiyu-nikan lọwọlọwọ. Ijabọ naa tun ṣe idanimọ awọn iyatọ ninu atilẹyin akiyesi filasi, awọn iṣiro okun, awọn iyara ati awọn agbegbe ipaniyan. Awọn iyatọ yẹn le jẹ gaba lori awọn abajade iṣẹ ṣiṣe, nitorinaa Dimegilio lati iPhone 17 Pro ko yẹ ki o ka bi ipo ti awọn ẹrọ Android tabi lafiwe taara laarin awọn ọna ṣiṣe. Ikilọ Liquid AI lodi si awọn afiwe ẹrọ-agbelebu jẹ afijẹẹri pataki.
Ọrọ keji jẹ akoyawo ilana ati atunṣe. Pipette le okeere awọn abajade bi CSV, ni ibamu si BigGo, ati pe koodu orisun rẹ wa ni gbangba. Iyẹn le gba awọn olupolowo laaye lati ṣayẹwo awọn atunto idanwo ati tun awọn wiwọn ṣe. Bibẹẹkọ, orisun ko ṣe fi idi rẹ mulẹ boya gbogbo awọn faili awoṣe, awọn ẹya asiko ṣiṣe, awọn ipo igbona, awọn eto akopọ ati awọn imuse ala jẹ aami kanna ni gbogbo awọn idanwo. Ko tun ṣe ijabọ ẹda ominira nipasẹ awọn oniwadi tabi awọn olumulo. Awọn alaye yẹn yoo pinnu iye igbẹkẹle ti o yẹ ki o gbe sinu awọn iyatọ ti awọn ami-ami diẹ nikan fun iṣẹju-aaya tabi awọn iyipada Dimegilio kekere.
Nikẹhin, maapu oju-ọna ti a royin le ṣe alekun iwulo ohun elo ti o ba ṣe imuse bi a ti ṣalaye. BigGo sọ pe Onínọmbà Oríkĕ ngbero lati ṣafikun awọn awoṣe ni akoko pupọ ati ṣe afiwe awọn awoṣe nipa lilo lilo iranti kuku ju gbigbekele iwọn iwọn kan. Iyẹn yoo ṣe iranlọwọ fun awọn olumulo ṣe iṣiro awọn iṣowo laarin iwọn awoṣe, didara, iyara ati agbara orisun. Awọn aimọ pataki ti o wa: orisun ko ṣe fi idi rẹ mulẹ bawo ni a ṣe nlo Pipette lọpọlọpọ, boya imuse Android yoo ni atilẹyin GPU, bawo ni awọn abajade ṣe jẹ iwọntunwọnsi tabi ṣe ayẹwo, tabi boya ala-ilẹ ṣe asọtẹlẹ iṣẹ ṣiṣe ni awọn ohun elo gidi. Titi di idahun awọn ibeere wọnyẹn, Pipette ni oye ti o dara julọ bi ohun elo wiwọn ilowo fun awọn atunto kan pato, kii ṣe adari asọye fun foonuiyara AI.