Awọn awoṣe Ede Kekere
Awọn awoṣe ede kekere (SLMs) jẹ awọn awoṣe AI iwapọ, nigbagbogbo diẹ ninu awọn ọgọọgọrun miliọnu si awọn ayeraye bilionu diẹ, ti a ṣe lati ṣiṣẹ daradara lori awọn foonu, kọǹpútà alágbèéká, ati awọn ẹrọ eti.
Akopọ
They trade some raw capability for speed, privacy, and the ability to run without a data center.
Jin Dive
Lakoko ti awọn awoṣe aala le ni awọn ọgọọgọrun awọn ọkẹ àìmọye tabi awọn aimọye awọn aye ati awọn agbeko eletan ti GPUs, awọn awoṣe ede kekere jẹri pe ikẹkọ iṣọra le di iṣẹ ṣiṣe to lagbara sinu package ti o kere pupọ. Awọn awoṣe bii idile Microsoft's Phi, Google's Gemma, ati Meta awọn iyatọ Llama ti o kere julọ fihan pe didara data, kii ṣe iwọn nikan, wakọ agbara. Wiwa iyalẹnu kan ni pe ikẹkọ lori isọdọtun, data ti a ti farabalẹ diẹ sii jẹ ki awoṣe kekere kan orogun ti o tobi pupọ lori ọpọlọpọ awọn iṣẹ ṣiṣe. Awọn SLM ṣii AI ẹrọ lori ẹrọ: wọn ṣiṣẹ ni agbegbe lori kọǹpútà alágbèéká kan tabi foonuiyara, nitorinaa data rẹ ko fi ẹrọ naa silẹ, lairi jẹ kekere, ati pe ko si awọn idiyele awọsanma ibeere-kọọkan. Wọn tun jẹ din owo si itanran-tune fun awọn ibugbe amọja. Iṣowo-pipa ni pe wọn ṣọ lati ni oye agbaye ti o gbooro ati iṣẹ alailagbara lori awọn iṣẹ ṣiṣe ironu ti o nira julọ ni akawe si awọn awoṣe omiran.
Imọ-imọ-ẹrọ
Awọn awoṣe kekere ni a ṣe daradara nipasẹ awọn imuposi pupọ. Distillation imọ ṣe ikẹkọ awoṣe ọmọ ile-iwe kekere kan lati farawe olukọ nla kan, gbigbe agbara sinu awọn ayeraye diẹ. Pipọdiwọn dinku iṣiro nọmba ti awọn iwuwo, fun apẹẹrẹ lati 16-bit si 4-bit, iranti idinku ati itọkasi iyara pẹlu pipadanu didara kekere. Pruning yọ awọn iwọn apọju kuro. Ni pataki, didara giga, data ikẹkọ ti a fiwewe daradara, bi ninu awọn awoṣe Phi ti a ṣe ikẹkọ ni apakan lori akoonu-bii akoonu, jẹ ki awọn paramita diẹ lọ siwaju ju iwọn aise nikan yoo daba.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti Awọn awoṣe Ede Kekere
Awọn awoṣe ede kekere jẹ ọkan ninu awọn agbegbe gbigbe ni iyara julọ ni AI, ti a ṣe nipasẹ ibeere fun ikọkọ, idiyele kekere, ati agbara aisinipo. Reti awọn SLM ni ifibọ taara taara ni awọn ọna ṣiṣe, awọn aṣawakiri, ati awọn lw, mimu awọn iṣẹ ṣiṣe ṣiṣe deede lori ẹrọ lakoko lilọ awọn ibeere lile nikan si awọsanma. Awọn ilọsiwaju ti o tẹsiwaju ni titobi, distillation, ati ṣiṣatunṣe data tọju aafo naa pẹlu awọn awoṣe nla. Ọjọ iwaju ti o ṣeeṣe jẹ ilolupo arabara nibiti awọn awoṣe kekere ti o munadoko ti mu iṣẹ lojoojumọ pupọ julọ ati awọn awoṣe aala nla ti wa ni ipamọ fun ero ti o nbeere julọ.
Real-World imuse
Ṣiṣe oluranlọwọ AI ni aisinipo patapata lori foonuiyara kan nitorina data ti ara ẹni ko fi ẹrọ naa silẹ
Idahun ijafafa ati awọn ẹya akopọ ti a ṣe taara sinu ẹrọ ṣiṣe kọǹpútà alágbèéká kan
Titunse awoṣe iwapọ lori awọn igbasilẹ ikọkọ ti ile-iwosan laisi fifiranṣẹ data si awọsanma
Fifi awoṣe iwuwo fẹẹrẹ sinu ẹrọ IoT tabi ọkọ ayọkẹlẹ fun sare, awọn pipaṣẹ ohun agbegbe
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Small Language Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awọn Agbara pajawiri ti Awọn awoṣe Ede nla
Awọn ibeere ti a beere nigbagbogbo
What is Small Language Models?
Awọn awoṣe ede kekere (SLMs) jẹ awọn awoṣe AI iwapọ, nigbagbogbo diẹ ninu awọn ọgọọgọrun miliọnu si awọn ayeraye bilionu diẹ, ti a ṣe lati ṣiṣẹ daradara lori awọn foonu, kọǹpútà alágbèéká, ati awọn ẹrọ eti. Wọn ṣe iṣowo diẹ ninu agbara aise fun iyara, aṣiri, ati agbara lati ṣiṣẹ laisi ile-iṣẹ data kan.
Kini ifamọra akọkọ ti awoṣe ede kekere kan?
Awọn SLM jẹ iwapọ to lati ṣiṣẹ ni agbegbe lori ohun elo olumulo, nfunni ni lairi kekere, aṣiri, ati pe ko si idiyele awọsanma fun ibeere-kọọkan.
Ohun ti yanilenu ifosiwewe ti jẹ ki awọn awoṣe kekere orogun Elo tobi?
Awọn awoṣe bii idile Phi fihan pe mimọ, data ti o ni agbara giga, pẹlu akoonu bii iwe-ẹkọ, jẹ ki awọn paramita diẹ ṣe aṣeyọri awọn abajade to lagbara.
Kini distillation imo ṣe?
Distillation n gbe agbara ti olukọ nla sinu awoṣe ọmọ ile-iwe ti o kere ju, iṣakojọpọ iṣẹ sinu awọn aye-kere diẹ.
Kini pipọ ṣe aṣeyọri fun awoṣe ede kekere kan?
Quantization tọju awọn iwuwo ni konge kekere, gẹgẹbi 4-bit dipo 16-bit, lilo iranti idinku ati iyara iyara pẹlu pipadanu didara to kere.
Kini iṣowo-pipa aṣoju ti lilo awoṣe ede kekere kan?
Iwapọ wa ni idiyele: Awọn SLM ni gbogbogbo mọ kere si ati idi ti o kere si igbẹkẹle lori awọn iṣoro ti o nira julọ ju awọn awoṣe aala ti o tobi julọ.