Xiga xigaHagaha xiga
Wax-soo-saarka Model Luqadda Watermarking
Farsamo
HAGAHA Farsamada
BitNet waa Microsoft safka cilmi baarista ee tusinaya in moodooyinka luqadaha waaweyn lagu tababari karo miisaan ku xaddidan 1 bit, ama saddex qiimayaal kiiska ternary.
Dhageyso hagahanAI-waa laga sheekeeyay · ~2 min
Tani waxay hoos u dhigtaa isticmaalka xusuusta iyo tamarta si weyn iyadoo ilaalinaysa saxnaanta la yaabka leh.
Moodooyinka caadiga ah waxay u kaydiyaan miisaan kasta sida tiro 16-bit ah. BitNet waxay kuwan ku beddeshaa matalo-yar oo xad dhaaf ah. Kala duwanaanshaha BitNet b1.58 ee saamaynta leh waxay isticmaashaa miisaan saddex-geesood ah, mid walba wuxuu ku xaddidan yahay -1, 0, ama +1, kaas oo ka shaqeeya ilaa 1.58 bit oo macluumaad ah miisaankiiba (Log base 2 of 3). Fikradda muhiimka ah ayaa ah in moodelku uu si xoq ah uga soo tababbaray caqabadahan, oo aan la qiyaasin ka dib, si uu u barto inuu u adkaysto si sax ah oo xaddidan. Sababtoo ah miisaanyadu waa -1, 0, ama +1, isku dhufashada qaaliga ah ee xisaabta matrixku waxay u burburaan isku darka iyo kala-goynta. Natiijadu waxay aad uga hoosaysaa xadhkaha xusuusta, isticmaalka tamarta, iyo daahitaanka, iyada oo qiimaha 0 uu sidoo kale awood u leeyahay in uu yaraado, dhammaan iyada oo la barbardhigayo moodooyinka saxda ah ee buuxa ee cabbirrada isbarbardhigga ah ee bartilmaameedyo badan.
Microsoft's BitNet b1.58 2B4T oo si hufan ugu shaqeeya CPU, taasoo awood u siinaysa LLM la'aanteed GPU go'an.
Kaaliyeyaasha aaladda ee ku habboon moodal karti leh oo geli kara xusuusta xaddidan ee taleefanka iyada oo ay uga mahadcelinayaan ~ 1.58-bitaanada.
Hoos u dhigida qiimaha tamarta iyo kaarboonka ee adeegyada API-ga mugga sare leh iyadoo lagu beddelayo barta sabaynta leh oo lagu daro.
Gelinka Edge (IoT, qalab ku dhex-jira) halkaasoo miisaanka ternary ay ka dhigayaan fahamka luqadda maxalliga ah mid macquul ah iyada oo lagu jiro miisaaniyadaha awoodda adag.
BitNet waxay tilmaamaysaa mustaqbalka halkaas oo moodooyinka karti u leh ay ku shaqeeyaan taleefannada, laptop-yada, iyo aaladaha geesaha iyada oo aan lahayn GPU-yada xogta. Caloosha ugu weyni waa qalab: chips-yada maanta waxaa loo dhisay xisaabta sabbaynaysa, sidaa darteed dardargeliyayaasha takhasuska leh ee loo habeeyay hawlgallada isku-darka-keliya ee ternary ayaa kordhin kara faa'iidooyinka. Filo dhismeyaal 1-bit ah oo badan oo wadani ah, moodooyinka qaabka BitNet ee waaweyn, iyo is dhexgalka kaaliyeyaasha aaladaha halkaas oo nolosha batteriga iyo arrimaha gaarka ah, ay suurtagal tahay in ay dib u qaabeeyaan dhaqaalaha AI-ga.
Warqad bilaash ah
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
BitNet waa Microsoft safka cilmi baarista ee tusinaya in moodooyinka luqadaha waaweyn lagu tababari karo miisaan ku xaddidan 1 bit, ama saddex qiimayaal kiiska ternary. Tani waxay hoos u dhigtaa isticmaalka xusuusta iyo tamarta si weyn iyadoo ilaalinaysa saxnaanta la yaabka leh.
Miisaanka ternary wuxuu qaataa mid ka mid ah seddexda qiyamka, oo matalaya saddex gobol wuxuu u baahan yahay gundhigga 2 ee 3, qiyaastii 1.58 bits.
Miisaannada ku xaddidan -1, 0, iyo +1, ku dhufashada miisaanku waxay yaraynaysaa ku-darka, kala-goynta, ama iska indho-tirka qiimaha, iyada oo laga fogaanayo qiimaha dul sabaynta qiimaha leh.
BitNet waxay haysaa koobiga sare ee saxda ah ee miisaanka miisaanka waxayna isticmaashaa qiyaasaha tooska ah si ay ugu gudubto jaangooyooyinka iyada oo loo marayo xisaabinta, taasoo awood u siinaysa faafinta caadiga ah.
Gobolka 0 waxa uu ogolaadaa in xidhiidhada qaar si wax ku ool ah loo damiyo, iyada oo soo bandhigaysa faquuqid laga faa'iidaysan karo hufnaan dheeraad ah.
Xawaariyeyaasha maanta waxaa loo qaabeeyey hareeraha isku dhufashada-sababaynta, sidaa darteed qalab gaar ah oo loogu talagalay hawlgallada ku salaysan saddex-geesoodka ah ayaa loo baahan yahay si si buuxda loogu furo faa'iidooyinka tamarta BitNet.
Sii wad waxbarashada
Tilmaamayaal badan ayaa loo doortay mawduucan
Xiga xigaHagaha xiga
Wax-soo-saarka Model Luqadda Watermarking
Farsamo