Miundo ya Msimbo wa Muktadha Mrefu wa AI
AI ya Uchawi huunda miundo ya kuunda msimbo wa mipaka inayotofautishwa na madirisha marefu ya muktadha, ikiruhusu kielelezo kusoma msingi wote wa msimbo mara moja.
Muhtasari
It matters because software understanding depends on context, and a model that can hold millions of lines in memory can reason about a whole project rather than one file.
Dive ya kina
Uchawi AI ni mwanzo unaolenga kujenga mhandisi wa programu ya AI badala ya zana ya kukamilisha kiotomatiki. Mafanikio yake ya kichwa ni familia ya mfano ya LTM (Kumbukumbu ya Muda Mrefu), ikiwa ni pamoja na LTM-2-mini, ambayo kampuni inasema inaauni madirisha ya muktadha wa hadi tokeni milioni 100 - takribani sawa na karibu mistari milioni 10 ya msimbo au maelfu ya vitabu vinavyoshikiliwa katika muktadha amilifu mara moja. Mnamo 2024 Magic ilitangaza ushirikiano mkubwa na Google Cloud ili kuunda kompyuta kubwa kwenye maunzi ya Nvidia na kuchangisha mamia ya mamilioni ya dola, na wafadhili akiwemo Eric Schmidt. Ili kupima maendeleo zaidi ya viwango vinavyokaririwa kwa urahisi, Magic iliunda HashHop, tathmini kwa kutumia misururu ya reli nasibu ambayo mwanamitindo hawezi kukumbuka kwa urahisi kutokana na mafunzo, na hivyo kulazimisha urejeshaji halisi wa muktadha mrefu.
Ufahamu wa Kiufundi
Uangalifu wa kibadilishaji kibadilishaji cha kawaida huongezeka mara nne kwa urefu wa mfuatano, hivyo kufanya miktadha ya tokeni ya milioni 100 kuwa ghali kwa kutumia mbinu za kipuuzi. Uchawi unaripoti kuwa algoriti yake ya LTM-2-mini ya mfuatano ni nafuu sana kwa tokeni kuliko mbinu kama hiyo, na kuwezesha muktadha wa muda mrefu kwa bei nafuu. Kigezo cha HashHop kinachukua nafasi ya vidokezo vya kisemantiki na jozi za heshi nasibu zisizoweza kubanwa, kwa hivyo njia pekee ya kujibu ni kupata na kuratibu taarifa kwenye dirisha kamili la muktadha - jaribio kali zaidi la uwezo wa muktadha mrefu.
Athari za kimkakati
Vendor strategy
Ramani za barabara za wachuuzi huathiri vipengele ambavyo timu yako inaweza kuunda baadaye.
Cost and budget
Masharti ya kibiashara na chaguzi za kupeleka huathiri gharama na hatari ya muda mrefu.
Risk and safety
Vivutio vya kampuni hutengeneza chaguo-msingi za bidhaa, mkao wa usalama na uwazi.
Mustakabali wa Miundo ya Misimbo ya Muktadha Mrefu ya AI ya Uchawi
Iwapo miundo inaweza kushikilia na kusababu juu ya msingi mzima wa msimbo, wasaidizi wa AI huhama kutoka kupendekeza vijisehemu hadi kutekeleza viboreshaji vya mradi mzima, kufuatilia hitilafu kwenye faili nyingi, na kutekeleza vipengele vinavyogusa moduli nyingi. Changamoto zilizo wazi ni kuweka uelekezaji wa muktadha wa muda mrefu haraka na kwa bei nafuu na kuthibitisha kuwa kielelezo kinatumia muktadha wa mbali badala ya kuupuuza. Tarajia muktadha mrefu pamoja na mtiririko wa kazi wa mawakala ili kuunganishwa katika mifumo inayofanya kazi kama washirika halisi wa uhandisi wa programu.
Utekelezaji wa Ulimwengu Halisi
Inapakia hazina nzima ili muundo uweze kujibu maswali kuhusu jinsi moduli za mbali zinavyoingiliana.
Kufanya kiboreshaji cha mradi mzima ambapo mabadiliko katika kiolesura cha faili moja yanaenezwa ipasavyo kwenye msingi mzima wa msimbo.
Kufuatilia mdudu ambaye sababu yake inaenea faili nyingi kwa kufikiria muktadha kamili mara moja badala ya faili-kwa-faili.
Kuingia kwenye msingi usiojulikana kwa kuuliza modeli kufanya muhtasari wa usanifu kwa kutumia chanzo kamili kama muktadha.
Hatari & Walinzi
Matangazo ya uzinduzi yanaweza kushinda uthabiti katika utendakazi halisi wa uzalishaji.
Bei za API au mabadiliko ya sera yanaweza kuvunja mawazo mara moja.
Utegemezi wa muuzaji mmoja huongeza gharama za kufunga na kuhama.
Ramani ya Utekelezaji
Tathmini watoa huduma kwa kutumia kazi na seti zako za data.
Kagua faragha, usalama na masharti ya kisheria kabla ya kuunganishwa.
Dumisha mpango mbadala kwa miundo au wachuuzi.
Fuatilia maelezo ya toleo ili mabadiliko ya ramani ya barabara yasiwashangaze timu.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Magic AI Long-Context Code Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Itifaki ya Muktadha wa Mfano
Maswali yanayoulizwa mara kwa mara
What is Magic AI Long-Context Code Models?
AI ya Uchawi huunda miundo ya kuunda msimbo wa mipaka inayotofautishwa na madirisha marefu ya muktadha, ikiruhusu kielelezo kusoma msingi wote wa msimbo mara moja. Ni muhimu kwa sababu uelewa wa programu unategemea muktadha, na mfano ambao unaweza kuhifadhi mamilioni ya mistari kwenye kumbukumbu unaweza kufikiria mradi mzima badala ya faili moja.
Uchawi AI inajaribu kujenga nini kimsingi?
Uchawi unalenga kujenga mhandisi wa programu ya AI, sio tu chombo cha kukamilisha kiotomatiki.
Uchawi umedai ukubwa wa dirisha la muktadha gani kwa miundo yake ya LTM?
Magic ilitangaza msaada kwa madirisha ya muktadha ya hadi tokeni milioni 100, takriban mistari milioni 10 ya msimbo.
HashHop ni nini?
HashHop hutumia jozi za heshi nasibu na zisizoweza kubatizika kwa hivyo ni lazima kielelezo kipate na kuratibu taarifa katika muktadha wote.
Kwa nini umakini wa kibadilishaji cha ujinga ni shida kwa muktadha wa ishara ya milioni 100?
Gharama ya umakini wa kawaida hukua pamoja na mraba wa urefu wa mfuatano, kwa hivyo miktadha mirefu sana ni ghali sana bila algoriti bora.
Ni kampuni gani ambayo Magic ilishirikiana nayo mnamo 2024 kuunda kompyuta kuu?
Magic ilitangaza ushirikiano na Google Cloud ili kuunda kompyuta kuu kwenye maunzi ya Nvidia.