Magic AI hosszú kontextusú kódmodellek
A Magic AI határvonal kódgenerációs modelleket épít, amelyeket rendkívül hosszú kontextusablakok különböztetnek meg, lehetővé téve, hogy a modell egyszerre olvasson be egy teljes kódbázist.
Áttekintés
It matters because software understanding depends on context, and a model that can hold millions of lines in memory can reason about a whole project rather than one file.
Mély merülés
A Magic AI egy olyan startup, amelynek célja egy mesterséges intelligencia-szoftver-mérnök felépítése, nem csupán egy automatikus kiegészítõ eszköz. Legfontosabb eredménye az LTM (Long-Term Memory) modellcsalád, beleértve az LTM-2-minit is, amely a vállalat elmondása szerint akár 100 millió token kontextusablakát is támogatja, ami nagyjából 10 millió kódsornak vagy több ezer könyvnek egyidejűleg aktív kontextusban felel meg. 2024-ben a Magic bejelentette, hogy jelentős partnerséget köt a Google Clouddal, hogy szuperszámítógépeket építsen Nvidia hardverére, és több száz millió dollárt gyűjtött össze, olyan támogatókkal, mint Eric Schmidt. A könnyen megjegyezhető benchmarkokon túlmutató előrehaladás mérésére a Magic megalkotta a HashHop-ot, egy olyan véletlenszerű hash-láncokat használó kiértékelést, amelyeket a modell nem tud egyszerűen felidézni a képzésből, és valódi hosszú kontextusú visszakeresést kényszerít ki.
Technikai betekintés
A szabványos transzformátorok figyelme négyzetesen skálázódik a szekvencia hosszával, így a 100 milliós token kontextusok naiv módszerekkel mérhetetlenül drágák. A Magic jelentése szerint az LTM-2-mini szekvencia-dimenziós algoritmusa tokenenként drámaian olcsóbb, mint egy ilyen megközelítés, ami megfizethető áron teszi lehetővé az ultrahosszú kontextust. A HashHop benchmark a szemantikai tippeket véletlenszerű, tömöríthetetlen hash-párokra cseréli, így a válasz egyetlen módja az, hogy ténylegesen lekérjük és láncoljuk az információkat a teljes kontextusablakon keresztül – ez a hosszú kontextus képességének sokkal szigorúbb tesztje.
Stratégiai hatás
Szállítói stratégia
A szállítói ütemterv befolyásolja, hogy csapata milyen funkciókat építhet fel legközelebb.
Költség és költségvetés
A kereskedelmi feltételek és a telepítési lehetőségek befolyásolják a hosszú távú költségeket és kockázatokat.
Kockázat és biztonság
A vállalati ösztönzők alakítják a termék alapértelmezett beállításait, a biztonsági testtartást és a nyitottságot.
A Magic AI hosszú kontextusú kódmodellek jövője
Ha a modellek egy teljes kódbázison megbízhatóan képesek tárolni és okoskodni, az AI-asszisztensek a kivonatok javaslatairól a projektszintű átalakítások végrehajtására, a hibák nyomon követésére számos fájlban, és több tucat modult érintő funkciók megvalósítására lépnek. A nyitott kihívások az ultrahosszú kontextusból történő következtetés gyors és olcsó tartása, valamint annak bizonyítása, hogy a modell valóban távoli kontextust használ ahelyett, hogy figyelmen kívül hagyná. Várható, hogy a hosszú kontextus és az ügynöki munkafolyamatok olyan rendszerekké konvergáljanak, amelyek valódi szoftverfejlesztési együttműködőkként működnek.
Valós megvalósítás
Egy egész nagy adattár betöltése, hogy a modell válaszolhasson a távoli modulok interakciójára vonatkozó kérdésekre.
Projektszintű átalakítás végrehajtása, ahol az egyik fájl interfészében bekövetkezett változás helyesen terjed a teljes kódbázison.
Egy olyan hiba nyomon követése, amelynek oka több fájlra terjed ki, úgy, hogy egyszerre a teljes kontextuson érvel, nem fájlonként.
Belépés egy ismeretlen kódbázisba úgy, hogy megkéri a modellt, hogy foglalja össze az architektúrát a teljes forrás kontextusként való felhasználásával.
Kockázatok és védőkorlátok
Az indítási bejelentések meghaladhatják a valódi termelési munkafolyamatok stabilitását.
Az API-árazás vagy az irányelvváltások egyik napról a másikra megdönthetik a feltételezéseket.
Az egyszállítótól való függőség növeli a bezárási és migrációs költségeket.
Végrehajtási ütemterv
Értékelje a szolgáltatókat saját feladatai és adatkészletei segítségével.
Az integráció előtt tekintse át az adatvédelmi, biztonsági és jogi feltételeket.
Tartsa fenn a tartalék tervet a modellek vagy szállítók között.
Figyelje a kiadási megjegyzéseket, hogy az ütemterv változásai ne lepjék meg a csapatokat.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Magic AI Long-Context Code Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
Modell Kontextus Protokoll
Gyakran ismételt kérdések
What is Magic AI Long-Context Code Models?
A Magic AI határvonal kódgenerációs modelleket épít, amelyeket rendkívül hosszú kontextusablakok különböztetnek meg, lehetővé téve, hogy a modell egyszerre olvasson be egy teljes kódbázist. Ez azért fontos, mert a szoftverek megértése a kontextustól függ, és egy olyan modell, amely több millió sort képes tárolni a memóriában, inkább egy teljes projektet érhet el, nem pedig egy fájlt.
Mit próbál elsősorban a Magic AI felépíteni?
A Magic célja egy mesterséges intelligencia-szoftver mérnök felépítése, nem csupán egy automatikus kiegészítõ eszköz.
Mekkora környezeti ablakméretet igényelt a Magic az LTM modelljéhez?
A Magic bejelentette, hogy támogatja az akár 100 millió token, nagyjából 10 millió kódsor kontextusablakait.
Mi az a HashHop?
A HashHop véletlenszerű, össze nem tömöríthető hash párokat használ, így a modellnek valóban le kell kérnie és össze kell kapcsolnia az információkat a kontextusban.
Miért jelent problémát a naiv transzformátor-figyelem 100 millió token kontextusban?
A normál figyelem költsége a sorozat hosszának négyzetével nő, így a nagyon hosszú kontextusok jobb algoritmusok nélkül rendkívül drágák.
Melyik céggel lépett partneri kapcsolatba a Magic 2024-ben szuperszámítógépek gyártásában?
A Magic bejelentette, hogy partnerséget köt a Google Clouddal, hogy szuperszámítógépeket építsen Nvidia hardverére.