СледваСледващо ръководство
Протокол за контекст на модела
Езиков AI
Фирми РЪКОВОДСТВО
Magic AI дългоконтекстни кодови модели
Magic AI is a startup developing long-context models for software-development tasks.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
Дълбоко гмуркане
Magic AI is a startup developing an AI software engineer rather than only autocomplete. In its August 2024 research update, the company described LTM models, including LTM-2-mini, with a context window of up to 100 million tokens; its analogy is roughly 10 million lines of code or about 750 novels. This is a model capacity claim, not evidence that the model can correctly understand every codebase or complete every project-wide task. The update also describes a Google Cloud partnership for supercomputer development and funding announced at that time. Magic introduced HashHop as a controlled evaluation using random, incompressible hash pairs and chained lookups to test retrieval at long context lengths. Results on that constructed task measure those retrieval and chaining tasks; they do not prove arbitrary code comprehension or performance on every real repository.
Внедряване в реалния свят
Providing a large repository or selected subset as context for questions about cross-file relationships, then checking the answer against source code.
Drafting a refactor that touches related files for a developer to review and test.
Supplying code, documentation, and logs together when investigating a bug whose cause may span files.
Summarizing a selected repository context as an onboarding aid, with links or references for follow-up.
Бъдещето на магическите AI кодови модели с дълъг контекст
Longer contexts can allow developers to supply more code, documentation, and task details together. Reliable multi-file work still depends on retrieval, reasoning accuracy, tool execution, and verification. Future systems should be evaluated on representative codebases and tasks, including whether they find relevant distant files and make changes that pass tests, rather than being judged by context size alone.
Прилагайки го на практика
Защо има значение
- Стратегия на доставчика. Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък.
- Разходи и бюджет. Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск.
- Риск и безопасност. Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта.
Внимавайте за
- Съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси.
- Ценообразуването на API или промените в политиката могат да разбият предположенията за една нощ.
- Зависимостта от един доставчик увеличава разходите за заключване и миграция.
Следващи стъпки
- Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни.
- Прегледайте поверителността, сигурността и правните условия преди интегриране.
- Поддържайте резервен план за модели или доставчици.
- Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Magic AI Long-Context Code Models quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is Magic AI Long-Context Code Models?
Magic AI is a startup developing long-context models for software-development tasks. The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
What software-development direction has Magic said it is pursuing?
Magic describes its work as developing AI for software engineering. This is a company goal; it does not guarantee that a model can correctly handle every codebase.
What maximum context capacity did Magic announce for LTM-2-mini in August 2024?
Magic’s August 2024 report announced a context window of up to 100 million tokens for LTM-2-mini. Context capacity is distinct from accuracy on a task.
What does Magic use HashHop to evaluate?
Magic designed HashHop as a controlled random-hash retrieval and chaining benchmark. It reduces semantic cues but does not establish broad code understanding.
Защо наивното трансформиращо внимание е проблем за контексти от 100 милиона токена?
Цената на стандартното внимание нараства с квадрата на дължината на последователността, така че много дългите контексти са изключително скъпи без по-добри алгоритми.
С коя компания си партнира Magic през 2024 г. за изграждането на суперкомпютри?
Magic обяви партньорство с Google Cloud за изграждане на суперкомпютри на хардуер на Nvidia.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема