NastępnyNastępny poradnik
Modelowy protokół kontekstowy
Językowa sztuczna inteligencja
PRZEWODNIK FIRM
Modele kodu o długim kontekście Magic AI
Magic AI is a startup developing long-context models for software-development tasks.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
Na tej stronie2 minuty czytania
Przegląd
The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
Głębokie nurkowanie
Magic AI is a startup developing an AI software engineer rather than only autocomplete. In its August 2024 research update, the company described LTM models, including LTM-2-mini, with a context window of up to 100 million tokens; its analogy is roughly 10 million lines of code or about 750 novels. This is a model capacity claim, not evidence that the model can correctly understand every codebase or complete every project-wide task. The update also describes a Google Cloud partnership for supercomputer development and funding announced at that time. Magic introduced HashHop as a controlled evaluation using random, incompressible hash pairs and chained lookups to test retrieval at long context lengths. Results on that constructed task measure those retrieval and chaining tasks; they do not prove arbitrary code comprehension or performance on every real repository.
Implementacja w świecie rzeczywistym
Providing a large repository or selected subset as context for questions about cross-file relationships, then checking the answer against source code.
Drafting a refactor that touches related files for a developer to review and test.
Supplying code, documentation, and logs together when investigating a bug whose cause may span files.
Summarizing a selected repository context as an onboarding aid, with links or references for follow-up.
Przyszłość modeli kodu o długim kontekście Magic AI
Longer contexts can allow developers to supply more code, documentation, and task details together. Reliable multi-file work still depends on retrieval, reasoning accuracy, tool execution, and verification. Future systems should be evaluated on representative codebases and tasks, including whether they find relevant distant files and make changes that pass tests, rather than being judged by context size alone.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Strategia dostawcy. Plany dostawców wpływają na to, jakie funkcje Twój zespół będzie mógł dalej tworzyć.
- Koszt i budżet. Warunki handlowe i opcje wdrożenia wpływają na długoterminowe koszty i ryzyko.
- Ryzyko i bezpieczeństwo. Zachęty firmowe kształtują wady produktów, postawę bezpieczeństwa i otwartość.
Uważaj na
- Ogłoszenia o wprowadzeniu na rynek mogą przekroczyć stabilność w rzeczywistych przepływach pracy.
- Ceny interfejsów API lub zmiany zasad mogą z dnia na dzień złamać założenia.
- Zależność od jednego dostawcy zwiększa koszty uzależnienia i migracji.
Kolejne kroki
- Oceniaj dostawców, korzystając z własnych zadań i zbiorów danych.
- Przed integracją przejrzyj warunki dotyczące prywatności, bezpieczeństwa i prawa.
- Utrzymuj plan awaryjny dla różnych modeli i dostawców.
- Monitoruj informacje o wersji, aby zmiany w planie działania nie zaskoczyły zespołów.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Magic AI Long-Context Code Models quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
What is Magic AI Long-Context Code Models?
Magic AI is a startup developing long-context models for software-development tasks. The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
What software-development direction has Magic said it is pursuing?
Magic describes its work as developing AI for software engineering. This is a company goal; it does not guarantee that a model can correctly handle every codebase.
What maximum context capacity did Magic announce for LTM-2-mini in August 2024?
Magic’s August 2024 report announced a context window of up to 100 million tokens for LTM-2-mini. Context capacity is distinct from accuracy on a task.
What does Magic use HashHop to evaluate?
Magic designed HashHop as a controlled random-hash retrieval and chaining benchmark. It reduces semantic cues but does not establish broad code understanding.
Dlaczego naiwna uwaga transformatora jest problemem w kontekstach zawierających 100 milionów żetonów?
Koszt standardowej uwagi rośnie wraz z kwadratem długości sekwencji, więc bardzo długie konteksty są niezwykle kosztowne bez lepszych algorytmów.
Z jaką firmą Magic nawiązał współpracę w 2024 r. przy budowie superkomputerów?
Magic ogłosił partnerstwo z Google Cloud w celu budowy superkomputerów na sprzęcie Nvidia.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat