Tiếp theoHướng dẫn tiếp theo
Giao thức bối cảnh mô hình
Ngôn ngữ AI
HƯỚNG DẪN công ty
Mô hình mã ngữ cảnh dài Magic AI
Magic AI is a startup developing long-context models for software-development tasks.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
Lặn sâu
Magic AI is a startup developing an AI software engineer rather than only autocomplete. In its August 2024 research update, the company described LTM models, including LTM-2-mini, with a context window of up to 100 million tokens; its analogy is roughly 10 million lines of code or about 750 novels. This is a model capacity claim, not evidence that the model can correctly understand every codebase or complete every project-wide task. The update also describes a Google Cloud partnership for supercomputer development and funding announced at that time. Magic introduced HashHop as a controlled evaluation using random, incompressible hash pairs and chained lookups to test retrieval at long context lengths. Results on that constructed task measure those retrieval and chaining tasks; they do not prove arbitrary code comprehension or performance on every real repository.
Triển khai trong thế giới thực
Providing a large repository or selected subset as context for questions about cross-file relationships, then checking the answer against source code.
Drafting a refactor that touches related files for a developer to review and test.
Supplying code, documentation, and logs together when investigating a bug whose cause may span files.
Summarizing a selected repository context as an onboarding aid, with links or references for follow-up.
Tương lai của các mô hình mã ngữ cảnh dài AI của Magic
Longer contexts can allow developers to supply more code, documentation, and task details together. Reliable multi-file work still depends on retrieval, reasoning accuracy, tool execution, and verification. Future systems should be evaluated on representative codebases and tasks, including whether they find relevant distant files and make changes that pass tests, rather than being judged by context size alone.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Chiến lược nhà cung cấp. Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.
- Chi phí và ngân sách. Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.
- Rủi ro và an toàn. Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.
coi chừng
- Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.
- Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.
- Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.
Các bước tiếp theo
- Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.
- Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.
- Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.
- Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Magic AI Long-Context Code Models quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
Mô hình mã ngữ cảnh dài Magic AI là gì?
Magic AI is a startup developing long-context models for software-development tasks. The company says LTM-2-mini supports up to 100 million tokens, which can place substantially more cross-file code and documentation in one context; capacity alone does not guarantee correct reasoning over an entire codebase.
What software-development direction has Magic said it is pursuing?
Magic describes its work as developing AI for software engineering. This is a company goal; it does not guarantee that a model can correctly handle every codebase.
What maximum context capacity did Magic announce for LTM-2-mini in August 2024?
Magic’s August 2024 report announced a context window of up to 100 million tokens for LTM-2-mini. Context capacity is distinct from accuracy on a task.
What does Magic use HashHop to evaluate?
Magic designed HashHop as a controlled random-hash retrieval and chaining benchmark. It reduces semantic cues but does not establish broad code understanding.
Tại sao sự chú ý của người biến đổi ngây thơ lại là một vấn đề đối với bối cảnh 100 triệu mã thông báo?
Chi phí của sự chú ý tiêu chuẩn tăng theo bình phương độ dài chuỗi, vì vậy các bối cảnh rất dài sẽ cực kỳ tốn kém nếu không có thuật toán tốt hơn.
Magic đã hợp tác với công ty nào vào năm 2024 để chế tạo siêu máy tính?
Magic đã công bố hợp tác với Google Cloud để xây dựng siêu máy tính trên phần cứng Nvidia.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này