개요
이 회사는 LTM-2-mini가 최대 1억 개의 토큰을 지원하여 훨씬 더 많은 파일 간 코드와 문서를 하나의 컨텍스트에 담을 수 있다고 말하지만, 용량 자체가 전체 코드베이스에 대한 정확한 추론을 보장하지는 않습니다.
심층 분석
Magic AI는 단순한 자동 완성을 넘어 AI 소프트웨어 엔지니어를 개발하는 스타트업입니다. 2024년 8월 연구 업데이트에서 이 회사는 최대 1억 개의 토큰 컨텍스트 윈도우를 가진 LTM-2-mini를 포함한 LTM 모델을 설명했으며, 이는 대략 1,000만 줄의 코드 또는 약 750권의 소설에 해당한다고 비유했습니다. 이는 모델의 용량에 대한 주장일 뿐, 모델이 모든 코드베이스를 정확하게 이해하거나 모든 프로젝트 전반의 작업을 완료할 수 있다는 증거는 아닙니다. 또한 이 업데이트에서는 당시 발표된 슈퍼컴퓨터 개발 및 자금 조달을 위한 Google Cloud 파트너십에 대해서도 설명합니다. Magic은 긴 컨텍스트 길이에서의 검색 성능을 테스트하기 위해 무작위의 압축 불가능한 해시 쌍과 체인형 조회를 사용하는 제어된 평가 방식인 HashHop을 도입했습니다. 이러한 구성된 작업에서의 결과는 해당 검색 및 체인 작업만을 측정할 뿐, 임의의 코드 이해 능력이나 모든 실제 저장소에서의 성능을 입증하는 것은 아닙니다.
실제 구현
파일 간 관계에 대한 질문을 위해 대규모 저장소나 선택된 하위 집합을 컨텍스트로 제공한 다음, 소스 코드와 답변을 대조하여 확인합니다.
개발자가 검토하고 테스트할 수 있도록 관련 파일을 수정하는 리팩토링 초안을 작성합니다.
원인이 여러 파일에 걸쳐 있을 수 있는 버그를 조사할 때 코드, 문서, 로그를 함께 제공합니다.
온보딩 지원을 위해 선택된 저장소 컨텍스트를 요약하고, 후속 조치를 위한 링크나 참조를 제공합니다.
Magic AI 장기 컨텍스트 코드 모델의 미래
컨텍스트가 길어지면 개발자가 더 많은 코드, 문서, 작업 세부 정보를 함께 제공할 수 있습니다. 신뢰할 수 있는 다중 파일 작업은 여전히 검색, 추론 정확도, 도구 실행 및 검증에 달려 있습니다. 향후 시스템은 단순히 컨텍스트 크기로 판단되는 것이 아니라, 관련성 있는 먼 파일을 찾아내고 테스트를 통과하는 변경 사항을 만드는지 등 대표적인 코드베이스와 작업을 기준으로 평가되어야 합니다.
실천에 옮기기
왜 중요한가요?
- 벤더 전략. 공급업체 로드맵은 팀이 다음에 구축할 수 있는 기능에 영향을 미칩니다.
- 비용 및 예산. 상업적 조건과 배포 옵션은 장기적인 비용과 위험에 영향을 미칩니다.
- 위험과 안전. 회사 인센티브는 제품 기본값, 안전 태세 및 개방성을 형성합니다.
조심하세요
- 출시 발표는 실제 생산 워크플로의 안정성보다 앞설 수 있습니다.
- API 가격 책정이나 정책 변경으로 인해 하룻밤 사이에 가정이 깨질 수 있습니다.
- 단일 공급업체 종속성은 종속 및 마이그레이션 비용을 증가시킵니다.
다음 단계
- 자체 작업과 데이터 세트를 사용하여 공급자를 평가합니다.
- 통합하기 전에 개인정보 보호, 보안, 법적 약관을 검토하세요.
- 모델이나 공급업체 전반에 걸쳐 대체 계획을 유지합니다.
- 로드맵 변경으로 인해 팀이 놀라지 않도록 릴리스 노트를 모니터링하세요.
계속 탐색하세요
무료 뉴스레터
일일 AI 브리핑 받기
매주 평일 아침마다 3개의 검증된 AI 스토리를 일반 영어로 작성합니다. 무료이며, 광고 없음.
매주 평일마다 한 번 이메일을 받습니다. 한 번 클릭으로 구독 해지. 주소를 판매하거나 공유하지 않습니다.
자신을 테스트해 보세요
Magic AI 긴 컨텍스트 코드 모델 퀴즈 풀기
모든 답변에 즉각적인 피드백과, 과정을 통과하면 검증 가능한 ID가 있는 공유 가능한 인증서를 제공합니다.
무료 AI 교육을 지원합니다. AI Understanding는 501(c)(3) 비영리 단체입니다 — 광고 없음, 유료 장벽 없음, 영원히. 기부하기
자주 묻는 질문
Magic AI 긴 컨텍스트 코드 모델이란 무엇인가요?
Magic AI는 소프트웨어 개발 작업을 위한 긴 컨텍스트 모델을 개발하는 스타트업입니다. 이 회사는 LTM-2-mini가 최대 1억 개의 토큰을 지원하여 훨씬 더 많은 파일 간 코드와 문서를 하나의 컨텍스트에 담을 수 있다고 말하지만, 용량 자체가 전체 코드베이스에 대한 정확한 추론을 보장하지는 않습니다.
매직이 추구하는 소프트웨어 개발 방향은 무엇입니까?
매직은 자사의 업무를 소프트웨어 엔지니어링을 위한 AI 개발이라고 설명합니다. 이것이 회사의 목표입니다. 모델이 모든 코드베이스를 올바르게 처리할 수 있다고 보장하지는 않습니다.
Magic은 2024년 8월에 LTM-2-mini에 대해 최대 컨텍스트 용량을 얼마나 발표했습니까?
Magic의 2024년 8월 보고서는 LTM-2-mini에 대해 최대 1억 개의 토큰에 대한 컨텍스트 창을 발표했습니다. 컨텍스트 용량은 작업의 정확성과 다릅니다.
Magic은 HashHop을 사용하여 무엇을 평가합니까?
Magic은 HashHop을 제어된 무작위 해시 검색 및 연결 벤치마크로 설계했습니다. 의미론적 단서를 줄이지만 광범위한 코드 이해를 확립하지는 않습니다.
1억 개의 토큰 컨텍스트에서 순진한 변환기 주의가 문제가 되는 이유는 무엇입니까?
표준 주의 비용은 시퀀스 길이의 제곱에 따라 증가하므로 더 나은 알고리즘이 없으면 매우 긴 컨텍스트는 매우 비쌉니다.
2024년에 매직이 슈퍼컴퓨터를 만들기 위해 파트너십을 맺은 회사는 어디입니까?
Magic은 Nvidia 하드웨어에 슈퍼컴퓨터를 구축하기 위해 Google Cloud와의 파트너십을 발표했습니다.