Magic AI Uzun Bağlamlı Kod Modelleri
Magic AI, son derece uzun bağlam pencereleriyle ayırt edilen sınır kod oluşturma modelleri oluşturarak bir modelin tüm kod tabanını aynı anda okumasına olanak tanır.
Genel Bakış
It matters because software understanding depends on context, and a model that can hold millions of lines in memory can reason about a whole project rather than one file.
Derin Dalış
Magic AI, yalnızca bir otomatik tamamlama aracı yerine yapay zeka yazılım mühendisi oluşturmayı amaçlayan bir girişimdir. Başlıca başarısı, LTM-2-mini'yi de içeren LTM (Uzun Süreli Bellek) model ailesidir; şirket, bunun 100 milyon tokene kadar bağlam pencerelerini desteklediğini söylüyor; bu, kabaca yaklaşık 10 milyon kod satırına veya aynı anda aktif bağlamda tutulan binlerce kitaba eşdeğerdir. 2024 yılında Magic, Nvidia donanımı üzerinde süper bilgisayarlar oluşturmak için Google Cloud ile büyük bir ortaklık yaptığını duyurdu ve aralarında Eric Schmidt'in de bulunduğu destekçilerden yüz milyonlarca dolar topladı. Kolayca ezberlenen kriterlerin ötesindeki ilerlemeyi ölçmek için Magic, bir modelin eğitimden kolayca geri çağıramayacağı rastgele karma zincirleri kullanan ve gerçek uzun bağlamlı geri alımı zorlayan bir değerlendirme olan HashHop'u yarattı.
Teknik Bilgi
Standart transformatörün dikkati dizi uzunluğuna göre karesel olarak ölçeklenir ve 100 milyon jetonlu bağlamları saf yöntemlerle fahiş derecede pahalı hale getirir. Magic, LTM-2-mini dizi boyutu algoritmasının, bu tür bir yaklaşıma göre token başına önemli ölçüde daha ucuz olduğunu ve ultra uzun bağlamı uygun maliyetle mümkün kıldığını bildiriyor. HashHop kıyaslaması anlamsal ipuçlarını rastgele, sıkıştırılamaz karma çiftlerle değiştirir; bu nedenle yanıt vermenin tek yolu, bilgiyi tam bağlam penceresi boyunca gerçekten almak ve zincirlemektir - uzun bağlam yeteneğinin çok daha katı bir testi.
Stratejik Etki
Vendor strategy
Satıcı yol haritaları, ekibinizin bundan sonra hangi özellikleri geliştirebileceğini etkiler.
Maliyet ve bütçe
Ticari şartlar ve dağıtım seçenekleri uzun vadeli maliyet ve riski etkiler.
Risk and safety
Şirket teşvikleri ürün temerrütlerini, güvenlik duruşunu ve açıklığı şekillendirir.
Magic AI Uzun Bağlamlı Kod Modellerinin Geleceği
Modeller kod tabanının tamamını güvenilir bir şekilde tutabilir ve akıl yürütebilirse, yapay zeka asistanları parçacık önermekten proje çapında yeniden düzenleme gerçekleştirmeye, birçok dosyadaki hataları izlemeye ve düzinelerce modüle dokunan özellikleri uygulamaya geçer. Açık zorluklar, ultra uzun bağlam çıkarımını hızlı ve ucuz tutmak ve modelin uzak bağlamı göz ardı etmek yerine gerçekten kullandığını kanıtlamak. Uzun bağlam artı aracılı iş akışlarının, gerçek yazılım mühendisliği işbirlikçileri olarak hareket eden sistemlere dönüşmesini bekleyin.
Gerçek Dünya Uygulaması
Modelin, uzaktaki modüllerin nasıl etkileşime girdiğine ilişkin soruları yanıtlayabilmesi için geniş bir havuzun tamamı yükleniyor.
Bir dosyanın arayüzündeki bir değişikliğin tüm kod tabanına doğru şekilde yayıldığı proje çapında bir yeniden düzenleme gerçekleştirme.
Sebebi birçok dosyaya yayılan bir hatanın, tek tek dosya yerine tek seferde tüm bağlam üzerinde akıl yürütme yoluyla izlenmesi.
Modelden, kaynağın tamamını bağlam olarak kullanarak mimariyi özetlemesini isteyerek alışılmadık bir kod tabanına katılım.
Riskler ve Korkuluklar
Lansman duyuruları, gerçek üretim iş akışlarında istikrarın önüne geçebilir.
API fiyatlandırması veya politika değişiklikleri, varsayımları bir gecede boşa çıkarabilir.
Tek satıcıya bağımlılık, bağlılık ve geçiş maliyetlerini artırır.
Uygulama Yol Haritası
Sağlayıcıları kendi görevlerinizi ve veri kümelerinizi kullanarak değerlendirin.
Entegrasyondan önce gizlilik, güvenlik ve yasal şartları inceleyin.
Modeller veya satıcılar arasında bir geri dönüş planı sürdürün.
Yol haritası değişikliklerinin ekipleri şaşırtmaması için sürüm notlarını izleyin.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Magic AI Long-Context Code Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Model Bağlam Protokolü
Sık sorulan sorular
What is Magic AI Long-Context Code Models?
Magic AI, son derece uzun bağlam pencereleriyle ayırt edilen sınır kod oluşturma modelleri oluşturarak bir modelin tüm kod tabanını aynı anda okumasına olanak tanır. Bu önemlidir, çünkü yazılımın anlaşılması bağlama bağlıdır ve hafızasında milyonlarca satırı tutabilen bir model, tek bir dosya yerine tüm proje hakkında akıl yürütebilir.
Magic AI öncelikli olarak ne oluşturmaya çalışıyor?
Magic, yalnızca bir otomatik tamamlama aracı değil, bir yapay zeka yazılım mühendisi oluşturmayı hedefliyor.
Magic, LTM modelleri için hangi bağlam penceresi boyutunu talep etti?
Magic, yaklaşık 10 milyon satırlık kod olan 100 milyona kadar jetondan oluşan bağlam pencerelerini desteklediğini duyurdu.
HashHop nedir?
HashHop rastgele, sıkıştırılamaz karma çiftleri kullanır, bu nedenle bir modelin bilgileri bağlam boyunca gerçekten alması ve zincirlemesi gerekir.
Saf dönüştürücü dikkati 100 milyon jetonlu bağlamlar için neden bir sorundur?
Standart dikkatin maliyeti dizi uzunluğunun karesiyle artar, dolayısıyla çok uzun bağlamlar daha iyi algoritmalar olmadan son derece pahalıdır.
Magic 2024'te süper bilgisayarlar üretmek için hangi şirketle ortaklık kurdu?
Magic, Nvidia donanımı üzerinde süper bilgisayarlar oluşturmak için Google Cloud ile ortaklık kurduğunu duyurdu.