โมเดลโค้ดบริบทยาว Magic AI

It matters because software understanding depends on context, and a model that can hold millions of lines in memory can reason about a whole project rather than one file.

Magic AI เป็นสตาร์ทอัพที่มีจุดมุ่งหมายเพื่อสร้างวิศวกรซอฟต์แวร์ AI แทนที่จะเป็นเพียงเครื่องมือเติมข้อความอัตโนมัติ ความสำเร็จพาดหัวคือตระกูลโมเดล LTM (หน่วยความจำระยะยาว) ซึ่งรวมถึง LTM-2-mini ซึ่งบริษัทกล่าวว่ารองรับหน้าต่างบริบทสูงถึง 100 ล้านโทเค็น ซึ่งเทียบเท่ากับโค้ดประมาณ 10 ล้านบรรทัดหรือหนังสือหลายพันเล่มที่เก็บไว้ในบริบทที่ใช้งานได้ในคราวเดียว ในปี 2024 Magic ได้ประกาศความร่วมมือครั้งสำคัญกับ Google Cloud เพื่อสร้างซูเปอร์คอมพิวเตอร์บนฮาร์ดแวร์ของ Nvidia และระดมทุนได้หลายร้อยล้านดอลลาร์ โดยมีผู้สนับสนุน รวมถึง Eric Schmidt เพื่อวัดความก้าวหน้าที่เหนือกว่าเกณฑ์มาตรฐานที่จดจำได้ง่าย Magic ได้สร้าง HashHop ซึ่งเป็นการประเมินโดยใช้แฮชเชนแบบสุ่มที่แบบจำลองไม่สามารถจำได้ง่ายๆ จากการฝึก โดยบังคับให้ดึงข้อมูลบริบทแบบยาวของแท้