Μοντέλα Κώδικα Μεγάλου Περιεχομένου Magic AI
Το Magic AI δημιουργεί μοντέλα παραγωγής συνόρων κωδικών που διακρίνονται από εξαιρετικά μεγάλα παράθυρα περιβάλλοντος, επιτρέποντας σε ένα μοντέλο να διαβάσει μια ολόκληρη βάση κώδικα ταυτόχρονα.
Επισκόπηση
It matters because software understanding depends on context, and a model that can hold millions of lines in memory can reason about a whole project rather than one file.
Βαθιά κατάδυση
Το Magic AI είναι μια startup που στοχεύει να δημιουργήσει έναν μηχανικό λογισμικού AI και όχι απλώς ένα εργαλείο αυτόματης συμπλήρωσης. Το κύριο επίτευγμά της είναι η οικογένεια μοντέλων LTM (Μακροπρόθεσμη Μνήμη), συμπεριλαμβανομένου του LTM-2-mini, το οποίο η εταιρεία λέει ότι υποστηρίζει παράθυρα περιβάλλοντος έως και 100 εκατομμυρίων διακριτικών — περίπου ισοδύναμα με περίπου 10 εκατομμύρια γραμμές κώδικα ή χιλιάδες βιβλία ταυτόχρονα σε ενεργό περιβάλλον. Το 2024 η Magic ανακοίνωσε μια σημαντική συνεργασία με την Google Cloud για την κατασκευή υπερυπολογιστών σε υλικό Nvidia και συγκέντρωσε εκατοντάδες εκατομμύρια δολάρια, με υποστηρικτές συμπεριλαμβανομένου του Eric Schmidt. Για να μετρήσει την πρόοδο πέρα από τα εύκολα απομνημονευόμενα σημεία αναφοράς, η Magic δημιούργησε το HashHop, μια αξιολόγηση που χρησιμοποιεί τυχαίες αλυσίδες κατακερματισμού που ένα μοντέλο δεν μπορεί απλώς να ανακαλέσει από την εκπαίδευση, επιβάλλοντας γνήσια ανάκτηση μακροπρόθεσμου πλαισίου.
Τεχνική διορατικότητα
Η τυπική προσοχή του μετασχηματιστή κλιμακώνεται τετραγωνικά με το μήκος της ακολουθίας, καθιστώντας τα περιβάλλοντα 100 εκατομμυρίων διακριτικών απαγορευτικά ακριβά με απλές μεθόδους. Η Magic αναφέρει ότι ο αλγόριθμος διαστάσεων ακολουθίας LTM-2-mini είναι δραματικά φθηνότερος ανά διακριτικό από μια τέτοια προσέγγιση, επιτρέποντας το εξαιρετικά μεγάλο περιβάλλον οικονομικά. Το σημείο αναφοράς HashHop αντικαθιστά τις σημασιολογικές υποδείξεις με τυχαία, ασυμπίεστα ζεύγη κατακερματισμού, επομένως ο μόνος τρόπος απάντησης είναι η πραγματική ανάκτηση και η αλυσίδα πληροφοριών σε όλο το παράθυρο πλήρους περιβάλλοντος — ένα πολύ πιο αυστηρό τεστ ικανότητας μακροπρόθεσμου πλαισίου.
Στρατηγικός αντίκτυπος
Στρατηγική προμηθευτή
Οι χάρτες πορείας προμηθευτών επηρεάζουν τα χαρακτηριστικά που μπορεί να δημιουργήσει η ομάδα σας στη συνέχεια.
Κόστος και προϋπολογισμός
Οι εμπορικοί όροι και οι επιλογές ανάπτυξης επηρεάζουν το μακροπρόθεσμο κόστος και τον κίνδυνο.
Κίνδυνος και ασφάλεια
Τα κίνητρα της εταιρείας διαμορφώνουν τις προεπιλογές προϊόντων, τη στάση ασφαλείας και τη διαφάνεια.
Το μέλλον των μοντέλων κώδικα μακρού περιβάλλοντος Magic AI
Εάν τα μοντέλα μπορούν να συγκρατήσουν και να αιτιολογήσουν αξιόπιστα μια ολόκληρη βάση κώδικα, οι βοηθοί τεχνητής νοημοσύνης μετακινούνται από την πρόταση αποσπασμάτων στην εκτέλεση ανακατασκευαστών σε όλο το έργο, την ανίχνευση σφαλμάτων σε πολλά αρχεία και την υλοποίηση λειτουργιών που αγγίζουν δεκάδες λειτουργικές μονάδες. Οι ανοιχτές προκλήσεις διατηρούν γρήγορα και φθηνά τα συμπεράσματα εξαιρετικά μεγάλου πλαισίου και αποδεικνύουν ότι το μοντέλο χρησιμοποιεί πραγματικά μακρινό πλαίσιο αντί να το αγνοεί. Αναμένετε μακρές ροές εργασίας πλαισίου και αντιπροσώπων να συγκλίνουν σε συστήματα που λειτουργούν ως γνήσιοι συνεργάτες μηχανικής λογισμικού.
Υλοποίηση σε πραγματικό κόσμο
Φόρτωση ενός ολόκληρου μεγάλου αποθετηρίου, ώστε το μοντέλο να μπορεί να απαντήσει σε ερωτήσεις σχετικά με τον τρόπο αλληλεπίδρασης μακρινών λειτουργικών μονάδων.
Εκτέλεση ενός refactor σε όλο το έργο όπου μια αλλαγή στη διεπαφή ενός αρχείου διαδίδεται σωστά σε ολόκληρη τη βάση κώδικα.
Ανίχνευση ενός σφάλματος του οποίου η αιτία εκτείνεται σε πολλά αρχεία με συλλογισμό σε όλο το πλαίσιο ταυτόχρονα αντί για αρχείο προς αρχείο.
Ενσωμάτωση σε μια άγνωστη βάση κώδικα ζητώντας από το μοντέλο να συνοψίσει την αρχιτεκτονική χρησιμοποιώντας την πλήρη πηγή ως περιβάλλον.
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Οι ανακοινώσεις κυκλοφορίας ενδέχεται να ξεπεράσουν τη σταθερότητα στις πραγματικές ροές εργασιών παραγωγής.
Η τιμολόγηση API ή οι αλλαγές πολιτικής μπορούν να σπάσουν τις υποθέσεις από τη μια μέρα στην άλλη.
Η εξάρτηση από έναν προμηθευτή αυξάνει το κόστος κλειδώματος και μετεγκατάστασης.
Οδικός Χάρτης Εφαρμογής
Αξιολογήστε τους παρόχους χρησιμοποιώντας τις δικές σας εργασίες και σύνολα δεδομένων.
Ελέγξτε το απόρρητο, την ασφάλεια και τους νομικούς όρους πριν από την ενσωμάτωση.
Διατηρήστε ένα εναλλακτικό σχέδιο σε μοντέλα ή προμηθευτές.
Παρακολουθήστε τις σημειώσεις έκδοσης, ώστε οι αλλαγές στον οδικό χάρτη να μην εκπλήσσουν τις ομάδες.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Magic AI Long-Context Code Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Πρωτόκολλο πλαισίου μοντέλου
Συχνές ερωτήσεις
What is Magic AI Long-Context Code Models?
Το Magic AI δημιουργεί μοντέλα παραγωγής συνόρων κωδικών που διακρίνονται από εξαιρετικά μεγάλα παράθυρα περιβάλλοντος, επιτρέποντας σε ένα μοντέλο να διαβάσει μια ολόκληρη βάση κώδικα ταυτόχρονα. Έχει σημασία γιατί η κατανόηση του λογισμικού εξαρτάται από το περιβάλλον και ένα μοντέλο που μπορεί να κρατήσει εκατομμύρια γραμμές στη μνήμη μπορεί να αιτιολογήσει ένα ολόκληρο έργο και όχι ένα αρχείο.
Τι προσπαθεί κυρίως να δημιουργήσει το Magic AI;
Το Magic στοχεύει στη δημιουργία ενός μηχανικού λογισμικού AI, όχι απλώς ενός εργαλείου αυτόματης συμπλήρωσης.
Τι μέγεθος παραθύρου περιβάλλοντος έχει διεκδικήσει η Magic για τα μοντέλα LTM της;
Η Magic ανακοίνωσε υποστήριξη για παράθυρα περιβάλλοντος έως και 100 εκατομμυρίων διακριτικών, περίπου 10 εκατομμυρίων γραμμών κώδικα.
Τι είναι το HashHop;
Το HashHop χρησιμοποιεί τυχαία, ασυμπίεστα ζεύγη κατακερματισμού, επομένως ένα μοντέλο πρέπει να ανακτά πραγματικά και να αλυσιδώνει πληροφορίες σε όλο το πλαίσιο.
Γιατί η αφελής προσοχή του μετασχηματιστή είναι πρόβλημα για περιβάλλοντα 100 εκατομμυρίων;
Το κόστος της τυπικής προσοχής αυξάνεται με το τετράγωνο του μήκους της ακολουθίας, επομένως τα πολύ μεγάλα περιβάλλοντα είναι εξαιρετικά ακριβά χωρίς καλύτερους αλγόριθμους.
Με ποια εταιρεία συνεργάστηκε η Magic το 2024 για την κατασκευή υπερυπολογιστών;
Η Magic ανακοίνωσε μια συνεργασία με την Google Cloud για την κατασκευή υπερυπολογιστών σε υλικό Nvidia.