Microsoft Phi
Microsoft Το Phi είναι μια οικογένεια μοντέλων μικρών γλωσσών που αποδεικνύουν ότι η προσεκτική επεξεργασία δεδομένων μπορεί να ανταγωνιστεί την κλίμακα ωμής βίας.
Επισκόπηση
By training on textbook-quality and synthetic data, tiny Phi models punch far above their parameter count.
Βαθιά κατάδυση
Το Phi είναι Microsoft η σειρά μοντέλων μικρών γλωσσών (SLM) της Έρευνας που κυκλοφόρησε το 2023 με το Phi-1, ένα μοντέλο κωδικοποίησης 1,3 δισεκατομμυρίων παραμέτρων. Η κατευθυντήρια διατριβή, που αποτυπώνεται στον τίτλο της εργασίας «Τα σχολικά βιβλία είναι όλα όσα χρειάζεστε», είναι ότι η ποιότητα των δεδομένων έχει μεγαλύτερη σημασία από το ακατέργαστο μέγεθος. Αντί να ξύσει ολόκληρο τον ιστό, ο Microsoft εκπαίδευσε τον Phi σε επιμελημένο περιεχόμενο που μοιάζει με σχολικά βιβλία και συνθετικές ασκήσεις που δημιουργούνται από το GPT-4. Οι διαδοχικές εκδόσεις κλιμάκωσαν αυτήν την ιδέα: Phi-2 (2,7B), Phi-3 (3,8B 'mini' έως 14B 'medium') και Phi-3,5 με παραλλαγές όρασης και μείγματος ειδικών. Παρά το μέγεθός τους, τα μοντέλα Phi ταιριάζουν ή ξεπερνούν πολύ μεγαλύτερους ανταγωνιστές σε συλλογιστικά και μαθηματικά σημεία αναφοράς και λειτουργούν αποτελεσματικά σε φορητούς υπολογιστές, τηλέφωνα και συσκευές αιχμής. Τα μοντέλα κυκλοφορούν ανοιχτά με επιτρεπτές άδειες.
Τεχνική διορατικότητα
Το πλεονέκτημα του Phi προέρχεται από τη δημιουργία συνθετικών δεδομένων και το φιλτράρισμα. Το Microsoft χρησιμοποιεί μεγαλύτερα μοντέλα όπως το GPT-4 για τη σύνταξη καθαρών, παιδαγωγικά δομημένων παραδειγμάτων και για τη βαθμολογία κειμένου ιστού για «εκπαιδευτική αξία», διατηρώντας μόνο έγγραφα υψηλού σήματος. Αυτό το πυκνό μείγμα προπόνησης με χαμηλό θόρυβο επιτρέπει σε ένα μοντέλο 3,8B να μάθει μοτίβα συλλογισμού που συνήθως απαιτούν δεκάδες δισεκατομμύρια παραμέτρους. Το Phi-3-mini χρησιμοποιεί ένα παράθυρο περιβάλλοντος 4K ή 128K και μια αρχιτεκτονική αποκωδικοποιητή μετασχηματιστή παρόμοια με το Llama, καθιστώντας εύκολη την ανάπτυξή του με τα υπάρχοντα εργαλεία.
Στρατηγικός αντίκτυπος
Στρατηγική προμηθευτή
Οι χάρτες πορείας προμηθευτών επηρεάζουν τα χαρακτηριστικά που μπορεί να δημιουργήσει η ομάδα σας στη συνέχεια.
Κόστος και προϋπολογισμός
Οι εμπορικοί όροι και οι επιλογές ανάπτυξης επηρεάζουν το μακροπρόθεσμο κόστος και τον κίνδυνο.
Κίνδυνος και ασφάλεια
Τα κίνητρα της εταιρείας διαμορφώνουν τις προεπιλογές προϊόντων, τη στάση ασφαλείας και τη διαφάνεια.
Το μέλλον του Microsoft Phi
Το Microsoft ωθεί το Phi προς χρήση εντός συσκευής και αντιπροσώπων όπου ο λανθάνουσα κατάσταση, το απόρρητο και το κόστος αποκλείουν τους γίγαντες στο cloud. Αναμένετε στενότερη ενσωμάτωση υπολογιστή Windows και Copilot+, ισχυρότερες παραλλαγές πολλαπλών τρόπων (όραμα και ήχο) και συνεχείς συνδυασμούς σχεδίων ειδικών που ενεργοποιούν μόνο ένα κλάσμα παραμέτρων ανά διακριτικό. Η ευρύτερη τάση που επικυρώνει το Phi, ότι τα έξυπνα δεδομένα ξεπερνούν την τεράστια κλίμακα, αναδιαμορφώνει τον τρόπο με τον οποίο ολόκληρη η βιομηχανία εκπαιδεύει μοντέλα, ειδικά για τηλέφωνα, IoT και σενάρια εκτός σύνδεσης όπου κερδίζουν μικρά, ικανά μοντέλα.
Υλοποίηση σε πραγματικό κόσμο
Εκτέλεση ενός βοηθού κωδικοποίησης εκτός σύνδεσης απευθείας σε φορητό υπολογιστή χωρίς αποστολή κώδικα στο cloud
Ενεργοποίηση λειτουργιών στη συσκευή σε υπολογιστές Copilot+ και εφαρμογές για κινητά όπου έχει σημασία ο χαμηλός λανθάνοντας χρόνος
Ενσωμάτωση ενός συλλογιστικού μοντέλου σε υλικό IoT ή αιχμής με περιορισμένη μνήμη και χωρίς Διαδίκτυο
Οι ερευνητές προσαρμόζουν φθηνά ένα μικρό μοντέλο Phi με ανοιχτή άδεια χρήσης για ένα chatbot για συγκεκριμένο τομέα
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Οι ανακοινώσεις κυκλοφορίας ενδέχεται να ξεπεράσουν τη σταθερότητα στις πραγματικές ροές εργασιών παραγωγής.
Η τιμολόγηση API ή οι αλλαγές πολιτικής μπορούν να σπάσουν τις υποθέσεις από τη μια μέρα στην άλλη.
Η εξάρτηση από έναν προμηθευτή αυξάνει το κόστος κλειδώματος και μετεγκατάστασης.
Οδικός Χάρτης Εφαρμογής
Αξιολογήστε τους παρόχους χρησιμοποιώντας τις δικές σας εργασίες και σύνολα δεδομένων.
Ελέγξτε το απόρρητο, την ασφάλεια και τους νομικούς όρους πριν από την ενσωμάτωση.
Διατηρήστε ένα εναλλακτικό σχέδιο σε μοντέλα ή προμηθευτές.
Παρακολουθήστε τις σημειώσεις έκδοσης, ώστε οι αλλαγές στον οδικό χάρτη να μην εκπλήσσουν τις ομάδες.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Microsoft Phi quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Microsoft AI
Συχνές ερωτήσεις
What is Microsoft Phi?
Microsoft Το Phi είναι μια οικογένεια μοντέλων μικρών γλωσσών που αποδεικνύουν ότι η προσεκτική επεξεργασία δεδομένων μπορεί να ανταγωνιστεί την κλίμακα ωμής βίας. Με την εκπαίδευση στην ποιότητα των σχολικών βιβλίων και στα συνθετικά δεδομένα, τα μικροσκοπικά μοντέλα Phi ξεπερνούν τον αριθμό των παραμέτρων τους.
Ποια είναι η βασική διατριβή πίσω από τα μοντέλα Phi, που αποτυπώνονται σε έναν διάσημο τίτλο χαρτιού;
Το έγγραφο Phi-1 είχε τίτλο «Τα σχολικά βιβλία είναι όλα όσα χρειάζεστε», υποστηρίζοντας ότι τα υψηλής ποιότητας, επιμελημένα δεδομένα έχουν μεγαλύτερη σημασία από την καθαρή κλίμακα.
Πόσες περίπου παραμέτρους έχει το Phi-3-mini;
Το Phi-3-mini έχει περίπου 3,8 δισεκατομμύρια παραμέτρους, καθιστώντας το αρκετά μικρό ώστε να λειτουργεί σε ένα τηλέφωνο, ενώ εξακολουθεί να έχει ισχυρή απόδοση.
Πώς δημιουργεί το Microsoft μεγάλο μέρος των δεδομένων εκπαίδευσης του Phi;
Το Microsoft χρησιμοποιεί ισχυρά μοντέλα όπως το GPT-4 για να δημιουργήσει καθαρές συνθετικές ασκήσεις και να φιλτράρει κείμενο ιστού για εκπαιδευτική αξία.
Σε ποια κατηγορία μοντέλου αναφέρεται το 'SLM', όπως χρησιμοποιείται για το Phi;
Το Phi περιγράφεται ως ένα μοντέλο μικρής γλώσσας (SLM), δίνοντας έμφαση στην ικανότητα σε συμπαγές μέγεθος.
Ποιο είναι το βασικό πρακτικό πλεονέκτημα του μικρού μεγέθους του Phi;
Επειδή τα μοντέλα Phi είναι συμπαγή, μπορούν να εκτελούνται τοπικά σε καταναλωτικό υλικό, επιτρέποντας το απόρρητο, τη χαμηλή καθυστέρηση και τη χρήση εκτός σύνδεσης.