ΕπόμενοΕπόμενος οδηγός
Μοντέλα Κώδικα Μεγάλου Περιεχομένου Magic AI
Εταιρείες
ΟΔΗΓΟΣ Εταιρειών
BigScience και το μοντέλο BLOOM
Το BLOOM είναι ένα πολύγλωσσο γλωσσικό μοντέλο 176 δισεκατομμυρίων παραμέτρων που δημιουργήθηκε από τη συνεργασία BigScience και κυκλοφόρησε μαζί με την ερευνητική του τεκμηρίωση.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
Σε αυτήν τη σελίδα2 λεπτά ανάγνωση
Επισκόπηση
Its ROOTS training corpus included natural and programming languages, making it a prominent open-access research model.
Βαθιά κατάδυση
The BigScience paper describes BLOOM as a decoder-only Transformer with 176 billion parameters. It was trained on ROOTS, a corpus assembled from hundreds of sources in 46 natural languages and 13 programming languages. The collaboration released the model and code under the Responsible AI License and documented data and training choices. Its open-access release supports research, but does not remove the need to consider the license, model limitations, or the represented language distribution.
Υλοποίηση σε πραγματικό κόσμο
Δημιουργία και συμπλήρωση κειμένου σε δεκάδες γλώσσες, συμπεριλαμβανομένων εκείνων που δεν εξυπηρετούνται από εμπορικά μοντέλα
Χρησιμεύει ως ανοιχτή βάση έρευνας για τη μελέτη της μεροληψίας, της πολυγλωσσικής μεταφοράς και της συμπεριφοράς κλιμάκωσης
Βελτιστοποίηση σε παραλλαγές για συγκεκριμένες εργασίες ή που ακολουθούν οδηγίες, όπως το BLOOMZ για μη αγγλικές κοινότητες
Παροχή ενός πλήρως τεκμηριωμένου μοντέλου για ακαδημαϊκούς που μελετούν την προέλευση των δεδομένων εκπαίδευσης και την υπεύθυνη αδειοδότηση AI
Το μέλλον της BigScience και το μοντέλο BLOOM
Το BigScience έδειξε ότι η μεγάλης κλίμακας, ανοιχτά διοικούμενη τεχνητή νοημοσύνη είναι δυνατή και το μοντέλο της επηρέασε τις μεταγενέστερες ανοιχτές εκδόσεις και την ευρύτερη ώθηση για διαφάνεια. Η μελλοντική πολύγλωσση εργασία πιθανότατα θα βασιστεί στα διδάγματα της τεκμηρίωσης δεδομένων και της γλωσσικής κάλυψης χωρίς αποκλεισμούς, ενώ τα νεότερα, πιο αποτελεσματικά μοντέλα έχουν ξεπεράσει το BLOOM ως προς την ακατέργαστη ικανότητα. Η μόνιμη κληρονομιά του είναι ο κανόνας της δημοσίευσης καρτών μοντέλων, δηλώσεων δεδομένων και υπεύθυνων αδειών, καθώς και η απόδειξη ότι ο δημόσιος υπολογιστής μπορεί να εκπαιδεύσει μοντέλα συνοριακής κλίμακας.
Κάνοντάς το στην πράξη
Γιατί έχει σημασία
- Στρατηγική προμηθευτή. Οι χάρτες πορείας προμηθευτών επηρεάζουν τα χαρακτηριστικά που μπορεί να δημιουργήσει η ομάδα σας στη συνέχεια.
- Κόστος και προϋπολογισμός. Οι εμπορικοί όροι και οι επιλογές ανάπτυξης επηρεάζουν το μακροπρόθεσμο κόστος και τον κίνδυνο.
- Κίνδυνος και ασφάλεια. Τα κίνητρα της εταιρείας διαμορφώνουν τις προεπιλογές προϊόντων, τη στάση ασφαλείας και τη διαφάνεια.
Προσέξτε
- Οι ανακοινώσεις κυκλοφορίας ενδέχεται να ξεπεράσουν τη σταθερότητα στις πραγματικές ροές εργασιών παραγωγής.
- Η τιμολόγηση API ή οι αλλαγές πολιτικής μπορούν να σπάσουν τις υποθέσεις από τη μια μέρα στην άλλη.
- Η εξάρτηση από έναν προμηθευτή αυξάνει το κόστος κλειδώματος και μετεγκατάστασης.
Επόμενα βήματα
- Αξιολογήστε τους παρόχους χρησιμοποιώντας τις δικές σας εργασίες και σύνολα δεδομένων.
- Ελέγξτε το απόρρητο, την ασφάλεια και τους νομικούς όρους πριν από την ενσωμάτωση.
- Διατηρήστε ένα εναλλακτικό σχέδιο σε μοντέλα ή προμηθευτές.
- Παρακολουθήστε τις σημειώσεις έκδοσης, ώστε οι αλλαγές στον οδικό χάρτη να μην εκπλήσσουν τις ομάδες.
Συνεχίστε την εξερεύνηση
Δωρεάν ενημερωτικό δελτίο
Λάβετε την καθημερινή ενημέρωση AI
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Take the BigScience and the BLOOM Model quiz
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Συχνές ερωτήσεις
What is BigScience and the BLOOM Model?
BLOOM is a 176-billion-parameter multilingual language model produced by the BigScience collaboration and released with its research documentation. Its ROOTS training corpus included natural and programming languages, making it a prominent open-access research model.
Ποιος ήταν ο πρωταρχικός στόχος του μοντέλου BLOOM σε σύγκριση με μοντέλα παρόμοιου μεγέθους της εποχής του;
Το BLOOM σχεδιάστηκε για να είναι πραγματικά πολύγλωσσο και κυκλοφόρησε ανοιχτά με πλήρη τεκμηρίωση, σε αντίθεση με κλειστά μοντέλα παρόμοιας κλίμακας.
Πόσες περίπου παραμέτρους έχει το BLOOM;
Το BLOOM είναι ένα μοντέλο 176 δισεκατομμυρίων παραμέτρων, που το τοποθετεί σε παρόμοια κλίμακα με το GPT-3.
Πόσες φυσικές γλώσσες εκπαιδεύτηκε να χειρίζεται ο BLOOM;
Το εκπαιδευτικό σώμα του BLOOM's ROOTS κάλυψε 46 φυσικές γλώσσες συν 13 γλώσσες προγραμματισμού.
Ποιος οργανισμός συντόνισε τη συνεργασία του BigScience;
Το Hugging Face συντόνισε το BigScience, ένα εργαστήριο με περισσότερους από 1.000 εθελοντές ερευνητές.
Πού εκπαιδεύτηκε ο BLOOM;
Ο BLOOM εκπαιδεύτηκε στον υπερυπολογιστή Jean Zay στη Γαλλία, αποδεικνύοντας ότι ο δημόσιος υπολογιστής θα μπορούσε να εκπαιδεύσει ένα μοντέλο συνοριακής κλίμακας.
Συνέχισε να μαθαίνεις
Σχετικοί οδηγοί
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα