Modal Labs
Το Modal είναι μια πλατφόρμα cloud χωρίς διακομιστή που επιτρέπει στους προγραμματιστές να εκτελούν κώδικα Python, συμπεριλαμβανομένων των φόρτων εργασίας GPU, στο cloud προσθέτοντας ένα διακοσμητή σε μια συνάρτηση.
Επισκόπηση
It matters because it removes the pain of containers, infrastructure, and scaling so AI and data teams can deploy models and batch jobs in minutes.
Βαθιά κατάδυση
Ιδρύθηκε το 2021 από τον Erik Bernhardsson (δημιουργό της βιβλιοθήκης Spotify's Annoy και τον Luigi) και τον Akshat Bubna, το Modal στοχεύει στο κενό εμπειρίας προγραμματιστή στην υποδομή ML. Καθορίζετε το περιβάλλον, τις εξαρτήσεις και το υλικό σας απευθείας στην Python και το Modal δημιουργεί κοντέινερ, παρέχει CPU ή GPU και εκτελεί τον κώδικά σας κατά απαίτηση, κλιμακώνοντας σε εκατοντάδες κοντέινερ και μειώνεται στο μηδέν. Το χαρακτηριστικό γνώρισμά του είναι ένας προσαρμοσμένος χρόνος εκτέλεσης κοντέινερ και ένα σύστημα αρχείων σχεδιασμένο για κρύες εκκινήσεις κάτω του δευτερολέπτου, ένα διαβόητο σημείο πόνου χωρίς διακομιστή. Το Modal είναι δημοφιλές για τα τελικά σημεία συμπερασμάτων μοντέλων, τη λεπτομερή ρύθμιση, τη μαζική επεξεργασία, τις προγραμματισμένες εργασίες (cron) και τα τελικά σημεία ιστού. Η χρέωση είναι ανά δευτερόλεπτο για τον πραγματικό υπολογισμό που χρησιμοποιείται. Ανταγωνίζεται εννοιολογικά με το AWS Lambda, το SageMaker και το Runpod, αλλά δίνει έμφαση σε μια ροή εργασίας Pythonic με πρώτο κώδικα.
Τεχνική διορατικότητα
Το βασικό μηχανολογικό επίτευγμα της Modal είναι οι γρήγορες κρύες εκκινήσεις: κατασκεύασε μια προσαρμοσμένη στοίβα κοντέινερ και ένα σύστημα αρχείων με αργή φόρτωση, ώστε τα κοντέινερ να μπορούν να περιστρέφονται σε δευτερόλεπτα και όχι σε λεπτά, ακόμη και με μεγάλα βάρη μοντέλων. Οι προγραμματιστές περιγράφουν εικόνες και απαιτήσεις GPU σε κώδικα. Το Modal λαμβάνει στιγμιότυπα και αποθηκεύει στην κρυφή μνήμη και, στη συνέχεια, κλιμακώνει αυτόματα τα αντίγραφα του κοντέινερ ώστε να ταιριάζει με το εισερχόμενο φορτίο και κλιμακώνει στο μηδέν όταν είναι αδρανές, ώστε να πληρώνετε μόνο για υπολογισμούς που πραγματικά χρησιμοποιήθηκαν.
Στρατηγικός αντίκτυπος
Στρατηγική προμηθευτή
Οι χάρτες πορείας προμηθευτών επηρεάζουν τα χαρακτηριστικά που μπορεί να δημιουργήσει η ομάδα σας στη συνέχεια.
Κόστος και προϋπολογισμός
Οι εμπορικοί όροι και οι επιλογές ανάπτυξης επηρεάζουν το μακροπρόθεσμο κόστος και τον κίνδυνο.
Κίνδυνος και ασφάλεια
Τα κίνητρα της εταιρείας διαμορφώνουν τις προεπιλογές προϊόντων, τη στάση ασφαλείας και τη διαφάνεια.
Το μέλλον των Modal Labs
Καθώς η τεχνητή νοημοσύνη μετατοπίζεται από τον πειραματισμό στην παραγωγή, η ζήτηση για ανάπτυξη χωρίς τριβές αυξάνεται. Αναμένετε ότι η Modal θα εμβαθύνει την υποστήριξη για κατανεμημένη εκπαίδευση, πρακτικούς και μακροχρόνιους φόρτους εργασίας, εκτέλεση κώδικα σε περιβάλλον δοκιμών για πράκτορες τεχνητής νοημοσύνης και πιο πλούσια παρατηρησιμότητα. Το στοίχημά της είναι ότι η νικητήρια πλατφόρμα ML βελτιστοποιεί την ταχύτητα των προγραμματιστών, επιτρέποντας σε μικρές ομάδες να αποστέλλουν υπηρεσίες που υποστηρίζονται από GPU χωρίς ειδική ομάδα υποδομής.
Υλοποίηση σε πραγματικό κόσμο
Ένας προγραμματιστής τυλίγει μια λειτουργία δημιουργίας εικόνας με ένα Modal decorator και λαμβάνει αμέσως ένα τελικό σημείο ιστού που υποστηρίζεται από GPU αυτόματης κλίμακας.
Μια ομάδα δεδομένων εκτελεί μια νυχτερινή δέσμη εργασιών σε χιλιάδες αρχεία χρησιμοποιώντας τον προγραμματισμό cron και τον παραλληλισμό fan-out του Modal.
Μια εκκίνηση τεχνητής νοημοσύνης συντονίζει με ακρίβεια ένα ανοιχτό μοντέλο σε Modal GPU, πληρώνοντας ανά δευτερόλεπτο και κλιμακώνοντας στο μηδέν όταν τελειώσει η εργασία.
Μια πλατφόρμα πράκτορα χρησιμοποιεί Modal sandboxes για την ασφαλή εκτέλεση αναξιόπιστου κώδικα που δημιουργείται από AI σε απομονωμένα κοντέινερ.
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Οι ανακοινώσεις κυκλοφορίας ενδέχεται να ξεπεράσουν τη σταθερότητα στις πραγματικές ροές εργασιών παραγωγής.
Η τιμολόγηση API ή οι αλλαγές πολιτικής μπορούν να σπάσουν τις υποθέσεις από τη μια μέρα στην άλλη.
Η εξάρτηση από έναν προμηθευτή αυξάνει το κόστος κλειδώματος και μετεγκατάστασης.
Οδικός Χάρτης Εφαρμογής
Αξιολογήστε τους παρόχους χρησιμοποιώντας τις δικές σας εργασίες και σύνολα δεδομένων.
Ελέγξτε το απόρρητο, την ασφάλεια και τους νομικούς όρους πριν από την ενσωμάτωση.
Διατηρήστε ένα εναλλακτικό σχέδιο σε μοντέλα ή προμηθευτές.
Παρακολουθήστε τις σημειώσεις έκδοσης, ώστε οι αλλαγές στον οδικό χάρτη να μην εκπλήσσουν τις ομάδες.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Modal Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Ανακάλυψη φαρμάκων Isomorphic Labs
Συχνές ερωτήσεις
What is Modal Labs?
Το Modal είναι μια πλατφόρμα cloud χωρίς διακομιστή που επιτρέπει στους προγραμματιστές να εκτελούν κώδικα Python, συμπεριλαμβανομένων των φόρτων εργασίας GPU, στο cloud προσθέτοντας ένα διακοσμητή σε μια συνάρτηση. Έχει σημασία γιατί αφαιρεί τον πόνο των κοντέινερ, της υποδομής και της κλιμάκωσης, ώστε οι ομάδες τεχνητής νοημοσύνης και δεδομένων να μπορούν να αναπτύξουν μοντέλα και ομαδικές εργασίες μέσα σε λίγα λεπτά.
Πώς εκτελούν συνήθως οι προγραμματιστές κώδικα στο Modal;
Το Modal σάς επιτρέπει να ορίζετε και να εκτελείτε συναρτήσεις cloud, συμπεριλαμβανομένων των GPU, διακοσμώντας συνηθισμένες συναρτήσεις Python.
Ποιο γνωστό πρόβλημα χωρίς διακομιστή είναι ειδικά σχεδιασμένο να λύσει το Modal;
Η Modal δημιούργησε ένα προσαρμοσμένο σύστημα αρχείων χρόνου εκτέλεσης κοντέινερ και τεμπέλης φόρτωσης για να επιτύχει κρύες εκκινήσεις δευτερολέπτων, ένα κλασικό σημείο πόνου χωρίς διακομιστή.
Πώς υπολογίζει το Modal για λογαριασμό;
Τροπικές χρεώσεις ανά δευτερόλεπτο για τον υπολογισμό που καταναλώθηκε πραγματικά και μπορούν να μηδενίσουν τα κοντέινερ όταν είναι σε αδράνεια.
Ποιος συνίδρυσε το Modal και είναι γνωστός για παλαιότερα εργαλεία ανοιχτού κώδικα όπως ο Luigi και ο Annoy;
Η Modal ιδρύθηκε από τον Erik Bernhardsson, παλαιότερα γνωστό για την κατασκευή του Spotify's Annoy και του εργαλείου ροής εργασίας Luigi.
Τι σημαίνει «κλίμακα στο μηδέν» στο Modal;
Όταν δεν υπάρχουν αιτήματα, το Modal μειώνεται σε μηδενικά τρέχοντα κοντέινερ, επομένως δεν επιβαρύνεστε με υπολογιστικό κόστος μέχρι να επιστρέψει η κυκλοφορία.