A continuaciónSiguiente guía
Descubrimiento de fármacos en laboratorios isomórficos
Empresas
GUÍA de empresas
Modal es una plataforma en la nube sin servidor que permite a los desarrolladores ejecutar código Python, incluidas cargas de trabajo de GPU, en la nube agregando un decorador a una función.
Es importante porque elimina los problemas de los contenedores, la infraestructura y el escalado para que los equipos de datos e inteligencia artificial puedan implementar modelos y trabajos por lotes en minutos.
Fundada en 2021 por Erik Bernhardsson (creador de la biblioteca Annoy de Spotify y Luigi) y Akshat Bubna, Modal apunta a la brecha entre la experiencia del desarrollador y la infraestructura de aprendizaje automático. Usted define su entorno, dependencias y hardware directamente en Python, y Modal crea contenedores, aprovisiona CPU o GPU y ejecuta su código bajo demanda, escalando a cientos de contenedores y volviendo a cero. Su característica destacada es un tiempo de ejecución de contenedor personalizado y un sistema de archivos diseñado para arranques en frío en menos de un segundo, un problema notorio en la tecnología sin servidor. Modal es popular para puntos finales de inferencia de modelos, ajuste fino, procesamiento por lotes, trabajos programados (cron) y puntos finales web. La facturación es por segundo para el cálculo real utilizado. Compite conceptualmente con AWS Lambda, SageMaker y Runpod, pero enfatiza un flujo de trabajo Pythonic que prioriza el código.
Las hojas de ruta de los proveedores influyen en las funciones que su equipo puede desarrollar a continuación.
Los términos comerciales y las opciones de implementación afectan los costos y riesgos a largo plazo.
Los incentivos de las empresas dan forma a los incumplimientos de los productos, la postura de seguridad y la apertura.
A medida que la IA pasa de la experimentación a la producción, crece la demanda de una implementación sin fricciones. Espere que Modal profundice el soporte para capacitación distribuida, cargas de trabajo agentes y de larga duración, ejecución de código en espacio aislado para agentes de IA y una observabilidad más rica. Su apuesta es que la plataforma ML ganadora optimice la velocidad del desarrollador, permitiendo a los equipos pequeños ofrecer servicios respaldados por GPU sin un equipo de infraestructura dedicado.
Un desarrollador envuelve una función de generación de imágenes con un decorador modal y obtiene instantáneamente un punto final web con escalamiento automático respaldado por GPU.
Un equipo de datos ejecuta un trabajo por lotes nocturno en miles de archivos utilizando la programación cron y el paralelismo de distribución de Modal.
Una startup de IA afina un modelo abierto en GPU modales, paga por segundo y escala a cero cuando finaliza el trabajo.
Una plataforma de agente utiliza entornos limitados modales para ejecutar de forma segura código generado por IA que no es de confianza en contenedores aislados.
Los anuncios de lanzamiento pueden superar la estabilidad en los flujos de trabajo de producción reales.
Los precios de API o los cambios de políticas pueden romper los supuestos de la noche a la mañana.
La dependencia de un único proveedor aumenta los costos de bloqueo y migración.
Evalúe proveedores utilizando sus propias tareas y conjuntos de datos.
Revise los términos legales, de seguridad y de privacidad antes de la integración.
Mantenga un plan alternativo entre modelos o proveedores.
Supervise las notas de la versión para que los cambios en la hoja de ruta no sorprendan a los equipos.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Modal es una plataforma en la nube sin servidor que permite a los desarrolladores ejecutar código Python, incluidas cargas de trabajo de GPU, en la nube agregando un decorador a una función. Es importante porque elimina los problemas de los contenedores, la infraestructura y el escalado para que los equipos de datos e inteligencia artificial puedan implementar modelos y trabajos por lotes en minutos.
Modal le permite definir y ejecutar funciones en la nube, incluso en GPU, decorando funciones ordinarias de Python.
Modal creó un tiempo de ejecución de contenedor personalizado y un sistema de archivos de carga diferida para lograr arranques en frío en menos de un segundo, un problema clásico sin servidor.
Los modales cobran por segundo por el proceso realmente consumido y pueden escalar los contenedores a cero cuando están inactivos.
Modal fue cofundado por Erik Bernhardsson, anteriormente conocido por crear la herramienta de flujo de trabajo Annoy y Luigi de Spotify.
Cuando no hay solicitudes, Modal se reduce a cero contenedores en ejecución, por lo que no incurre en costos de procesamiento hasta que regrese el tráfico.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Descubrimiento de fármacos en laboratorios isomórficos
Empresas