A seguirPróximo guia
Descoberta de drogas em laboratórios isomórficos
Empresas
GUIA DE EMPRESAS
Modal é uma plataforma de nuvem sem servidor que permite aos desenvolvedores executar código Python, incluindo cargas de trabalho de GPU, na nuvem, adicionando um decorador a uma função.
It matters because it removes the pain of containers, infrastructure, and scaling so AI and data teams can deploy models and batch jobs in minutes.
Fundado em 2021 por Erik Bernhardsson (criador da biblioteca Annoy do Spotify e Luigi) e Akshat Bubna, o Modal visa a lacuna de experiência do desenvolvedor na infraestrutura de ML. Você define seu ambiente, dependências e hardware diretamente em Python, e Modal cria contêineres, provisiona CPUs ou GPUs e executa seu código sob demanda, escalando para centenas de contêineres e voltando a zero. Seu recurso de destaque é um tempo de execução de contêiner personalizado e um sistema de arquivos projetado para inicializações a frio em menos de um segundo, um ponto problemático notório em sistemas sem servidor. Modal é popular para endpoints de inferência de modelo, ajuste fino, processamento em lote, trabalhos agendados (cron) e endpoints da web. A cobrança é por segundo para a computação real usada. Ele compete conceitualmente com AWS Lambda, SageMaker e Runpod, mas enfatiza um fluxo de trabalho Pythonic que prioriza o código.
Os roteiros dos fornecedores influenciam quais recursos sua equipe pode construir a seguir.
Os termos comerciais e as opções de implantação afetam os custos e riscos a longo prazo.
Os incentivos da empresa moldam os padrões de produto, a postura de segurança e a abertura.
À medida que a IA passa da experimentação para a produção, aumenta a procura por uma implementação sem atritos. Espere que o Modal aprofunde o suporte para treinamento distribuído, cargas de trabalho de agente e de longa duração, execução de código em sandbox para agentes de IA e observabilidade mais rica. Sua aposta é que a plataforma de ML vencedora otimize a velocidade do desenvolvedor, permitindo que pequenas equipes forneçam serviços apoiados por GPU sem uma equipe de infraestrutura dedicada.
Um desenvolvedor envolve uma função de geração de imagem com um decorador Modal e obtém instantaneamente um endpoint da web com escalonamento automático apoiado por GPU.
Uma equipe de dados executa um trabalho em lote noturno em milhares de arquivos usando o agendamento cron e o paralelismo de distribuição do Modal.
Uma startup de IA ajusta um modelo aberto em GPUs modais, pagando por segundo e escalando para zero quando o trabalho termina.
Uma plataforma de agente usa sandboxes modais para executar com segurança código não confiável gerado por IA em contêineres isolados.
Os anúncios de lançamento podem superar a estabilidade em fluxos de trabalho de produção reais.
Os preços das APIs ou as mudanças nas políticas podem quebrar suposições da noite para o dia.
A dependência de um único fornecedor aumenta os custos de aprisionamento e migração.
Avalie os provedores usando suas próprias tarefas e conjuntos de dados.
Revise os termos legais, de privacidade e segurança antes da integração.
Mantenha um plano alternativo entre modelos ou fornecedores.
Monitore as notas de lançamento para que as mudanças no roteiro não surpreendam as equipes.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Modal é uma plataforma de nuvem sem servidor que permite aos desenvolvedores executar código Python, incluindo cargas de trabalho de GPU, na nuvem, adicionando um decorador a uma função. É importante porque elimina o incômodo de contêineres, infraestrutura e escalonamento para que as equipes de IA e de dados possam implantar modelos e trabalhos em lote em minutos.
Modal permite definir e executar funções de nuvem, inclusive em GPUs, decorando funções Python comuns.
Modal construiu um tempo de execução de contêiner personalizado e um sistema de arquivos de carregamento lento para obter inicializações a frio em menos de um segundo, um clássico problema sem servidor.
Cobranças modais por segundo para a computação realmente consumida e podem dimensionar os contêineres para zero quando ociosos.
A Modal foi cofundada por Erik Bernhardsson, anteriormente conhecido por criar o Annoy do Spotify e a ferramenta de fluxo de trabalho Luigi.
Quando não há solicitações, o Modal reduz para zero contêineres em execução, de modo que você não incorre em nenhum custo de computação até que o tráfego retorne.
Continue aprendendo
Mais guias escolhidos para este tópico
A seguirPróximo guia
Descoberta de drogas em laboratórios isomórficos
Empresas