A continuaciónSiguiente guía
Poda modelo
Técnico
GUÍA Técnica
Formatos de serialización de modelos
La serialización de modelos es la forma en que un modelo de aprendizaje automático entrenado se guarda en el disco para poder cargarlo y ejecutarlo más tarde, en una máquina diferente o en un idioma diferente.
Escuche esta guíaNarrado por IA · ~2 min
En esta pagina2 minutos de lectura
Descripción general
The format you choose affects portability, speed, file size, and even security.
Buceo profundo
After training, a model is just numbers (weights) plus a description of its architecture. Serialization writes that state into a file. Different ecosystems use different formats. Python pickle can execute arbitrary code when loading untrusted data. Many PyTorch checkpoints use pickle-based serialization, but torch.load security behavior is version-sensitive: PyTorch 2.6 and later default to weights_only=True when no pickle module is specified. Check the installed documentation and avoid disabling this protection for untrusted files. ONNX (Open Neural Network Exchange) is a framework-neutral format that lets a model trained in PyTorch run in another runtime or language. TensorFlow SavedModel is a directory format used for serving. Keras 3 saves to the native .keras format by default; its model.export API can produce a SavedModel for TensorFlow serving. Check the version-specific API. For large language models, safetensors has become popular because it stores only tensor data in a simple, fast, memory-mappable layout with no code execution, making it both safer and quicker to load. GGUF is widely used for running quantized LLMs efficiently on local hardware.
Implementación en el mundo real
Un equipo entrena un modelo en PyTorch, lo exporta a ONNX y lo ejecuta dentro de una aplicación C# sin dependencia de Python.
Hugging Face distribuye pesos de modelos como tensores de seguridad para que los usuarios puedan descargarlos sin riesgo de ejecución de código malicioso.
Un desarrollador descarga un archivo GGUF de un LLM cuantificado para ejecutarlo localmente en la CPU de una computadora portátil.
Un servicio TensorFlow carga un directorio SavedModel que contiene el gráfico y las variables para ofrecer predicciones a través de una API.
El futuro de los formatos de serialización de modelos
Espere una consolidación continua en torno a formatos portátiles y seguros. Safetensors se está convirtiendo en el estándar para compartir públicamente los pesos de los modelos porque elimina el riesgo de ejecución de código de pickle, y GGUF es el estándar de facto para la inferencia LLM local con cuantificación. ONNX sigue expandiéndose como puente entre los marcos de capacitación y los tiempos de ejecución de implementación optimizados en dispositivos de borde, navegadores y aceleradores. En general, la tendencia favorece los formatos que son neutrales en cuanto al lenguaje, eficientes en memoria y seguros por diseño.
Poniéndolo en práctica
Por qué es importante
- Costo y presupuesto. Las decisiones de arquitectura impulsan el rendimiento y los costos operativos durante años.
- Decisiones más claras. La educación técnica ayuda a los equipos a elegir la pila adecuada, no sólo la más nueva.
- control de calidad. Mejores opciones de ingeniería reducen los incidentes de confiabilidad en la producción.
cuidado con
- La optimización de un punto de referencia puede ocultar debilidades más amplias del sistema.
- Los costos de infraestructura y mantenimiento a menudo se subestiman.
- Las brechas de seguridad y observabilidad pueden crecer a medida que los sistemas se vuelven más complejos.
Próximos pasos
- Defina objetivos de latencia, calidad y costos antes de la implementación.
- Comparación en condiciones realistas de carga y datos.
- Monitoreo de instrumentos para detectar errores, deriva e impacto para el usuario.
- Prepare rutas de reversión y respuesta a incidentes antes de escalar.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the Model Serialization Formats quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
What is Model Serialization Formats?
La serialización de modelos es la forma en que un modelo de aprendizaje automático entrenado se guarda en el disco para poder cargarlo y ejecutarlo más tarde, en una máquina diferente o en un idioma diferente. El formato que elija afecta la portabilidad, la velocidad, el tamaño del archivo e incluso la seguridad.
¿Por qué el formato pickle de Python se considera un riesgo de seguridad para los modelos?
Al deseleccionarlo se puede ejecutar código arbitrario, por lo que cargar un archivo pickle que no es de confianza puede comprometer su sistema.
¿Cuál es la principal ventaja del formato ONNX?
ONNX es un formato de intercambio neutral en el marco de trabajo, que permite la portabilidad entre tiempos de ejecución, idiomas y hardware.
¿Por qué los tensores de seguridad se han vuelto populares para compartir pesas de modelos?
Safetensors evita el riesgo de ejecución de código de pickle y se carga rápidamente a través del mapeo de memoria, lo que lo hace seguro y eficiente.
¿GGUF está más asociado con qué caso de uso?
GGUF es el formato de facto para distribuir y ejecutar LLM cuantificados de forma local y eficiente.
¿Qué almacena principalmente un formato de intercambio como ONNX?
ONNX captura el gráfico de cálculo y los parámetros del modelo en un esquema estándar para que cualquier tiempo de ejecución compatible pueda ejecutarlo.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.