A continuaciónSiguiente guía
Tabla de clasificación de llamadas a funciones de Berkeley
Técnico
GUÍA Técnica
Llamada a funciones paralelas
La llamada a función paralela ocurre cuando un modelo de lenguaje solicita varias llamadas a herramientas en una sola respuesta, para que la aplicación pueda ejecutarlas al mismo tiempo y devolver todos los resultados juntos.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina3 minutos de lectura
Descripción general
Es importante porque reduce los viajes de ida y vuelta y la latencia para búsquedas independientes, pero sólo es seguro cuando las llamadas no dependen unas de otras y cuando la aplicación maneja correctamente los pedidos, los efectos secundarios y los fallos parciales.
Buceo profundo
En el uso básico de herramientas, un modelo solicita una herramienta, la aplicación la ejecuta, devuelve el resultado y el modelo continúa. Cada paso cuesta un viaje de ida y vuelta del modelo completo. Con la llamada a funciones paralelas, el modelo puede emitir múltiples solicitudes de llamada a herramientas en una respuesta, cada una con su propio identificador, nombre y argumentos. La aplicación los ejecuta, a menudo simultáneamente, y devuelve un resultado por llamada, cada uno vinculado a su identificador para que el modelo sepa qué resultado pertenece a qué solicitud. OpenAI agregó llamadas a funciones paralelas a su API a fines de 2023, y otros proveedores importantes admiten múltiples llamadas a herramientas a la vez. Algunas API exponen una configuración para desactivar este comportamiento cuando una aplicación necesita estrictamente una llamada a la vez. Las llamadas paralelas son seguras cuando son independientes: lecturas que no se afectan entre sí, como buscar varios registros o ejecutar varias búsquedas. Son riesgosos cuando una llamada necesita la salida de otra, o cuando las llamadas tienen efectos secundarios que interactúan, como dos escrituras en el mismo registro o un cargo seguido de un reembolso. El orden en el que el modelo enumera las llamadas no es un orden de ejecución garantizado y la aplicación puede finalizarlas en cualquier orden. Un error común es pensar que el modelo ejecuta las herramientas en paralelo. No es así; sólo los solicita. La simultaneidad, los tiempos de espera y los reintentos son responsabilidad de la aplicación. Otro concepto erróneo es que si falla una llamada, falla todo el lote. Una aplicación bien construida devuelve cada resultado individualmente, incluidos los errores, para que el modelo pueda continuar con lo que tuvo éxito. Para los pasos dependientes, el modelo debe llamar a la primera herramienta, esperar su resultado y luego llamar a la siguiente. Las buenas descripciones de las herramientas y las instrucciones del sistema pueden ayudar a determinar cuándo realizar lotes y cuándo secuenciar.
Implementación en el mundo real
A un asistente de viaje al que se le preguntó sobre el tiempo en París, Roma y Madrid, emite tres búsquedas del tiempo en un turno y la aplicación las ejecuta simultáneamente.
Un agente del panel de ventas recupera los pedidos de un cliente, abre tickets de soporte y notas de cuenta en un lote paralelo antes de escribir un resumen.
Un agente al que se le solicita crear una carpeta y luego escribir un archivo en ella no debe realizar ambas llamadas en paralelo, porque la escritura depende de la carpeta existente.
Un agente de investigación envía cinco búsquedas en paralelo; dos tiempos de espera y la aplicación devuelve tres resultados más dos mensajes de error claros para que el modelo pueda volver a intentar solo los que fallaron.
El futuro de las llamadas a funciones paralelas
A medida que los agentes asumen tareas más grandes, el uso de herramientas paralelas se está convirtiendo en una forma rutinaria de reducir la latencia y se están entrenando modelos para reconocer qué llamadas son independientes. Los arneses también están agregando características como programación consciente de la dependencia y bloqueo de recursos para que las solicitudes por lotes se puedan ejecutar de forma segura. Es probable que el juicio del modelo sobre las dependencias mejore, pero la aplicación seguirá siendo responsable de hacer cumplir la seguridad en los efectos secundarios, tiempos de espera y reintentos, ya que dependen de sistemas reales que el modelo no puede ver.
Poniéndolo en práctica
Por qué es importante
- Costo y presupuesto. Las decisiones de arquitectura impulsan el rendimiento y los costos operativos durante años.
- Decisiones más claras. La educación técnica ayuda a los equipos a elegir la pila adecuada, no sólo la más nueva.
- control de calidad. Mejores opciones de ingeniería reducen los incidentes de confiabilidad en la producción.
cuidado con
- La optimización de un punto de referencia puede ocultar debilidades más amplias del sistema.
- Los costos de infraestructura y mantenimiento a menudo se subestiman.
- Las brechas de seguridad y observabilidad pueden crecer a medida que los sistemas se vuelven más complejos.
Próximos pasos
- Defina objetivos de latencia, calidad y costos antes de la implementación.
- Comparación en condiciones realistas de carga y datos.
- Monitoreo de instrumentos para detectar errores, deriva e impacto para el usuario.
- Prepare rutas de reversión y respuesta a incidentes antes de escalar.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the Parallel Function Calling quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué son las llamadas a funciones paralelas?
La llamada a función paralela ocurre cuando un modelo de lenguaje solicita varias llamadas a herramientas en una sola respuesta, para que la aplicación pueda ejecutarlas al mismo tiempo y devolver todos los resultados juntos. Es importante porque reduce los viajes de ida y vuelta y la latencia para búsquedas independientes, pero sólo es seguro cuando las llamadas no dependen unas de otras y cuando la aplicación maneja correctamente los pedidos, los efectos secundarios y los fallos parciales.
En una llamada a función paralela, ¿qué devuelve el modelo en una respuesta?
El modelo emite múltiples solicitudes de llamada de herramientas en un solo turno, que la aplicación puede ejecutar juntas.
¿Quién ejecuta realmente las herramientas al mismo tiempo?
El modelo sólo solicita llamadas; la simultaneidad, los tiempos de espera y los reintentos son trabajo de la aplicación.
¿Qué par de llamadas NO se deben emitir en paralelo?
La escritura del archivo depende de la carpeta existente, por lo que las llamadas deben ejecutarse en secuencia.
¿Cómo se deben hacer coincidir los resultados con las llamadas a sus herramientas?
Las llamadas simultáneas finalizan en un orden impredecible, por lo que el identificador es el vínculo confiable.
Dos de cinco búsquedas paralelas se agotan. ¿Cuál es la mejor respuesta?
Devolver cada resultado individualmente, incluidos los errores, permite que el modelo continúe y vuelva a intentarlo de forma selectiva.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.