A continuaciónSiguiente guía
Seguridad de la cadena de suministro de ML y firma de modelos
Técnico
GUÍA Técnica
La seguridad de MCP cubre los riesgos que surgen al conectar agentes de IA a servidores de Model Context Protocol.
Escuche esta guíaNarrado por IA · ~3 min
El riesgo más conocido es el envenenamiento de herramientas, donde la descripción de una herramienta oculta instrucciones que el modelo sigue pero que el usuario nunca ve. Debido a que los servidores MCP pueden leer archivos, enviar mensajes y actuar con credenciales reales, un servidor malicioso o descuidado puede convertir un asistente útil en una forma de robar datos o causar daños.
The Model Context Protocol, which Anthropic introduced in late 2024, standardizes how AI applications connect to external tools and data. A client such as a desktop assistant or IDE connects to servers, and each server advertises tools with names, descriptions and input schemas. The model reads those descriptions as part of its context, and that is where the main risk comes from. Tool poisoning puts malicious instructions inside a tool's description or metadata. The model treats the description as trusted guidance, but many interfaces show users only a short name, so the hidden text goes unseen. A poisoned tool can also steer how the model uses other, legitimate tools. This is sometimes called tool shadowing. A rug pull happens when a server that was approved as safe later changes its tool definitions. Most approvals happen once, so the change can go unnoticed. Over-broad permissions increase the damage from any attack. A server holding a token with full account access, or a filesystem server rooted at the home directory, gives an attacker far more than the task needed. A confused deputy is a trusted component tricked into using its authority for someone else. In MCP setups, a common version is indirect prompt injection: untrusted content such as a web page, email or issue comment gets pulled into context and tells the agent to misuse another server's access. The model cannot reliably tell data from instructions. It is a mistake to think that installing only reputable servers solves the problem. Injection can arrive through ordinary data returned by trustworthy tools. Defenses need layers: vet and pin servers, show full descriptions and alert when they change, grant least privilege, isolate servers from one another, require confirmation for sensitive actions, and log everything.
Un servidor MCP 'meteorológico' incluye una línea oculta en la descripción de su herramienta que le indica al modelo que lea la clave SSH del usuario y la pase como parámetro adicional. La interfaz de chat muestra sólo el nombre de la herramienta, por lo que el usuario nunca se da cuenta.
Un servidor comunitario popular se comporta bien durante semanas y luego envía una actualización que cambia la descripción de una herramienta para filtrar el contenido de la conversación. Los clientes que no anclan versiones ni verifican definiciones modificadas recogen el cambio en silencio.
Un agente con un servidor GitHub y un servidor de correo electrónico lee un problema público que contiene instrucciones inyectadas y luego utiliza su acceso al repositorio privado para enviar secretos por correo electrónico. Este es un ataque de diputado confuso que utiliza los permisos legítimos del usuario.
Una empresa ejecuta sus servidores MCP internos con tokens de solo lectura destinados a proyectos individuales, requiere aprobación humana para cualquier herramienta que envíe datos al exterior y registra cada llamada de herramienta para su revisión.
La especificación MCP y su ecosistema han ido agregando características de seguridad a lo largo del tiempo, incluido un modelo de autorización basado en OAuth y orientación sobre el consentimiento del usuario para llamadas a herramientas. Están apareciendo registros, firmas y herramientas de escaneo para ayudar a las personas a juzgar de dónde proviene un servidor. La inyección rápida en sí misma sigue siendo un problema de investigación sin resolver, por lo que ninguna solución única hace que las descripciones o los resultados de las herramientas sean completamente seguros. La arquitectura es la defensa más confiable por ahora: privilegios mínimos, aislamiento, puntos de control humanos para acciones de alto impacto y monitoreo. Las organizaciones que adoptan MCP deben gestionar los servidores de la misma manera que gestionan las dependencias de software de terceros.
Boletín gratuito
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
La seguridad de MCP cubre los riesgos que surgen al conectar agentes de IA a servidores de Model Context Protocol. El riesgo más conocido es el envenenamiento de herramientas, donde la descripción de una herramienta oculta instrucciones que el modelo sigue pero que el usuario nunca ve. Debido a que los servidores MCP pueden leer archivos, enviar mensajes y actuar con credenciales reales, un servidor malicioso o descuidado puede convertir un asistente útil en una forma de robar datos o causar daños.
El modelo lee las descripciones de las herramientas como una guía confiable. Las instrucciones ocultas en ellos pueden controlar su comportamiento sin que el usuario lo vea.
El modelo ve el texto completo, mientras que el usuario puede ver solo una etiqueta. Esa brecha es lo que hace que las instrucciones ocultas funcionen.
La aprobación suele ocurrir una vez. Un servidor que luego cambia sus definiciones puede pasar el comportamiento malicioso más allá de esa verificación única.
Se engaña a un componente confiable, en este caso el agente con los permisos del usuario, para que utilice su autoridad ante un atacante.
Las páginas web, los correos electrónicos y los problemas obtenidos con herramientas honestas pueden contener instrucciones inyectadas, por lo que la confianza en el servidor no cubre el contenido que devuelve.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Seguridad de la cadena de suministro de ML y firma de modelos
Técnico