Il prossimoProssima guida
Sicurezza della catena di fornitura ML e firma del modello
Tecnico
GUIDA TECNICA
La sicurezza MCP copre i rischi derivanti dal collegamento di agenti IA ai server del Model Context Protocol.
Ascolta questa guidaNarrato dall'IA · ~3 min
Il rischio più noto è l'avvelenamento degli strumenti (tool poisoning), in cui la descrizione di uno strumento nasconde istruzioni che il modello segue ma che l'utente non vede mai. Poiché i server MCP possono leggere file, inviare messaggi e agire con credenziali reali, un server dannoso o negligente può trasformare un assistente utile in un mezzo per rubare dati o causare danni.
The Model Context Protocol, which Anthropic introduced in late 2024, standardizes how AI applications connect to external tools and data. A client such as a desktop assistant or IDE connects to servers, and each server advertises tools with names, descriptions and input schemas. The model reads those descriptions as part of its context, and that is where the main risk comes from. Tool poisoning puts malicious instructions inside a tool's description or metadata. The model treats the description as trusted guidance, but many interfaces show users only a short name, so the hidden text goes unseen. A poisoned tool can also steer how the model uses other, legitimate tools. This is sometimes called tool shadowing. A rug pull happens when a server that was approved as safe later changes its tool definitions. Most approvals happen once, so the change can go unnoticed. Over-broad permissions increase the damage from any attack. A server holding a token with full account access, or a filesystem server rooted at the home directory, gives an attacker far more than the task needed. A confused deputy is a trusted component tricked into using its authority for someone else. In MCP setups, a common version is indirect prompt injection: untrusted content such as a web page, email or issue comment gets pulled into context and tells the agent to misuse another server's access. The model cannot reliably tell data from instructions. It is a mistake to think that installing only reputable servers solves the problem. Injection can arrive through ordinary data returned by trustworthy tools. Defenses need layers: vet and pin servers, show full descriptions and alert when they change, grant least privilege, isolate servers from one another, require confirmation for sensitive actions, and log everything.
Un server MCP del 'meteo' include una riga nascosta nella descrizione del suo strumento che dice al modello di leggere la chiave SSH dell'utente e passarla come parametro extra. L'interfaccia di chat mostra solo il nome dello strumento, quindi l'utente non se ne accorge mai.
Un popolare server della community si comporta bene per settimane e poi rilascia un aggiornamento che modifica la descrizione di uno strumento per farfugliare i contenuti della conversazione. I client che non bloccano le versioni o non controllano le definizioni modificate recepiscono il cambiamento silenziosamente.
Un agente con sia un server GitHub che un server di posta elettronica legge un problema pubblico che contiene istruzioni iniettate, quindi utilizza il suo accesso al repository privato per inviare segreti via email. Questo è un attacco da vice-furbo (confused-deputy) che utilizza i permessi legittimi dell'utente.
Un'azienda esegue i suoi server MCP interni con token di sola lettura limitati a singoli progetti, richiede l'approvazione umana per qualsiasi strumento che invia dati all'esterno e registra ogni chiamata di strumento per la revisione.
La specifica MCP e il suo ecosistema hanno aggiunto funzionalità di sicurezza nel tempo, tra cui un modello di autorizzazione basato su OAuth e linee guida sul consenso dell'utente per le chiamate agli strumenti. Registri, firme e strumenti di scansione stanno apparendo per aiutare le persone a valutare la provenienza di un server. L'iniezione di prompt in sé rimane un problema di ricerca irrisolto, quindi nessuna singola correzione rende le descrizioni o gli output degli strumenti completamente sicuri. L'architettura è la difesa più affidabile per ora: privilegio minimo, isolamento, punti di controllo umani per azioni ad alto impatto e monitoraggio. Le organizzazioni che adottano MCP dovrebbero aspettarsi di gestire i server nello stesso modo in cui gestiscono le dipendenze software di terze parti.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La sicurezza MCP copre i rischi derivanti dal collegamento di agenti IA ai server del Model Context Protocol. Il rischio più noto è l'avvelenamento degli strumenti, in cui la descrizione di uno strumento nasconde istruzioni che il modello segue ma che l'utente non vede mai. Poiché i server MCP possono leggere file, inviare messaggi e agire con credenziali reali, un server dannoso o negligente può trasformare un assistente utile in un mezzo per rubare dati o causare danni.
Il modello legge le descrizioni degli strumenti come linee guida affidabili. Le istruzioni nascoste al loro interno possono guidare il suo comportamento senza che l'utente lo veda.
Il modello vede il testo completo, mentre l'utente potrebbe vedere solo un'etichetta. Questo divario è ciò che fa funzionare le istruzioni nascoste.
L'approvazione avviene solitamente una sola volta. Un server che in seguito modifica le sue definizioni può far passare un comportamento dannoso oltre quel controllo una tantum.
Un componente fidato, in questo caso l'agente con i permessi dell'utente, viene indotto con l'inganno a usare la sua autorità per un attaccante.
Pagine Web, email e problemi recuperati da strumenti onesti possono trasportare istruzioni iniettate, quindi la fiducia nel server non copre il contenuto che restituisce.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Sicurezza della catena di fornitura ML e firma del modello
Tecnico