inteligência artificia é desafiada por novas ameaças à segurança. O fenômeno do desvio de prompt MCP é uma vulnerabilidade preocupante que ameaça a integridade dos sistemas. Proteger dados e conexões torna-se essencial. A interconexão de ferramentas de IA expõe as empresas a riscos sem precedentes, exigindo vigilância aumentada. Protocolos como MCP revelam falhas exploráveis. Líderes tecnológicos devem reavaliar suas estratégias para combater essa ameaça emergente.
Desvio de Prompt MCP e Suas Implicações
Especialistas em segurança da JFrog recentemente destacaram uma ameaça significativa conhecida como desvio de prompt. Essa vulnerabilidade explora fraquezas de comunicação entre sistemas de inteligência artificial utilizando o Modelo Context Protocol (MCP). Enquanto as empresas desejam integrar seus dados e ferramentas para otimizar a eficiência da IA, muitas vezes ignoram os novos riscos de segurança associados a essas conexões.
Riscos de Segurança Associados ao MCP
Modelos de IA, sejam hospedados em plataformas como Google e Amazon ou executados em dispositivos locais, enfrentam um problema fundamental. Esses sistemas não têm conhecimento de eventos em tempo real. Sua compreensão limita-se aos dados nos quais foram treinados. O MCP, desenvolvido pela Anthropic, foi projetado para remediar essa lacuna, permitindo que a IA acesse dados locais e serviços online de maneira segura.
No entanto, a pesquisa da JFrog revela que um certo uso do MCP apresenta uma vulnerabilidade de desvio de prompt, transformando essa ferramenta de IA em um verdadeiro pesadelo em termos de segurança. Por exemplo, um programador solicitando a uma assistência de IA que recomende uma biblioteca Python para processamento de imagens pode acabar sendo sugerido uma ferramenta fraudulenta devido a uma falha no sistema oatpp-mcp. Isso representa uma ameaça séria à cadeia de suprimentos de software.
Funcionamento do Desvio de Prompt
Esse tipo de ataque altera a comunicação do sistema usando o MCP em vez de afetar a própria inteligência artificial. A vulnerabilidade estaria na configuração do sistema Oat++ em C++, que conecta vários programas ao padrão MCP. O problema reside na gestão das conexões através de eventos enviados pelo servidor (SSE).
Quando um usuário real se conecta, o servidor atribui um identificador de sessão. O método falho utiliza o endereço de memória do dispositivo como identificador, contradizendo a especificidade dos identificadores destinados a ser únicos e seguros criptograficamente. Esse design defeituoso explora a reutilização frequente dos endereços de memória pelos computadores.
Exploração da Vulnerabilidade
Um atacante poderia, nesse caso, criar e fechar um grande número de sessões para registrar identificadores de sessão previsíveis. Uma vez que um identificador válido é obtido, o atacante poderia enviar requisições maliciosas ao servidor. O servidor, não conseguindo diferenciar o usuário legítimo do atacante, retorna respostas prejudiciais ao verdadeiro usuário conectado. Programas, embora aceitem apenas certas respostas, podem ser manipulados por múltiplas mensagens até que uma resposta seja validada.
Medidas de Segurança Requeridas
Essa descoberta é um alerta para líderes tecnológicos, especialmente CISOs e CTOs, construindo ou utilizando assistentes de IA. Com a crescente adoção de IAs no fluxo de trabalho, os novos riscos associados a protocolos como MCP requerem atenção contínua. Manter a segurança do ambiente operacional da IA torna-se uma prioridade máxima.
Para combater os desvios de prompt, a adoção de medidas rigorosas é indispensável. Todos os serviços de IA devem utilizar uma gestão de sessão segura. As equipes de desenvolvimento devem garantir que os servidores gerem identificadores de sessão a partir de geradores aleatórios robustos, minimizando assim os riscos de identificadores previsíveis.
Fortalecimento da Defesa do Cliente
Os programas clientes devem ser projetados para rejeitar qualquer evento que não esteja conforme os identificadores e tipos esperados. Identificadores de eventos simples e incrementais apresentam um risco de ataques do tipo spraying, tornando necessário recorrer a identificadores imprevisíveis. Além disso, a implementação dos princípios de zero-trust nos protocolos de IA é essencial para assegurar todo o sistema.
Para mais informações sobre a prevenção de riscos associados à IA gerativa, consulte este artigo sobre Qualys. Preocupações adicionais também surgem, como o incidente listado sobre as alterações não autorizadas do chatbot de Musk, abordadas aqui: DiA.
Perguntas Frequentes sobre Desvio de Prompt MCP
O que é o desvio de prompt MCP?
O desvio de prompt MCP é uma vulnerabilidade que explora falhas no protocolo de comunicação Model Context Protocol (MCP) utilizado por sistemas de IA, permitindo que um atacante manipule requisições e injetar informações falsas.
Por que o protocolo MCP é considerado vulnerável?
A vulnerabilidade reside na forma como as sessões são gerenciadas. Ao usar identificadores de sessão previsíveis baseados em endereços de memória, um atacante pode criar sessões maliciosas e enganar o sistema fazendo-o acreditar que se trata de um usuário legítimo.
Que tipo de ataques podem ser realizados via desvio de prompt MCP?
Os ataques podem incluir injeção de código malicioso, roubo de dados sensíveis e execução de comandos não autorizados, representando um risco significativo para a cadeia de suprimentos de software.
Quem está mais em risco de ser afetado por ataques de desvio de prompt MCP?
Todas as empresas que utilizam sistemas de IA que integram o protocolo MCP, especialmente aquelas que dependem de aplicativos baseados em Oat++ e outras tecnologias similares, estão particularmente vulneráveis.
Como as empresas podem se proteger contra o desvio de prompt MCP?
As empresas devem implementar uma gestão de sessões segura, reforçar as defesas dos programas clientes e aplicar princípios de segurança tipo “zero-trust” para garantir que os protocolos de IA estejam corretamente protegidos.
Quais são as melhores práticas para gestão de sessões em sistemas de IA?
É essencial que os servidores gerem identificadores de sessão usando geradores aleatórios seguros e que os programas clientes rejeitem qualquer resposta que não corresponda aos identificadores esperados e tipos de eventos.
Como identificar um ataque de desvio de prompt MCP em andamento?
Os sinais de um ataque podem incluir sugestões de IA inadequadas, comportamentos inesperados das aplicações ou requisições que parecem vir de usuários legítimos mas geram resultados incorretos ou maliciosos.
Atualizações de segurança regulares podem ajudar a mitigar esse risco?
Sim, manter o software atualizado com os últimos patches de segurança é crucial para proteger contra vulnerabilidades conhecidas, incluindo aquelas relacionadas ao protocolo MCP.
O que é o CVE-2025-6515 em relação ao desvio de prompt MCP?
O CVE-2025-6515 é uma falha identificada no sistema oatpp-mcp, que expõe os usuários a ataques de desvio de prompt permitindo que um atacante acesse identificadores de sessão previsíveis.
Por que é importante para os líderes em segurança de dados se preocuparem com o desvio de prompt MCP?
Com o aumento da integração de IA nos fluxos de trabalho, esses líderes devem entender os novos riscos associados ao uso de protocolos como o MCP para proteger efetivamente os dados e sistemas.
