Testes de intrusão a sistemas de IA e LLM

Porque a IA precisa de um teste específico

Em sistemas com LLM, a linguagem natural torna-se entrada de controlo, e cada ferramenta ligada ao modelo é um caminho para dados e ações. Os scanners web não avaliam este comportamento. O teste de intrusão a IA responde a perguntas concretas: o sistema pode expor dados de outros clientes? Pode executar ações que o utilizador não poderia? Pode gerar custos descontrolados?

O que avaliamos

• Manipulação de instruções por utilizadores e por conteúdo externo que o sistema lê.
• Fuga de dados do contexto, da base de conhecimento (RAG) e entre utilizadores e tenants.
• Agentes e ferramentas: permissões, confirmação humana e limites das ações executadas pelo modelo.
• Saída do modelo usada em páginas, consultas ou integrações sem validação.
• Custo e disponibilidade: limites de utilização e consumo abusivo.
• Cadeia de abastecimento: modelos, plugins e dependências de terceiros.

Cobertura mapeada para o OWASP Top 10 para LLM, o MITRE ATLAS e o NIST AI RMF — útil também para demonstrar conformidade no contexto do AI Act europeu.

Para quem é

• Empresas com chatbot de apoio ao cliente ou vendas.
• SaaS que lançou copiloto ou pesquisa com IA sobre dados de clientes.
• Equipas que ligaram agentes a sistemas internos, e-mail, CRM ou pagamentos.

Riscos típicos em sistemas de IA

• Assistente que revela dados de outros clientes presentes na base de conhecimento.
• Agente que executa ações sensíveis (e-mail, reembolsos, exportação) sem confirmação.
• Conteúdo externo lido pelo sistema a alterar o seu comportamento.
• Resposta do modelo inserida em páginas ou consultas sem validação.
• Utilização sem limites que gera custos elevados de tokens.

Testes que servem para auditoria

O relatório inclui âmbito, período, metodologia, severidade justificada e evidência de reteste — o que auditores e clientes procuram na ISO 27001 (A.8.8 e A.8.29), no SOC 2 (CC4.1 e CC7.1), no PCI DSS 4.0 (requisito 11.4), no RGPD (art.º 32.º), na NIS2 e no DORA. Emitimos também uma declaração para enviar a clientes sem expor detalhes técnicos.

Porquê a Pentest Machine

• O fundador executa e garante a qualidade. Mais de 20 anos de experiência, carreira internacional em seis das maiores empresas do mundo e palestras na OWASP AppSec USA, na Black Hat e em várias BSides. Participa nos testes e revê cada relatório antes da entrega.
• Só especialistas séniores no ataque. Ferramentas próprias e IA aceleram o trabalho repetitivo; a decisão sobre o que explorar e como encadear é humana.
• Transparência comercial. Preço fechado em 24 h, NDA antes do âmbito, reteste incluído e faturação na UE, no Brasil ou nos EUA.
• Relatório para três públicos: administração, equipa de desenvolvimento e auditoria.

O que recebe

• Relatório com achados demonstrados, impacto de negócio e severidade.
• Recomendações de arquitetura: autorização antes do contexto, permissões mínimas, confirmação humana em ações sensíveis, limites de utilização.
• Reteste incluído.

Perguntas frequentes

Leia também

• Prompt injection indireta em RAG
• Agentes de IA e abuso de ferramentas
• E-book grátis: AI Security Pentest
• Testes de intrusão na NIS2 e no DORA

Outros serviços