Segurança em LLM e IA Generativa
Aprenda a atacar e defender aplicações com IA — do prompt injection aos agentes — com aulas curtas em vídeo, um laboratório real e o mapa OWASP Top 10 para LLM. Feito pelo time de pentest da Pentest Machine.
▶ Trecho da Aula 1 · Por que a IA é a nova superfície de ataque
O que você vai aprender
- Por que em IA linguagem natural vira código — e onde os ataques entram
- Prompt injection direta e indireta, com um laboratório real
- Vazamento de system prompt, dados sensíveis e RAG entre tenants
- Como a saída de um LLM vira XSS, SSRF ou SQLi a jusante
- Abuso de ferramentas, agentes, function calling e MCP
- Denial of wallet e consumo ilimitado
- Defesa em camadas para aplicações com LLM
- Metodologia de pentest de IA e checklist de lançamento
Conteúdo do curso
Módulo 1 · Fundamentos3 aulas · 1 disponível
- 01Por que a IA é a nova superfície de ataqueO que mudou em relação ao software tradicional, onde os ataques entram numa aplicação com LLM, casos reais e o mapa OWASP Top 10 para LLM.7:06
- 02Como um LLM funciona — do ponto de vista de quem atacaTokens, janela de contexto, system prompt, RAG e ferramentas: onde cada peça abre uma brecha.em breve
- 03O mapa: OWASP Top 10 para LLM na práticaOs 10 riscos com exemplos de ataque e o impacto de negócio de cada um.em breve
Módulo 2 · Prompt Injection3 aulas
- 04Injeção direta: jailbreaks e bypass de guardrailsRole-play, ofuscação, multi-turno e por que filtros de palavras não bastam.em breve
- 05Injeção indireta: quando dados viram instruçõesDocumentos, e-mails e páginas web como vetor de ataque.em breve
- 06Laboratório: hackeando o avaliador de currículosCinco técnicas de injeção contra um grader real — e a versão defendida.em breve
Módulo 3 · Vazamento de dados e saída insegura3 aulas
- 07System prompt leakage e informações sensíveisExtração de instruções, segredos e dados de outros usuários.em breve
- 08RAG: vazamento entre tenants e envenenamentoPermissões na busca vetorial e documentos maliciosos.em breve
- 09Improper output handling: XSS, SSRF e SQLi a jusanteQuando a resposta do modelo vira payload.em breve
Módulo 4 · Agentes, ferramentas e custo2 aulas
- 10Excessive agency: tools, function calling e MCPConfused deputy, permissões excessivas e ações sem confirmação.em breve
- 11Denial of wallet e consumo ilimitadoAbuso de custo, loops de agente e limites que faltam.em breve
Módulo 5 · Defesa e pentest de IA3 aulas
- 12Defesa em camadas para aplicações com LLMArquitetura: isolamento, validação, menor privilégio e monitoramento.em breve
- 13Metodologia de pentest de IAEscopo, modelagem de ameaças, exploração, relatório e reteste.em breve
- 14Checklist de lançamento e próximos passosO que validar antes de colocar uma feature de IA em produção.em breve
Formato e instrutor
Apresentador virtual · conteúdo do time de pentest
As aulas são apresentadas por um avatar criado com IA — o que combina com o tema. Todo o conteúdo é escrito e revisado pelo time de pentest da Pentest Machine, que testa aplicações de IA como um atacante real testaria. Cada aula tem vídeo, legendas, transcrição, materiais e quiz.
Certificado de conclusão
Assista às aulas, responda aos quizzes e seja aprovado na avaliação final (70%). O certificado sai com o seu nome, código único e QR de verificação pública — pronto para o LinkedIn.
Perguntas frequentes
É realmente gratuito?
Sim. O curso e o certificado são gratuitos. Pedimos seu nome, e-mail, empresa e cargo para criar seu acesso e emitir o certificado.
Preciso saber programar?
Não para acompanhar. Familiaridade com aplicações web e com o que é um LLM ajuda — explicamos o resto do ponto de vista de quem ataca.
Como acesso de outro dispositivo?
Enviamos um link de acesso para o seu e-mail. Use “Já sou aluno” para receber um novo link a qualquer momento.
O certificado tem validade?
Ele traz código único e QR que levam a uma página pública de verificação em pentestmachine.com.
Vocês fazem pentest em aplicações de IA?
Sim — é o nosso dia a dia. Solicite uma proposta.