Logo do curso
Curso

OWASP IA Top 10 para LLMs:

protegendo aplicações e agentes inteligentes

Quero estudar na alura

5h

Para conclusão

208

Pessoas nesse curso

8.9

Avaliação média

Certificado

De participação

Introdução_

O que você aprenderá_

  • Explore as diferentes vulnerabilidades de grandes modelos de linguagem
  • Avalie riscos com base nos padrões do OWASP Top 10
  • Aplique estratégias de mitigação e testes adversariais
  • Utilize ferramentas automatizadas para reforço da segurança
  • Entenda o papel da supervisão humana no ciclo de vida dos LLMs

Público alvo_

Este curso é destinado a profissionais e entusiastas da área de segurança da informação que buscam compreender as vulnerabilidades presentes em grandes modelos de linguagem e dominar estratégias de mitigação de riscos.

Anna Medeiros

Anna Medeiros

linkedin

Sou Senior AI Engineer com 10 anos de experiência entre academia e mercado e doutorado em Ciência da Computação, com foco em Machine Learning, Visão Computacional, Robótica e Interação Humano-Computador. Atuo com IA Generativa, fine-tuning de LLMs, RAG, agentes de IA e engenharia de pipelines de dados, além de regressão, classificação e clustering. Tenho experiência em transformar soluções de IA em resultados de negócio e comunicar conceitos técnicos a diferentes públicos.

Curso atualizado em 13/03/2026

Ementa

  1. Fundamentos da OWASP e manipulação de entrada

    • Apresentação
    • LLM01: Prompt Injection
    • Garantindo a segurança de anúncios
    • LLM07: Vazamento de Prompt
    • Para saber mais: dun e injeção direta de prompt
    • Faça como eu fiz: mitigar vulnerabilidades
    • O que aprendemos?
  2. Integridade de dados e supply chain

    • LLM03: Vulnerabilidades na cadeia de suprimentos
    • LLM04: Envenenamento de dados e modelo
    • Protegendo dados contra envenenamento
    • Padrão de documentação CycloneDX
    • Para saber mais: Sleeper Agents
    • Faça como eu fiz: segurança de modelos
    • O que aprendemos?
  3. Riscos de saída, vetores e privacidade

    • LLM02: Divulgação de informações sensíveis
    • LLM05: Manipulação imprópria da saída
    • Mitigando riscos de phishing
    • LLM08: Vulnerabilidades em vetores e embeddings
    • LLM09: Desinformação
    • Prevenindo desinformação em transações financeiras
    • Para saber mais: codificação de saída segura
    • Faça como eu fiz: segurança LLM
    • O que aprendemos?
  4. Agentes autônomos e disponibilidade

    • LLM06: Autonomia excessiva
    • Controle de funcionalidades
    • LLM10: Consumo ilimitado
    • Para saber mais: funcionalidade excessiva
    • Faça como eu fiz: limitar funções LLM
    • O que aprendemos?
  5. Ferramentas e estratégias de teste

    • Testes de segurança em LLMs
    • Ferramentas práticas: pyRIT
    • Para saber mais: Red Teaming
    • Faça como eu fiz: segurança e ataques LLM
    • O que aprendemos?
    • Conclusão

Descubra se esse curso é pra você! Leia as primeiras aulas

Comece essa formação agora mesmo e capacite-se para seu próximo projeto!

Conheça os planos

Faça parte da nossa comunidade no discord!

Troque conhecimentos com a comunidade da Alura

Aprenda IA para segurança com esse e outros cursos, comece agora!

Conheça os Planos para Empresas