[Hiring] LLM Security Instructor @FIAP/Alura/PM3

Role Description

Buscamos um profissional na interseção entre Inteligência Artificial e Cibersegurança. Alguém que entende os riscos de agentes de IA em produção e, a partir desse entendimento, é capaz tanto de auditar e mitigar essas vulnerabilidades quanto de construir defesa em profundidade e governar a operação segura desses sistemas — e de ensinar cada uma dessas frentes. Não buscamos apenas um usuário avançado de ferramentas de IA, mas alguém com visão crítica sobre os riscos específicos que agentes e aplicações baseadas em LLMs introduzem em ambientes corporativos, da configuração de tools até o incidente em produção.

O perfil ideal já trabalhou com segurança de aplicações de IA em alguma capacidade, seja auditando a segurança de agentes de IA e integrações via MCP, implementando guardrails e defesa em profundidade para aplicações de IA, ou atuando em governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA). Tem linguagem técnica precisa e consegue traduzir conceitos complexos de IA para profissionais de segurança e vice-versa.

Qualifications

• 3+ anos de experiência em segurança da informação combinada com atuação prática em sistemas de IA ou LLMs
• Vivência real com ao menos um dos seguintes contextos:
  • Segurança de agentes de IA e integrações via tools/MCP
  • Implementação de guardrails e defesa em profundidade para aplicações de IA
  • Governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA)
• Experiência com automação de tarefas de segurança usando Python e APIs de LLMs (OpenAI, Anthropic, Mistral ou equivalentes)
• Familiaridade prática com Garak (NVIDIA) e PyRIT (Microsoft) para validar a robustez de defesas implementadas

Requirements

• Segurança de agentes de IA:
  • Excessive agency: identificação de cenários em que o agente pode agir além do escopo pretendido, com métricas como Unsafe Action Rate e Privilege Escalation Distance
  • Tool poisoning: como descrições de ferramentas manipuladas enganam o agente na escolha da tool
  • Auditoria de segurança de servidores MCP: autorização (OAuth 2.1), exposição de credenciais e PII em servidores mal configurados
  • Riscos de sistemas multiagente: contexto/memória envenenados e escalonamento de instrução maliciosa entre agentes
  • Mitigação com princípio de menor privilégio e aprovação humana para ações de alto risco
• Guardrails e defesa de aplicações de IA:
  • Defesa em profundidade: as cinco camadas de guardrail (input, retrieval, dialog, execution, output rails)
  • Implementação de guardrails com NeMo Guardrails (orquestração open source) e Llama Guard (classificação de conteúdo inseguro)
  • Mitigação de prompt injection e tool abuse com least-privilege e filtragem de input/output
  • Validação de defesas implementadas com um novo ciclo de red teaming (Garak/PyRIT)
• Governança e MLSecOps:
  • Supply chain de modelos: verificação de proveniência e integridade (model signing, model cards) e riscos de model poisoning/backdoors em modelos open source
  • Monitoramento de produção de sistemas de IA: anomalias de output, uso indevido de tools, tentativas de bypass de guardrail
  • Resposta a incidentes de IA: o que muda em relação ao IR tradicional e como estruturar um playbook específico
  • Governança e conformidade regulatória de sistemas de IA (EU AI Act), conectada a GRC tradicional

Benefits

• Pesquisa publicada ou apresentação em eventos sobre segurança de IA (DEF CON AI Village, NeurIPS workshops, USENIX Security, Black Hat, Mind the Sec ou equivalentes)
• Experiência com fine-tuning ou implantação de LLMs em ambientes corporativos, com visão sobre os riscos introduzidos em cada etapa
• Conhecimento de regulação e governança de IA além do EU AI Act (ex.: NIST AI RMF) aplicado à segurança
• Criação de conteúdo técnico público: artigos, repositórios, cursos ou palestras sobre segurança em sistemas de IA
• Capacidade de transformar projetos reais e experiências profissionais em aulas práticas e acessíveis
• Conhecimento básico de ferramentas de gravação (microfone, câmera, iluminação) ou disposição para receber orientação técnica nesse processo
• Boa comunicação verbal e escrita para apresentar conceitos técnicos de forma clara, estruturada e com linguagem próxima da comunidade de tecnologia