prompt injection
Tentativa de manipular o agente por meio de instruções maliciosas, que o apresentador recomenda mitigar com controles além do system prompt.
Mencionado em
Seção intitulada “Mencionado em”- Esta IA não sabe escrever. Ela é 100× mais barata (Jev, testado)
- Este é o novo plano da Microsoft para resolver os limites de uso do Claude
- Curso rápido sobre AI harness
- O gateway de IA de 50 ms que roda localmente com Ollama e Nimble: um Jev aberto
- Deixamos um agente de IA executar Bash e sobrevivemos para contar — Sarah Sanders, PostHog
- Ataques reais contra agentes de IA e o que poderia tê-los impedido — Andrey Rybka, Bloomberg
- Como criar apps com segurança usando IA
- Microsoft Decision-1: modelo para tomada rápida de decisões
- Jev pode turbinar muito seu segundo cérebro de IA (veja como)
- Agent Loop: entendendo o coração do agente
- Gemini Argon 4: análise detalhada
- Testei o guia de prompting do Opus 5.5 da Anthropic (36 execuções reais)
- O modelo da família Astra da OpenAI quebrou as próprias proteções…
- Minha nova skill favorita — Claude Code controla o computador inteiro (melhor uso do computador)
- Testei dezenas de Skills do Hermes Agent: estas 11 valem a pena
- Gemini 4 Argon chegou, finalmente!
- Fundamentos de engenharia de segurança em IA + certificado — Javier Garza, Snyk
- A morte da revisão de código: o que os dados realmente dizem — Laurie Voss, Arize AI
- A tríade letal já está nos seus laptops — Michael Patterson, Coder
- Injeção de prompt é só o começo da segurança de agentes de IA (o que você precisa)
- O agente de IA da OpenAI invadiu um site governamental. Não deixe o seu fazer o mesmo (tutorial de sandbox)
- GPT-6.1 Terra tornou o uso do computador 9× mais barato
- Fundamentos e certificado de engenharia de segurança de IA — Micah Silverman, Snyk
- Hill-climbing de skills: como melhorar agentes sem mudar o modelo — Shubhankar Srivastava, Browserbase
- Muse é grátis, Grok Bot custa US$ 20, Dots custa US$ 100: testei os três — qual vence?
- Sua aplicação de LLM retornou 200 OK. Mesmo assim, estava errada. — Marina Petzel, Datadog
- Como segredos vazam por agentes de IA (e como impedir isso) — Venice AI
- Google vai bloquear apps no Android?! GTA 6, Huawei Mate 90, iPhone bloqueado, Gemini, ChatGPT e mais
Relacionados
Seção intitulada “Relacionados”Claude Code, MCP, Codex, OpenAI, OpenClaw, Jev, Microsoft, LLM as a judge, Google, sandbox, skill, Shadow AI