red teaming

Ver no idioma original →

Prática de testar agentes de forma proativa para encontrar problemas, incluindo falhas de correção, segurança e imparcialidade.

Mencionado em

• Building Engine v2: como a LangChain aborda a melhoria de agents
• Hackers de IA são mais rápidos que seu teste de invasão — Eli Cohen, Snyk
• Monitorei áudios de crimes. Agentes de voz me assustam mais. — Sumanyu Sharma, Hamming AI
• Accenture ajudará a Anthropic a testar a segurança de modelos de IA
• Como criar agentes que melhoram com o tempo: modelo, harness e contexto | Interrupt London

Relacionados

LangChain, evals, LangSmith, LLM, Snyk, PII, agente de voz, OpenAI, Jensen Huang, Anthropic, Sam Altman, Accenture