reward hacking
Comportamento em que o modelo aprende a explorar falhas ou permissividade do checker em vez de cumprir o objetivo pretendido.
Mencionado em
Seção intitulada “Mencionado em”- Workshop: treinamento de agents na fronteira da indústria de IA
- O RL pode fazer um modelo de 4B competir com um de 27B?
- Três perguntas que todo engenheiro de agentes deve saber responder
- Como o autoresearch deixou nossos modelos 3 vezes mais rápidos — Tejas Bhakta, Morph
Relacionados
Seção intitulada “Relacionados”reinforcement learning, SGLang, Opus 5.5, LoRA, GRPO, Claude, Firecrawl, distillation, Google Calendar, Salesforce, LLM as a judge, LangChain