prefix caching
Cache que reutiliza áudio previamente gerado para sequências iniciais de palavras e pode reproduzi-lo antes de a resposta completa estar pronta.
Mencionado em
Seção intitulada “Mencionado em”- Modelos de linguagem de contexto: seu agent não precisa de compactação
- Agentes de voz em tempo real com inteligência de ponta — Bohan Li, EliseAI