RAG, busca e recuperação de informação

Ver no idioma original →

RAG combina recuperação de informação com geração por um modelo: a aplicação localiza trechos relevantes em documentos e os inclui junto à pergunta no prompt, permitindo que o modelo responda com base em fontes externas aos seus dados de treinamento ↗. Na prática, a qualidade depende de como o conteúdo é preparado, indexado, recuperado, ordenado e validado — e de como o sistema controla contexto, permissões e custos ↗.

Busca e recuperação

A busca vetorial representa textos como embeddings e pode encontrar conteúdo pelo significado, mesmo quando a consulta e o documento não usam as mesmas palavras ↗. Para aplicações reais, ela pode ser combinada com busca lexical, como BM25: hybrid search reúne sinais semânticos e textuais, e Reciprocal Rank Fusion (RRF) ou combinação linear ajudam a mesclar resultados. Rerankers podem então reordenar os candidatos conforme a relevância; a escolha depende dos dados, das metas de relevância e do orçamento de latência ↗. Um curso prático de busca no PostgreSQL também combina BM25 e busca vetorial, usando RRF para mesclar as listas sem comparar diretamente as pontuações dos dois métodos ↗.

Não há uma única estratégia que seja melhor em todos os casos. Em um teste de busca por código, busca vetorial e busca agentic tiveram a mesma precisão, mas a vetorial custou quatro vezes mais; o experimento tinha poucos casos e limitações de implementação ↗. Para documentos empresariais, busca local por arquivos pode bastar em repositórios pequenos e organizados, enquanto coleções maiores ou multimodais podem exigir indexação, controle de permissões, atualização dos dados e uma combinação de busca híbrida, navegação e leitura de arquivos ↗. Entre ferramentas open source apresentadas, FSearch é voltada à busca local e sgrep à pesquisa de código ↗. Em escala muito maior, a plataforma Vault da Bridgewater organiza mais de 100 milhões de documentos internos e externos e adapta busca e filtros às necessidades de pessoas e agents, integrando-se aos hábitos de pesquisa existentes ↗.

O tamanho dos trechos também afeta a recuperação. Como o tamanho ideal de chunk varia conforme a consulta, a abordagem multi-scale indexing indexa vários tamanhos e combina os resultados com RRF, em troca de maior uso de memória. Em experimentos citados, escolher um tamanho adequado para cada consulta poderia aumentar o recall em 20% a 40% ↗. Outra opção é usar JEV para reordenar documentos segundo critérios ou políticas: em um teste apresentado, a acurácia top-1 subiu de 21% para 54% ↗. JEV também pode servir como ferramenta de decisão rápida e barata quando recebe critérios e contexto estruturados, por exemplo para priorizar e-mails, fazer buscas aproximadas, localizar trechos de vídeos ou selecionar elementos de uma biblioteca predefinida. Não é apresentado como ferramenta para gerar textos ou escrever código do zero ↗. Outra apresentação descreve Jev como um modelo de decisões estruturadas e probabilísticas: recebe um estado e uma pergunta tipada e retorna, por exemplo, uma decisão sim/não, uma opção ou uma pontuação. A aplicação controla a ação seguinte; possíveis usos incluem roteamento, seleção de ferramentas e avaliação de relevância em pipelines RAG. O vídeo ressalta que decisões podem estar erradas, probabilidades não garantem segurança e casos de risco podem exigir revisão humana; Jev é apresentado como complemento, não necessariamente substituto, dos LLMs ↗.

Documentos, embeddings e índices

Sistemas documentais de RAG podem combinar parsing, armazenamento semântico e workflows especializados. Converter PDFs e outros arquivos em conteúdo compreensível para agentes é um desafio; uma abordagem descrita combina parsing tradicional com modelos de visão e equilibra precisão, custo e latência usando ferramentas mais profundas quando necessário ↗. Em regulamentos empresariais, preservar a estrutura dos documentos e tratar tabelas, junto à combinação de busca vetorial e BM25, ajudou a melhorar a recuperação ↗.

Ferramentas de extração podem transformar PDFs, imagens, digitalizações e documentos manuscritos em respostas ou dados estruturados. Uma demonstração do Unstract usa perguntas em linguagem natural para extrair informações, gerar saídas em JSON, configurar diferentes LLMs e componentes e acompanhar custo, tempo e tokens; também mostra o deploy como API e o uso em um pipeline ETL ↗. Modelos menores de visão também podem ser executados localmente: em testes com o MiniCPM-V 4.7 1B, o modelo interpretou algumas imagens e resolveu uma questão de matemática, mas falhou na leitura de caligrafia, em tradução para muitos idiomas e no cumprimento de todas as instruções de uma tarefa criativa. O vídeo o considera mais apropriado para tarefas leves do que para raciocínio complexo ou instruções longas com várias etapas ↗.

Preparar grandes coleções não estruturadas para IA também envolve descobrir e selecionar arquivos, classificá-los, detectar informações sensíveis, avaliar qualidade e atualidade e entregar dados com metadados e evidências. Duplicações e documentos desatualizados podem prejudicar o contexto recuperado por sistemas RAG e agents; uma demonstração mostra a geração de arquivos de contexto a partir de pastas do SharePoint ↗.

Modelos de parsing devem ser avaliados nos documentos relevantes para a aplicação. Em testes limitados do OXR, o modelo processou bem alguns documentos, incluindo tabelas complexas e fórmulas, mas falhou no reconhecimento de um recibo fotografado e apresentou uma saída repetitiva em uma demonstração. O vídeo também relata dificuldades de configuração, observa que o relatório técnico ainda não estava disponível e aponta restrições da licença para uso comercial e como serviço online ↗.

Embeddings podem ser ajustados para um domínio específico. Em um experimento com dados de áudio e transcrições, alguns minutos de fine-tuning melhoraram a busca nesses dados, mas reduziram um pouco a qualidade da busca de texto geral; o vídeo recomenda separar os dados de teste por fonte e avaliar os efeitos em todas as modalidades afetadas pelo backbone compartilhado ↗. Modelos multimodais como EmbeddingGemma 2 mapeiam texto, código, imagens, vídeo e áudio para um espaço vetorial compartilhado, com aplicações de busca e recuperação, inclusive em dispositivos locais; os testes apresentados foram menos confiáveis para localizar efeitos sonoros ↗.

A arquitetura do índice pode variar. Lakebase Search reúne busca vetorial, textual e hybrid search, incluindo BM25 e reciprocal rank fusion, e demonstra um pipeline com Databricks, Spark e Unity Catalog para processar documentos, gerar embeddings e sincronizar alterações sem um banco vetorial separado ↗. O pg_pinecone oferece busca vetorial dentro do Postgres, com interface SQL e filtros, enquanto o FineWeb 10B da Qdrant foi publicado com ground truth calculado por busca exaustiva e uma ferramenta open source para benchmarks ↗ ↗.

Benchmarks de bancos vetoriais são difíceis de interpretar: conjuntos pequenos podem não refletir a escala de produção, e medir recall com vizinhos mais próximos exatos em grandes conjuntos exige muito cálculo. Testes com conjuntos reduzidos não devem ser extrapolados diretamente para bilhões de vetores; é importante testar com os próprios dados e avaliar os resultados com ceticismo ↗ ↗.

Contexto, memória e agentes

Context window não é memória persistente, e arquivos de apoio não garantem recuperação governada em escala. Uma camada de memória pode formar, armazenar, recuperar, consolidar e avaliar memórias, com controles de escopo, privacidade e temporalidade. A recuperação pode combinar busca vetorial, textual, relacional, por grafo e sinais de feedback ↗. Armazenar memórias, por si só, também não garante que vários agents aprendam ou compartilhem conhecimento de forma eficaz: curadoria, supervisão e rastreabilidade são desafios importantes ↗. Uma seleção de projetos open source também destaca ferramentas voltadas a economizar context window e executar agentes em sandboxes, sem detalhar como essas ferramentas funcionam ↗.

Notas incorporadas à base de conhecimento podem influenciar respostas, mas também introduzir instruções temporárias ou incorretas. No NotebookLM, uma nota selecionada pode orientar a tarefa atual; desmarcá-la interrompe essa influência e permite escolher quais notas entram em cada pergunta ↗.

Para recuperar conhecimento institucional, um context engine pode organizar entidades, fatos e relações, fornecer contexto relevante e respeitar permissões. Em uma demonstração, esse contexto apoiou revisões de código e reduziu custos; outra proposta usa consultas estruturadas em linguagem natural, com descoberta de schema, resolução de identidades, validação e autocorreção ↗ ↗. A memória de equipe pode compartilhar uma base centralizada, conectada aos agents por MCP, combinando busca por palavras-chave e semântica e citando fontes ↗.

GraphRAG acrescenta um grafo de conhecimento ao caminho de recuperação para ajudar com perguntas que dependem de conexões entre informações. Uma apresentação compara essa abordagem ao RAG baseado em vetores e destaca que combinar os dois métodos pode ser mais útil do que substituir um pelo outro. Na oficina, o grafo é construído a partir de dados textuais e conectado a um agent por busca por similaridade e consultas Cypher; um schema orienta a extração de entidades e relações ↗.

Busca agentic também pode usar ferramentas de navegação e consulta. Em uma demonstração com Exa Snapshot, versões anteriores de páginas permitem simular a web em uma data passada e avaliar agentes sem contaminar o backtest com informações futuras; a palestra alerta para o risco de overfitting sem um conjunto de holdout ↗. Dados da web coletados em tempo real são outra opção, distinta do uso de dados pré-indexados em RAG. Essa abordagem enfrenta desafios de manutenção de scrapers, mudanças nos sites e sistemas anti-bot; uma demonstração usa o MCP da Bright Data para coletar informações sobre um produto da Amazon e opiniões do Reddit e analisar se vale a pena comprá-lo. A coleta contínua também é apresentada para usos como análise do mercado de trabalho e correspondência de currículos ↗. Uma API de dados da web conectada a um agent por MCP pode ajudar a pesquisar informações estruturadas sobre pessoas e empresas; em uma demonstração, o agent enriqueceu uma lista de contatos com dados como preços, vagas e notícias recentes, incluiu links para as fontes e marcou dados ausentes como “não encontrado” ↗. Para agentes de programação, busca semântica pode devolver trechos relevantes e ajudar a encontrar informações recentes, mas é necessário instruir o agent sobre quando usar a ferramenta ↗. Em outra comparação, uma ferramenta de busca semântica em código reduziu tokens, mas foi mais lenta e teve pequena queda de precisão no teste apresentado ↗.

Agentes voltados ao trabalho do conhecimento precisam buscar e interpretar informações ambíguas e contextuais para produzir decisões ou resultados acionáveis. Ferramentas de busca e divisão do trabalho entre agentes podem contribuir para precisão e custo, mas ferramentas, agents e orquestração precisam ser projetados em conjunto ↗. O NVIDIA Data Designer é apresentado como framework open source para criar dados sintéticos diversos, estruturados e fundamentados em dados reais. Um workshop usa MCP e Tavily para gerar trajetórias de busca destinadas a treinar modelos Nemotron a responder perguntas difíceis com informações atuais e melhorar o desempenho no benchmark BrowseComp; também aborda avaliação, filtragem e curadoria dos dados ↗. No Vault da Bridgewater, a meta é tornar os agents participantes proativos do processo de investimento e fazer com que descobertas retornem à plataforma para aprimorar pesquisas futuras ↗.

Qualidade, evidências e governança

RAG não garante respostas melhores. Em um estudo sobre consultas clínicas, modelos gerais superaram ferramentas clínicas especializadas nos testes citados; o apresentador discute a possibilidade de o conteúdo recuperado distrair o modelo e ressalta que o rótulo de uma solução médica não garante qualidade ou segurança. A conclusão enfatiza validação independente, governança, supervisão e letramento em IA ↗.

Avaliações ajudam a identificar falhas antes da produção, mas são testes aproximados para sistemas não determinísticos e podem sofrer vieses quando se usa LLM as a judge. Uma demonstração mostra como aprimorar o juiz com contexto, dados rotulados e RAG, executar evals em CI e atualizar continuamente os dados ↗. Quando não há benchmark público adequado, uma alternativa é criar casos de teste com respostas conhecidas e verificar se o agente encontra os resultados esperados; esses testes aceleram o desenvolvimento, mas não determinam sozinhos se a solução está pronta para lançamento ↗.

Para tarefas financeiras que exigem precisão numérica e auditoria, uma arquitetura descrita separa recuperação e cálculo: o modelo localiza e cita números, código determinístico faz os cálculos e filtros removem números sem comprovação. O sistema também rastreia as fontes e cálculos originais e aplica controles de acesso ↗. Em ambientes com dados sensíveis, o Unity Catalog pode filtrar os dados antes de chegarem ao agente, de modo que usuários diferentes recebam respostas baseadas apenas nos dados autorizados para seus grupos ↗.

A observabilidade complementa os evals: além de latência e erros, aplicações generativas podem acompanhar custos, segurança, relevância, alucinações, satisfação e qualidade do RAG ↗. O MLflow Autolog pode registrar entradas, chamadas de ferramentas, tokens, saídas e metadados em pipelines de RAG e chatbots com agentes ↗. Colocar soluções em produção também envolve implantação, monitoramento e segurança, além de fundamentos de programação, ferramentas de desenvolvimento e conhecimentos de embeddings, busca vetorial, RAG e agents ↗. As fontes também destacam verificar manualmente artigos e referências encontrados com IA: a ferramenta deve ajudar a chegar à literatura científica, não substituí-la ↗.

Na verificação de mídia, sinais como problemas de sincronização entre áudio e boca, incoerências visuais ou vozes artificiais podem levantar suspeitas de deepfake, mas nenhum sinal isolado o confirma. O vídeo recomenda busca reversa de imagens como parte da verificação ↗.

RAG, busca e recuperação de informação

Busca e recuperação

Documentos, embeddings e índices

Contexto, memória e agentes

Qualidade, evidências e governança

Vídeos neste tópico