RAG explicado para gestores: quando faz sentido e o que perguntar ao fornecedor

RAG (geração aumentada por recuperação, do inglês retrieval-augmented generation) é uma técnica em que um modelo de linguagem busca trechos relevantes nos documentos da empresa e usa esse material para formular a resposta. Ela faz sentido quando as perguntas dependem de informação interna, específica e que muda com frequência, como políticas, manuais, contratos ou bases de conhecimento. Antes de contratar, o gestor deve perguntar ao fornecedor quais fontes serão usadas, como as permissões de acesso são respeitadas, como a qualidade será medida e quanto custa manter o sistema funcionando.

O que é RAG, em linguagem simples?

Um LLM (modelo de linguagem de grande porte) aprende com uma enorme quantidade de textos públicos, mas não conhece os documentos internos da sua empresa. Se você perguntar a ele sobre a política de reembolso da sua companhia, ele pode inventar uma resposta convincente. Esse fenômeno é chamado de alucinação.

O RAG resolve parte desse problema com um passo anterior: antes de responder, o sistema procura nos seus documentos os trechos mais relacionados à pergunta e os entrega ao modelo junto com a instrução "responda com base neste material". O resultado tende a ser mais preciso e pode citar a fonte.

Como um sistema de RAG funciona por dentro?

O funcionamento pode ser resumido em quatro etapas:

1. Ingestão: os documentos (PDFs, páginas, planilhas, chamados) são coletados e divididos em trechos menores.
2. Indexação: cada trecho é convertido em embeddings, que são representações numéricas do significado do texto. Isso permite encontrar trechos parecidos mesmo quando as palavras são diferentes. Esses vetores ficam guardados em um banco de dados vetorial.
3. Recuperação: quando alguém faz uma pergunta, o sistema busca os trechos mais próximos dela.
4. Geração: o modelo de linguagem recebe a pergunta e os trechos encontrados e escreve a resposta, idealmente indicando de onde tirou cada informação.

Cada etapa tem decisões técnicas que afetam a qualidade final. Por isso, dois projetos de RAG com o mesmo modelo podem ter resultados muito diferentes.

Quando o RAG faz sentido e quando não faz?

RAG é uma boa escolha em situações específicas, mas não é a resposta para todo projeto de IA.

Uma regra prática: se a pergunta típica é "o que diz o documento X sobre Y?", o RAG provavelmente ajuda. Se a pergunta é "quanto vendemos no trimestre?", o caminho é outro.

Quais são os riscos mais comuns em projetos de RAG?

Os problemas costumam aparecer depois da demonstração, quando o sistema encontra documentos reais.

• Documentos desorganizados: versões duplicadas, arquivos desatualizados e PDFs digitalizados sem texto pioram as respostas.
• Recuperação ruim: se o trecho certo não é encontrado, o modelo responde com base no trecho errado.
• Vazamento de permissões: um funcionário pode receber informação de um documento que não teria autorização para abrir.
• Falsa confiança: respostas bem escritas parecem corretas mesmo quando não são.
• Custo que cresce com o uso: cada pergunta consome processamento do modelo e da busca.

Nenhum desses riscos impede o projeto, mas todos precisam de resposta na proposta do fornecedor.

O que perguntar ao fornecedor antes de contratar?

Use as perguntas abaixo como roteiro de reunião:

1. Quais fontes de dados serão conectadas e como serão mantidas atualizadas?
2. Como o sistema respeita as permissões de acesso que já existem nos documentos?
3. As respostas mostram a fonte usada? O usuário consegue abrir o documento original?
4. Como a qualidade será medida? Existe um conjunto de perguntas de teste com respostas esperadas?
5. O que o sistema faz quando não encontra informação suficiente? Ele admite que não sabe?
6. Onde ficam os dados, os embeddings e os registros de conversa? São usados para treinar modelos de terceiros?
7. Qual é a estimativa de custo mensal para o volume de perguntas esperado?
8. É possível trocar o modelo de linguagem no futuro sem refazer todo o projeto?

Fornecedores experientes respondem a essas perguntas com exemplos concretos e um plano de avaliação. Respostas vagas são sinal de alerta.

Como estimar o custo de um projeto de RAG?

Não existe preço único, mas os fatores que determinam o custo são conhecidos:

• Volume e formato dos documentos: muitos arquivos digitalizados exigem etapa de extração de texto.
• Frequência de atualização: reindexar diariamente custa mais que mensalmente.
• Volume de perguntas: o consumo do modelo de linguagem é proporcional ao uso.
• Tamanho das respostas e dos trechos enviados: mais texto processado significa mais custo por pergunta.
• Integrações e controle de acesso: conectar sistemas internos e respeitar permissões aumenta o esforço de desenvolvimento.

Peça ao fornecedor que separe o custo de implantação do custo de operação mensal e que mostre a premissa de volume usada no cálculo.

Como saber se o RAG está funcionando depois de implantado?

Defina indicadores antes de ir para produção. Os mais úteis são a taxa de respostas corretas em um conjunto de perguntas de teste, a proporção de respostas com fonte citada, a frequência com que o sistema admite não saber e o retorno dos usuários. Revise uma amostra de conversas periodicamente, com alguém que conheça o conteúdo.

Próximo passo

Se o seu caso se encaixa no perfil de RAG, compare empresas de inteligência artificial verificadas e use o recurso de comparação para avaliar fornecedores lado a lado. Pela Citeo, você conversa diretamente com as empresas que reivindicaram o perfil.