Engenharia de Contexto

Que informação deve chegar a um modelo, em que forma e dentro de qual orçamento, para uma dada tarefa?

Modelos não conhecem os dados da empresa, e entregar tudo a eles nem é possível nem é seguro. Pouco contexto produz respostas inventadas; contexto demais enterra o fato relevante.

Selecionar contexto é um problema de ranqueamento e orçamento: pontuar as fontes candidatas por relevância e escolher um subconjunto que caiba no orçamento, guardando a fonte de cada trecho.

Relevância por similaridade do cosseno entre embeddings E, depois seleção de trechos com valor v e tamanho t sob um orçamento B.

1. Indexar as fontes junto com a proveniência.

2. Recuperar candidatos por similaridade e filtrar por permissões.

3. Selecionar um subconjunto dentro do orçamento.

4. Devolver a resposta junto com os trechos usados.

1. Pergunta

2. Recuperação

3. Filtro de permissões

4. Seleção com orçamento

5. Modelo

6. Resposta com fontes

Nenhum experimento publicado. A publicação sobre similaridade do cosseno deriva a nota de relevância com um exemplo resolvido.

Grafo de Conhecimento Empresarial

Nenhum resultado original de pesquisa é afirmado. Esta área é apresentada como perspectiva técnica, com uma demonstração computável sobre dados sintéticos.

• Similaridade mede semelhança, não verdade.
• A qualidade dos embeddings limita a recuperação.
• Orçamentos trocam completude por custo.

Leitura de fundamentação de outros autores. Não são publicações da Menlo Tech, e nenhum artigo da Menlo Tech é citado porque nenhum foi publicado.

• Manning, C., Raghavan, P. & Schütze, H. Introduction to Information Retrieval. Cambridge University Press, 2008.
• Lewis, P. et al. "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." NeurIPS, 2020.