Introdução: Chat usando seus próprios dados (exemplo do Python)

Este artigo mostra como implantar e executar o Chat com seu próprio exemplo de dadosusando o código de exemplo para Python. Este aplicativo de chat de exemplo é criado com Python, Serviço OpenAI do Azure e RAG (Geração Aumentada de Recuperação) por meio do Azure AI Search.

O aplicativo fornece respostas para perguntas do usuário sobre os benefícios dos funcionários em uma empresa fictícia. Ele usa o RAG (geração de Retrieval-Augmented) para fazer referência ao conteúdo de arquivos PDF fornecidos, o que pode incluir:

• Um manual de funcionário
• Um documento de visão geral de benefícios
• Uma lista de funções e expectativas da empresa

Analisando esses documentos, o aplicativo pode responder a consultas de linguagem natural com respostas precisas e contextualmente relevantes. Essa abordagem demonstra como você pode usar seus próprios dados para alimentar experiências de chat inteligentes e específicas do domínio com o Azure OpenAI e o Azure AI Search.

Você também aprenderá a definir as configurações do aplicativo para modificar seu comportamento de resposta.

Depois de concluir as etapas neste artigo, você pode começar a personalizar o projeto com seu próprio código. Este artigo faz parte de uma série que orienta você na criação de um aplicativo de chat com o Serviço OpenAI do Azure e o Azure AI Search. Outros artigos da série incluem:

• .NET
• Java
• JavaScript
• Front-end do JavaScript com back-end d Python

Arquitetura de aplicativo de exemplo

O diagrama a seguir mostra uma arquitetura simples do aplicativo de chat.

Os principais componentes da arquitetura incluem:

• Um aplicativo Web que hospeda a interface de chat interativa (geralmente criada com o Python Flask ou JavaScript/React) e envia perguntas do usuário para o back-end para processamento.
• Um recurso do Azure AI Search que executa uma pesquisa inteligente em documentos indexados (PDFs, arquivos do Word etc.) e retorna trechos de documento relevantes (partes) para uso em respostas.
• Uma instância do Serviço OpenAI do Azure que:
  • Converte documentos e perguntas do usuário em representações de vetor para pesquisa de similaridade semântica.
  • Extrai palavras-chave importantes para refinar consultas do Azure AI Search.
  • Sintetiza as respostas finais usando os dados recuperados e a consulta do usuário.

O fluxo típico do aplicativo de chat é o seguinte:

• O usuário envia uma pergunta: um usuário insere uma pergunta de linguagem natural por meio da interface do aplicativo Web.
• O Azure OpenAI processa a pergunta: o back-end usa o Azure OpenAI para:
  • Gere uma inserção da pergunta usando o modelo text-embedding-ada-002.
  • Opcionalmente, extraia palavras-chave para refinar a relevância da pesquisa
• A Pesquisa de IA do Azure recupera dados relevantes: a incorporação ou palavras-chave são usadas para executar uma pesquisa semântica sobre conteúdo indexado (como PDFs) no Azure AI Search.
• Combine os resultados com a pergunta: os trechos de documento mais relevantes (partes) são combinados com a pergunta original do usuário.
• O Azure OpenAI gera uma resposta: a entrada combinada é passada para um modelo GPT (como gpt-35-turbo ou gpt-4), que gera uma resposta com reconhecimento de contexto.
• A resposta é retornada ao usuário: a resposta gerada é exibida na interface de chat.

Pré-requisitos

Um ambiente de contêiner de desenvolvimento está disponível com todas as dependências necessárias para concluir este artigo. Você pode executar o contêiner de desenvolvimento em Codespaces do GitHub (em um navegador) ou localmente usando o Visual Studio Code.

Para usar este artigo, você precisa dos seguintes pré-requisitos:

Custo de uso para exemplos de recursos

A maioria dos recursos usados nessa arquitetura se enquadra nos tipos de preços básicos ou baseados em consumo. Isso significa que você paga apenas pelo que usa e os encargos normalmente são mínimos durante o desenvolvimento ou teste.

Para concluir este exemplo, pode haver um pequeno custo incorrido com o uso de serviços como Azure OpenAI, AI Search e armazenamento. Quando terminar de avaliar ou implantar o aplicativo, você poderá excluir todos os recursos provisionados para evitar encargos contínuos.

Para obter uma análise detalhada dos custos esperados, consulte a estimativa de custo no repositório GitHub para o exemplo.

Abrir o ambiente de desenvolvimento

Comece configurando um ambiente de desenvolvimento que tenha todas as dependências instaladas para concluir este artigo.

Abrir um ambiente de desenvolvimento

Use as instruções a seguir para implantar um ambiente de desenvolvimento pré-configurado contendo todas as dependências necessárias para concluir este artigo.

Implantar aplicativo de chat no Azure

O repositório de exemplo inclui tudo o que você precisa para implantar um Chat com seu próprio aplicativo de dados no Azure, incluindo:

• Código-fonte do aplicativo (Python)
• Arquivos de infraestrutura como código (Bicep)
• Configuração para integração do GitHub e CI/CD (opcional)

Use as etapas a seguir para implantar o aplicativo com a CLI do Desenvolvedor do Azure (azd).

1. No painel Terminal do Visual Studio Code, crie os recursos do Azure e implante o código-fonte executando o seguinte azd comando:

   azd up
   

2. O processo solicita uma ou mais das seguintes configurações com base em sua configuração:

   • Nome do ambiente: esse valor é usado como parte do nome do grupo de recursos. Insira um nome curto com letras minúsculas e traços (-), como myenv. Não há suporte para letras maiúsculas, números e caracteres especiais.

   • Assinatura: selecione uma assinatura para criar os recursos. Se você não vir a assinatura desejada, use as teclas de direção para rolar a lista completa de assinaturas disponíveis.

   • Local: esse local de região é usado para a maioria dos recursos, incluindo hospedagem. Selecione um local de região próximo a você geograficamente.

   • Local para o modelo openai ou recurso do Document Intelligence: selecione o local mais próximo geograficamente. Se a região selecionada para sua Localização estiver disponível para essa configuração, selecione a mesma região.

   Pode levar algum tempo para que o aplicativo seja implantado. Aguarde a implantação ser concluída antes de continuar.

3. Depois que o aplicativo é implantado com êxito, o painel Terminal exibe uma URL de endpoint:

   

4. Selecione a URL do endpoint para abrir o aplicativo de chat em um browser.

   

Usar o aplicativo de chat para obter respostas de arquivos PDF

O aplicativo de chat é pré-carregado com informações de benefícios dos funcionários de arquivos PDF. Você pode usar o aplicativo de chat para fazer perguntas sobre os benefícios. As etapas a seguir explicam o processo de uso do aplicativo de chat. Suas respostas podem variar conforme os modelos subjacentes são atualizados.

1. No aplicativo de chat, selecione a opção O que acontece em uma revisão de desempenho? Ou insira o mesmo texto na caixa de texto do chat. O aplicativo retorna a resposta inicial:

   

2. Na caixa de resposta, selecione uma citação:

   

3. Os Codespaces do GitHub abre o painel Citação à direita com três regiões com guias e o foco está na guia Citação:

   

   O GitHub Codespaces fornece três guias de informações para ajudá-lo a entender como o aplicativo de chat gerou a resposta:

   Guia	Descrição
   Processo de Pensamento	Exibe um script das interações de pergunta/resposta no chat. Você pode exibir o conteúdo fornecido pelo aplicativo systemde chat, as perguntas inseridas pelo sistema e os useresclarecimentos feitos pelo sistema assistant.
   Suporte ao conteúdo	Lista as informações usadas para responder à sua pergunta e ao material de origem. O número de citações de material de origem é especificado pelas configurações do Desenvolvedor. O número padrão de citações é 3.
   Citação	Mostra a origem original contida para a citação selecionada.

4. Quando terminar, selecione a guia atualmente selecionada no painel direito. O painel direito se fecha.

Usar configurações para alterar o comportamento da resposta

O modelo openai específico determina a inteligência do chat e as configurações usadas para interagir com o modelo. A opção Configurações do Desenvolvedor abre o painel Configurar geração de respostas em que você pode alterar as configurações do aplicativo de chat:

As etapas a seguir explicam o processo de alteração das configurações.

1. No navegador, selecione a opção Configurações do Desenvolvedor .

2. Selecione a caixa de seleção Sugerir perguntas de acompanhamento para habilitar a opção e selecione Fechar para aplicar a alteração de configuração.

3. No aplicativo de chat, reassente a pergunta, desta vez inserindo o texto na caixa de perguntas:

   What happens in a performance review?
   

   A resposta do aplicativo de chat agora inclui perguntas de acompanhamento sugeridas:

   

4. Selecione novamente a opção Configurações do Desenvolvedor e desmarque a opção Usar classificador semântico para recuperação. Feche as configurações.

5. Faça a mesma pergunta novamente e observe a diferença na resposta do aplicativo de chat.

   Com o classificador semântico: "Durante uma revisão de desempenho na Contoso Electronics, seu supervisor discutirá seu desempenho no último ano e fornecerá comentários sobre áreas de melhoria. Você também terá a oportunidade de discutir suas metas e objetivos para o próximo ano. A revisão é um diálogo bidirecional entre gerentes e funcionários, e é incentivada para que os funcionários sejam honestos e abertos durante o processo (1). Os comentários fornecidos durante a revisão devem ser positivos e construtivos, visando ajudar os funcionários a desenvolver e crescer em suas funções. Os funcionários receberão um resumo escrito de sua revisão de desempenho, que incluirá uma classificação de desempenho, comentários e metas e objetivos para o próximo ano (1)."

   Sem o classificador semântico: "Durante uma revisão de desempenho na Contoso Electronics, seu supervisor discutirá seu desempenho no último ano e fornecerá comentários sobre áreas de melhoria. É um diálogo bidirecional onde você é encorajado a ser honesto e aberto (1). Os comentários fornecidos durante a revisão devem ser positivos e construtivos, visando ajudá-lo a desenvolver e crescer em sua função. Você receberá um resumo escrito da revisão, incluindo uma classificação de desempenho, comentários e metas para o próximo ano (1)."

Limpar recursos

Depois de concluir o exercício, é uma prática recomendada remover todos os recursos que não são mais necessários.

Limpar recursos do Azure

Os recursos do Azure criados neste artigo são cobrados para sua assinatura do Azure. Se você não espera precisar desses recursos no futuro, exclua-os para evitar incorrer em mais encargos.

Exclua os recursos do Azure e remova o código-fonte executando o seguinte azd comando:

azd down --purge --force

As opções de comando incluem:

• purge: os recursos excluídos são limpos imediatamente. Essa opção permite reutilizar a métrica de TPM (tokens do Azure OpenAI por minuto).
• force: a exclusão ocorre silenciosamente, sem exigir o consentimento do usuário.

Limpar GitHub Codespaces

Obter ajuda

Este repositório de exemplo oferece informações de solução de problemas.

Se o problema não for resolvido, inclua seu problema na página da Web Problemas do repositório.

Conteúdo relacionado

• Obter o código-fonte da amostra usada neste artigo
• Criar um aplicativo de chat com a arquitetura de solução de práticas recomendadas do OpenAI do Azure
• Controle de acesso em aplicativos da IA Generativa com a Pesquisa de IA do Azure
• Criar uma solução OpenAI pronta para empresas com o Gerenciamento de API do Azure
• Superar a busca em vetores com recursos de recuperação e classificação híbridas