Este artigo teve a coautoria de Harrison Chase, Erick Friis e Linda Ye da LangChain.
IA generativa revolucionarão a experiência do usuário nos próximos anos. Uma etapa fundamental desse processo é a introdução de assistentes de IA que podem usar ferramentas de forma inteligente para ajudar os clientes a navegar no mundo digital. Neste documento, mostramos como implantar um assistente de IA com reconhecimento de contexto. O assistente é baseado em Base de conhecimento do Amazon BedrockeAmazon Lex responder cantando Amazon Connect Criamos e usamos o WhatsApp como um canal de interação para fornecer uma interface familiar e conveniente para os usuários.
A Base de Conhecimento do Amazon Bedrock fornece informações contextuais de fontes de dados de empresas privadas para Modelos Fundamentais (FMs) e agentes, dando suporte a Geração aprimorada de pesquisa (RAG) para fornecer respostas mais relevantes, precisas e personalizadas. Esse recurso oferece uma solução poderosa para organizações que buscam aprimorar seus aplicativos de IA generativa. Com compatibilidade nativa com o Amazon Lex e o Amazon Connect, ele simplifica a integração do conhecimento específico do domínio. Ao automatizar a importação, a fragmentação e a incorporação de documentos, ele elimina a necessidade de configurar manualmente bancos de dados vetoriais complexos ou sistemas de recuperação personalizados, reduzindo drasticamente a complexidade e o tempo de desenvolvimento.
Essa solução melhora a precisão das respostas do modelo subjacente e reduz o número de respostas incorretas devido aos dados baseados em validação. Em comparação com a manutenção de um sistema de gerenciamento de conhecimento personalizado, essa solução melhora a eficiência de custos, reduzindo os recursos de desenvolvimento e os custos operacionais. Com os serviços sem servidor da AWS, ela é dimensionável para se adaptar rapidamente a volumes crescentes de dados e consultas de usuários. Ela também aproveita a infraestrutura de segurança robusta da AWS para manter a privacidade e a conformidade dos dados. Ao atualizar e expandir continuamente a base de conhecimento, os aplicativos de IA podem sempre se manter atualizados com as informações mais recentes. Ao escolher a Amazon Bedrock Knowledge Base, as organizações podem se concentrar na criação de aplicativos de IA de valor agregado, enquanto a AWS lida com as complexidades do gerenciamento e da recuperação de conhecimento, resultando em uma implantação mais rápida de soluções de IA mais precisas e poderosas com menos esforço.
pré-condições
Para implementar a solução, você precisa ter o seguinte:
- e Conta AWSA empresa tem a capacidade de oferecer uma ampla gama de serviços no Amazon Bedrock, Amazon Lex, Amazon Connect e AWS Lambda permissão para criar recursos no
- Os direitos de acesso ao modelo estão disponíveis no Bedrock da Amazônia ativar Claude 3 Haiku de Antrópico Modelos. De acordo com o Acesso ao modelo básico do Amazon Bedrock As etapas do
- e WhatsApp Conta comercial para integração com o Amazon Connect.
- Documentação do produto, artigos de conhecimento ou outros dados relevantes em um formato compatível (por exemplo, PDF ou texto) a serem importados para a base de conhecimento.
Visão geral da solução
Essa solução usa vários serviços importantes de IA da AWS para criar e implantar assistentes de IA:
- Bedrock da Amazônia - O Amazon Bedrock é um serviço totalmente hospedado que fornece modelos fundamentais (FMs) de alto desempenho das principais empresas de IA, como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI e Amazon, por meio de uma única API. O serviço oferece uma ampla gama de recursos necessários para criar aplicativos de IA generativa com segurança, privacidade e IA responsável.
- Bases de conhecimento do Amazon Bedrock - Forneça aos assistentes de IA informações contextuais das fontes de dados privadas de sua empresa.
- Serviço Amazon OpenSearch - Suporte nativo para Amazon Bedrock Knowledge Bases como armazenamento vetorial.
- Amazon Lex - Interface de diálogo para a criação de assistentes de IA, incluindo a definição de intenções e slots.
- Amazon Connect - A integração com o WhatsApp torna o assistente de IA disponível no popular aplicativo de mensagens.
- AWS Lambda - Execute o código para integrar os serviços e implementar o agente LangChain que forma a lógica central do assistente de IA.
- Gateway de API da Amazon - Receber solicitações de entrada acionadas pelo WhatsApp e encaminhar a solicitação para o AWS Lambda para processamento posterior.
- Amazon DynamoDB - Armazena mensagens recebidas e geradas para dar suporte à memória de diálogo.
- SNS da Amazon - Rotas que lidam com respostas de saída do Amazon Connect.
- LangChain - Fornece uma camada de abstração avançada para a criação de agentes LangChain que ajudam os Foundation Models (FMs) a realizar raciocínio com reconhecimento de contexto.
- LangSmith - Faça upload dos registros de execução do agente para o LangSmith para melhorar a observabilidade, incluindo depuração, monitoramento e recursos de teste e avaliação.
O diagrama a seguir mostra a arquitetura.
Descrição do processo
O processo de ingestão de dados é indicado por números vermelhos no lado direito da figura:
- Upload de arquivos para Serviço de armazenamento simples da Amazon (Amazon S3).
- O novo arquivo aciona a função Lambda.
- As funções Lambda invocam operações de sincronização nas fontes de dados da base de conhecimento.
- O Amazon Bedrock Knowledge Bases obtém dados do Amazon S3, divide-os em pedaços e gera vetores de incorporação a partir de modelos de base (FMs) selecionados.
- O Amazon Bedrock Knowledge Bases armazena vetores de incorporação no Amazon OpenSearch Service.
O lado esquerdo da figura representa o processo de passagem de mensagens com números:
- O usuário inicia a comunicação enviando uma mensagem via WhatsApp para um webhook hospedado em algum lugar.
- O Amazon API Gateway encaminha as mensagens de entrada para um processador de mensagens de entrada executado pelo AWS Lambda.
- O processador de mensagens de entrada está no Amazon DynamoDB As informações de contato do usuário são registradas no
- Para usuários iniciantes, o processador de mensagens de entrada cria uma nova sessão no Amazon Connect e a registra no DynamoDB. Para usuários que retornam, a sessão existente do Amazon Connect é restaurada.
- O Amazon Connect encaminha as mensagens do usuário para o Amazon Lex para processamento de linguagem natural.
- O Amazon Lex aciona o assistente de IA LangChain implementado por funções Lambda.
- O assistente de IA LangChain recupera o histórico de conversas do DynamoDB.
- Use o Amazon Bedrock Knowledge Bases, o assistente de IA LangChain para obter informações contextuais relevantes.
- O assistente de IA LangChain gera uma dica, combina dados contextuais e consultas do usuário e os envia ao modelo subjacente em execução no Amazon Bedrock.
- O Amazon Bedrock processa a entrada e retorna a resposta do modelo para o assistente de IA LangChain.
- O assistente de IA LangChain repassa a resposta do modelo para o Amazon Lex.
- O Amazon Lex transmite a resposta do modelo para o Amazon Connect.
- O Amazon Connect publica a resposta do modelo para Serviço de notificação simples da Amazon (Amazon SNS).
- O Amazon SNS aciona a função Lambda do processador de mensagens de saída.
- O processador de mensagens de saída recupera informações de contato de bate-papo relevantes do Amazon DynamoDB.
- O manipulador de mensagens de saída envia a resposta ao usuário por meio da API do WhatsApp do Meta.
A implementação desse assistente de IA envolve três etapas principais:
- Use o Amazon Bedrock Knowledge Bases para criar uma base de conhecimento e importar documentação relevante do produto, perguntas frequentes (FAQs), artigos de conhecimento e outros dados úteis que ajudarão o AI Assistant a responder às perguntas dos usuários. Os dados devem abranger os principais casos de uso e tópicos suportados pelo AI Assistant.
- Criar um Agente LangChain para conduzir a lógica do assistente de IA. O agente é implementado em funções Lambda e usa uma base de conhecimento como sua principal ferramenta para encontrar informações. Ele é alimentado pelo Modelos do AWS CloudFormation Implantar automaticamente agentes e outros recursos. Consulte a lista de recursos na próxima seção.
- estabelecer Instâncias do Amazon Connect e configurar Integração com o WhatsAppIsso permite que os usuários conversem com os assistentes de IA por meio do WhatsApp, fornecendo uma interface familiar e oferecendo suporte a interações avançadas, como imagens e botões. Isso permite que os usuários conversem com o Assistente de IA por meio do WhatsApp, fornecendo uma interface familiar e oferecendo suporte a interações avançadas, como imagens e botões.
Implementação da solução
Fornecemos produtos pré-construídos AWS CloudFormation Modelos para implementar todo o conteúdo de que você precisa em sua conta do AWS.
- Se ainda não estiver conectado, faça o login Console AWS.
- Escolha uma das seguintes opções Pilha de lançamento para abrir o botão Console do CloudFormation e criar uma nova pilha.
- Digite os seguintes parâmetros:
StackNameNome: Dê um nome à sua pilha, por exemploWhatsAppAIStackLangchainAPIKey: através de LangChain Chave de API gerada
| costa | Botão de implantação | URL do modelo (para atualizar uma pilha existente para uma nova versão) | Pilha AWS CDK (personalizável conforme necessário) |
|---|---|---|---|
| Virgínia do Norte (us-east-1) |  |
YML | GitHub |
- Marque a caixa para confirmar que você está criando Gerenciamento de identidade e acesso da AWS (IAM) e, em seguida, selecione Criar pilha.
- Aguarde até que a pilha termine de ser criada, o que leva cerca de 10 minutos. Quando terminar, será criado o seguinte:
- Agente LangChain
- Bot do Amazon Lex
- Base de conhecimento do Amazon Bedrock
- Armazenamento de vetores (Amazon OpenSearch Serverless)
- lambda (letra grega Λλ)(para importação de dados e provedores)
- Fontes de dados (Amazon S3)
- DynamoDB
- Armazenamento de parâmetros Usado para armazenar chaves da API LangChain
- Função do IAM e autoridade
- Faça o upload do arquivo para a fonte de dados criada para o WhatsApp (Amazon S3). Depois de fazer o upload do arquivo, a fonte de dados será sincronizada automaticamente.
- Selecione o assistente criado mais recentemente para teste no console do Amazon Lex. Selecione Inglêse, em seguida, selecione Teste e enviar uma mensagem.
Criação de uma instância do Amazon Connect e integração do WhatsApp
Configure o Amazon Connect para integrar-se à sua conta corporativa do WhatsApp e habilite o canal do WhatsApp para o AI Assistant:
- existir Amazon Connect no console da AWS Navegando no aplicativo Crie uma instância se ainda não tiver feito isso. Crie uma instância na seção Configurações de distribuição Copie seu ARN da instânciaEssas informações serão necessárias posteriormente para vincular sua conta comercial do WhatsApp. Essas informações serão necessárias mais tarde para vincular sua conta comercial do WhatsApp.
- Selecione sua instância e, no painel de navegação, selecione Fluxos. Role para baixo e selecione Amazon Lex. Selecione seu robô e escolha Adicionar o Amazon Lex Bot.
- No painel de navegação, selecione Visão geral. Em Informações de acesso opção inferior Faça login para acesso de emergência.
- No console do Amazon Connect, no painel de navegação do Roteamento opção inferior Fluxos. Seleção Criar fluxo. Coloque um Obter a opinião do cliente Arraste o bloco para o processo. Selecione o bloco. Selecione o Texto para fala ou texto de bate-papo e adicione uma mensagem introdutória, por exemplo, "Hello, how can I can help you today?" Role para baixo e selecione Amazon LexEm seguida, selecione o bot do Amazon Lex que você criou na etapa 2.
- Depois de salvar o bloco, adicione outro bloco chamado "Disconnect". Coloque o bloco Entrada As setas se conectam ao Obter a opinião do clientee irá Obter a opinião do cliente As setas se conectam ao Desconectar. Seleção Publicar.
- Após a publicação, na parte inferior do painel de navegação, selecione Mostrar informações adicionais sobre o fluxo. Copie o Amazon Resource Name (ARN) do processo. Você precisará dessas informações posteriormente para implantar a integração do WhatsApp. A captura de tela a seguir mostra o fluxo no console do Amazon Connect.
- solo Oferecer mensagens do WhatsApp como um canal por meio do Amazon Connect Implante as integrações do WhatsApp com os detalhes em.
Soluções de teste
Interaja com o AI Assistant via WhatsApp, conforme demonstrado abaixo:
esclarecer
Para evitar incorrer em custos contínuos, exclua os recursos depois de terminar de usá-los:
- Exclua a pilha do CloudFormation.
- Excluir uma instância do Amazon Connect.
resumos
Este artigo descreve como integrar Bedrock da AmazôniaeAmazon Lex responder cantando Amazon Connect Crie um assistente de IA conversacional inteligente e implemente-o na WhatsApp.
A solução importa dados relevantes para Bases de conhecimento do Amazon Bedrock Base de conhecimento, usando Agente LangChain realização, respondendo a perguntas por meio da base de conhecimento e da WhatsApp Forneça aos usuários uma interface de acesso. Essa solução fornece um assistente de IA acessível e inteligente que orienta os usuários pelos produtos e serviços da sua empresa.
As próximas etapas possíveis incluem personalizar o assistente de IA para casos de uso específicos, expandir a base de conhecimento e usar o LangSmith Analise os registros de diálogo para identificar problemas, melhorar erros e eliminar gargalos de desempenho em sequências de chamadas de FM.
