Creación de la próxima generación de asistentes de chat con Amazon Bedrock, Amazon Connect, Amazon Lex, LangChain y WhatsApp

Este artículo ha sido escrito por Harrison Chase, Erick Friis y Linda Ye, de LangChain.

IA Generativa revolucionarán la experiencia del usuario en los próximos años. Un paso clave en este proceso es la introducción de asistentes de IA que puedan utilizar herramientas de forma inteligente para ayudar a los clientes a navegar por el mundo digital. En este artículo, mostramos cómo desplegar un asistente de IA consciente del contexto. El asistente se basa en Base de conocimientos de Amazon BedrockyAmazon Lex responder cantando Conectar con Amazon Construido y utilizando WhatsApp como canal de interacción, proporciona una interfaz familiar y cómoda para los usuarios.

La base de conocimientos de Amazon Bedrock proporciona información contextual a partir de fuentes de datos de empresas privadas para modelos fundacionales (FM) y agentes, respaldando Búsqueda Generación mejorada (RAG) para ofrecer respuestas más pertinentes, precisas y personalizadas. Esta característica proporciona una potente solución para las organizaciones que buscan mejorar sus aplicaciones de IA generativa. Con compatibilidad nativa con Amazon Lex y Amazon Connect, simplifica la integración de conocimientos específicos del dominio. Al automatizar la importación, agrupación e incrustación de documentos, elimina la necesidad de configurar manualmente bases de datos vectoriales complejas o sistemas de recuperación personalizados, lo que reduce drásticamente la complejidad y el tiempo de desarrollo.

Esta solución mejora la precisión de las respuestas del modelo subyacente y reduce el número de respuestas incorrectas debidas a los datos basados en la validación. En comparación con el mantenimiento de un sistema de administración de conocimientos personalizado, esta solución mejora la rentabilidad al reducir los recursos de desarrollo y los costes operativos. Con los servicios sin servidor de AWS, es escalable para adaptarse rápidamente a volúmenes crecientes de datos y consultas de usuarios. También aprovecha la sólida infraestructura de seguridad de AWS para mantener la privacidad de los datos y la conformidad. Al actualizar y ampliar continuamente la base de conocimientos, las aplicaciones de IA siempre pueden mantenerse al día con la información más reciente. Al elegir Amazon Bedrock Knowledge Base, las organizaciones pueden centrarse en crear aplicaciones de IA de valor añadido mientras AWS se encarga de las complejidades de la administración y recuperación de conocimientos, lo que da como resultado una implementación más rápida de soluciones de IA más precisas y potentes con menos esfuerzo.

condiciones previas

Para poner en práctica la solución, es necesario disponer de lo siguiente:

• un Cuenta AWSLa compañía tiene la capacidad de ofrecer una amplia gama de servicios en Amazon Bedrock, Amazon Lex, Amazon Connect y AWS Lambda permiso para crear recursos en el
• Los modelos de derechos de acceso están disponibles en Amazon Bedrock active Claude 3 Haiku de Antrópica Modelos. Siga el ejemplo del Acceso al modelo base de Amazon Bedrock Los pasos de la
• un WhatsApp Cuenta de empresa para la integración con Amazon Connect.
• Documentación del producto, artículos de conocimiento u otros datos relevantes en un formato compatible (por ejemplo, PDF o texto) para importarlos a la base de conocimientos.

Resumen de la solución

Esta solución utiliza varios servicios clave de AWS AI para crear e implementar asistentes de IA:

• Amazon Bedrock - Amazon Bedrock es un servicio totalmente hospedado que ofrece modelos fundamentales (FM) de alto rendimiento de empresas líderes en IA como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon a través de una única API. y la amplia gama de capacidades necesarias para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable.
• Bases de conocimiento de Amazon Bedrock - Proporcione a los asistentes de IA información contextual procedente de las fuentes de datos privadas de su empresa.
• Servicio Amazon OpenSearch - Soporte nativo para Amazon Bedrock Knowledge Bases como almacén de vectores.
• Amazon Lex - Interfaz de diálogo para crear asistentes de IA, incluida la definición de intenciones y ranuras.
• Conectar con Amazon - La integración con WhatsApp hace que el asistente de IA esté disponible en la popular app de mensajería.
• AWS Lambda - Ejecuta el código para integrar los servicios e implementar el agente LangChain que forma la lógica central del asistente de IA.
• Puerta de enlace API de Amazon - Reciba solicitudes entrantes activadas desde WhatsApp y enrute la solicitud a AWS Lambda para su posterior procesamiento.
• Amazon DynamoDB - Almacena los mensajes recibidos y generados para apoyar la memoria de diálogo.
• Amazon SNS - Rutas que gestionan las respuestas salientes de Amazon Connect.
• Cadena LangChain - Proporciona una potente capa de abstracción para construir agentes LangChain que ayuden a los Modelos de Fundación (FM) a realizar razonamientos conscientes del contexto.
• LangSmith - Cargue los registros de ejecución de los agentes en LangSmith para mejorar la capacidad de observación, incluidas las funciones de depuración, supervisión, prueba y evaluación.

El siguiente diagrama muestra la arquitectura.

Descripción del proceso

El proceso de ingestión de datos se indica con números rojos en la parte derecha de la figura:

1. Cargar archivos en Servicio de almacenamiento simple de Amazon (Amazon S3).
2. El nuevo archivo activa la función Lambda.
3. Las funciones lambda invocan operaciones de sincronización en las fuentes de datos de la base de conocimientos.
4. Amazon Bedrock Knowledge Bases toma datos de Amazon S3, los trocea y genera vectores de incrustación a partir de modelos base (FM) seleccionados.
5. Amazon Bedrock Knowledge Bases almacena vectores de incrustación en Amazon OpenSearch Service.

La parte izquierda de la figura representa el proceso de paso de mensajes con números:

1. El usuario inicia la comunicación enviando un mensaje por WhatsApp a un webhook alojado en algún lugar.
2. Amazon API Gateway enruta los mensajes entrantes a un procesador de mensajes entrantes realizado por AWS Lambda.
3. El procesador de mensajes entrantes se encuentra en el Amazon DynamoDB La información de contacto del usuario se registra en el
4. Para los usuarios que acceden por primera vez, el procesador de mensajes entrantes crea una nueva sesión en Amazon Connect y la registra en DynamoDB. para los usuarios que regresan, se restaura su sesión existente de Amazon Connect.
5. Amazon Connect reenvía los mensajes de los usuarios a Amazon Lex para el procesamiento del lenguaje natural.
6. Amazon Lex activa el asistente de IA LangChain implementado mediante funciones Lambda.
7. El asistente de IA LangChain recupera el historial de conversaciones de DynamoDB.
8. Utilice Amazon Bedrock Knowledge Bases, el asistente de IA LangChain para obtener información contextual relevante.
9. El asistente de IA LangChain genera una sugerencia, combina datos contextuales y consultas del usuario, y la envía al modelo subyacente que se ejecuta en Amazon Bedrock.
10. Amazon Bedrock procesa la entrada y devuelve la respuesta del modelo al asistente de IA LangChain.
11. El asistente de IA LangChain devuelve la respuesta del modelo a Amazon Lex.
12. Amazon Lex transmite la respuesta del modelo a Amazon Connect.
13. Amazon Connect publica la respuesta del modelo a Servicio de notificación simple de Amazon (Amazon SNS).
14. Amazon SNS activa la función Lambda del procesador de mensajes salientes.
15. El procesador de mensajes salientes recupera la información de contacto de chat relevante de Amazon DynamoDB.
16. El gestor de mensajes salientes envía la respuesta al usuario a través de la API de WhatsApp de Meta.

La implantación de este asistente de IA implica tres pasos principales:

1. Utilice Amazon Bedrock Knowledge Bases para crear una base de conocimientos e importar documentación relevante del producto, preguntas frecuentes (FAQ), artículos de conocimiento y otros datos útiles que ayudarán al Asistente de IA a responder a las preguntas de los usuarios. Los datos deben cubrir casos de uso y temas clave compatibles con el Asistente de IA.
2. Crear un Agente LangChain para dirigir la lógica del asistente de IA. El agente se implementa en funciones Lambda y utiliza una base de conocimientos como herramienta principal para la búsqueda de información. Se alimenta de la Plantillas de AWS CloudFormation Despliegue automático de agentes y otros recursos. Consulte la lista de recursos en la siguiente sección.
3. establecer Instancias de Amazon Connect y configurar Integración de WhatsAppEsto permite a los usuarios chatear con el asistente de IA a través de WhatsApp, proporcionando una interfaz familiar y soportando interacciones ricas como imágenes y botones. Esto permite a los usuarios chatear con el asistente de IA a través de WhatsApp, proporcionando una interfaz familiar y soportando interacciones ricas como imágenes y botones.La popularidad de WhatsApp ha aumentado la accesibilidad del asistente de IA.

Despliegue de soluciones

Proporcionamos AWS CloudFormation Plantillas para implementar todo el contenido que necesite en su cuenta de AWS.

1. Si aún no ha iniciado sesión, hágalo Consola AWS.
2. Elija entre los siguientes Pila de lanzamiento para abrir el Consola CloudFormation y crear una nueva pila.
3. Introduzca los siguientes parámetros:
   • StackNameNombre de la pila, por ejemplo WhatsAppAIStack
   • LangchainAPIKey: a través de Cadena LangChain Clave API generada

distrito	Botón de despliegue	URL de la plantilla (para actualizar una pila existente a una nueva versión)	AWS CDK stack (personalizable según sea necesario)
Norte de Virginia (us-east-1)		YML	GitHub

4. Marque la casilla para confirmar que está creando Administración de AWS Identity and Access (IAM), seleccione Crear pila.
5. Espere a que la pila termine de crearse, lo que tarda unos 10 minutos. Cuando termine, se creará lo siguiente:
   • Agente LangChain
   • Amazon Lex bot
   • Base de conocimientos de Amazon Bedrock
   • Almacenamiento vectorial (Amazon OpenSearch Serverless)
   • lambda (letra griega Λλ)(para importación de datos y proveedores)
   • Fuentes de datos (Amazon S3)
   • DynamoDB
   • Almacén de parámetros Se utiliza para almacenar las claves API de LangChain
   • Función IAM y autoridad
6. Cargue el archivo en la fuente de datos creada para WhatsApp (Amazon S3). Una vez que haya cargado el archivo, la fuente de datos se sincronizará automáticamente.
7. Seleccione el asistente creado más recientemente para probarlo en la consola de Amazon Lex. Seleccione Inglésy seleccione Prueba y envía un mensaje.

Cómo crear una instancia de Amazon Connect e integrar WhatsApp

Configura Amazon Connect para que se integre con tu cuenta de WhatsApp para empresas y habilita el canal de WhatsApp para AI Assistant:

1. existe Amazon Connect en la consola de AWS en la navegación. Cree una instancia si aún no lo ha hecho. Cree una instancia en Ajustes de distribución Copia tu Instancia ARNEsta información será necesaria más adelante para vincular su cuenta de WhatsApp Business. Esta información será necesaria más adelante para vincular su cuenta de WhatsApp Business.
2. Seleccione su instancia y, a continuación, en el panel de navegación, seleccione Flujos. Desplácese hacia abajo y seleccione Amazon Lex. Seleccione su robot y elija Añadir Amazon Lex Bot.
3. En el panel de navegación, seleccione Visión general. En Información de acceso opción inferior Acceso de emergencia.
4. En la consola de Amazon Connect, en el panel de navegación de la sección Enrutamiento opción inferior Flujos. Selección Crear flujo. Coloque un Obtener la opinión del cliente Arrastre el bloque al proceso. Seleccione el bloque. Seleccione el Texto a voz o texto de chat y añada un mensaje introductorio, por ejemplo: "Hola, ¿en qué puedo ayudarle hoy?" Desplácese hacia abajo y seleccione Amazon LexA continuación, selecciona el bot de Amazon Lex que creaste en el paso 2.
5. Tras guardar el bloque, añade otro llamado "Desconectar". Coloque el bloque Entrada Las flechas conectan con el Obtener la opinión del clientey se Obtener la opinión del cliente Las flechas conectan con el Desconecte. Selección Publique.
6. Después de publicar, en la parte inferior del panel de navegación seleccione Mostrar información adicional sobre el flujo. Copie el nombre de recurso de Amazon (ARN) del proceso. necesitará esta información más adelante para desplegar la integración de WhatsApp. La siguiente captura de pantalla muestra el flujo en la consola de Amazon Connect.

7. fundación Ofrecer mensajes de WhatsApp como canal a través de Amazon Connect Despliega integraciones de WhatsApp con los detalles en.

Soluciones de prueba

Interactúa con el asistente de IA a través de WhatsApp, como se muestra a continuación:

aclarar

Para evitar incurrir en gastos continuos, elimine los recursos cuando haya terminado de utilizarlos:

1. Elimine la pila de CloudFormation.
2. Elimina una instancia de Amazon Connect.

resúmenes

Este artículo describe cómo integrar Amazon BedrockyAmazon Lex responder cantando Conectar con Amazon Cree un asistente de IA conversacional inteligente y despliéguelo en el WhatsApp.

La solución importa los datos pertinentes a Bases de conocimiento de Amazon Bedrock Base de conocimientos, mediante Agente LangChain realización, respondiendo a preguntas a través de la base de conocimientos, y a través de la WhatsApp Proporcione a los usuarios una interfaz de acceso. Esta solución proporciona un asistente de IA accesible e inteligente que guía a los usuarios por los productos y servicios de su empresa.

Entre los posibles pasos siguientes se incluyen la personalización del asistente de IA para casos de uso específicos, la ampliación de la base de conocimientos y el uso de la base de datos de inteligencia artificial. LangSmith Analizar los registros de diálogo para identificar problemas, mejorar los errores y acabar con los cuellos de botella de rendimiento en las secuencias de llamadas de FM.