아마존 베드락, 아마존 커넥트, 아마존 렉스, 랭체인, WhatsApp으로 차세대 채팅 어시스턴트 만들기

이 글은 LangChain의 해리슨 체이스, 에릭 프리이스, 린다 예가 공동 집필했습니다.

제너레이티브 AI 는 앞으로 몇 년 안에 사용자 경험을 혁신적으로 변화시킬 것입니다. 이 과정에서 중요한 단계는 고객이 디지털 세계를 탐색하는 데 도움이 되는 도구를 지능적으로 사용할 수 있는 AI 비서를 도입하는 것입니다. 이 백서에서는 상황 인식 AI 어시스턴트를 배포하는 방법을 설명합니다. 어시스턴트는 다음을 기반으로 합니다. 아마존 베드락 지식 베이스및Amazon Lex 노래로 응답 Amazon Connect WhatsApp을 인터랙션 채널로 구축하여 사용함으로써 사용자에게 친숙하고 편리한 인터페이스를 제공합니다.

아마존 베드락 기술 자료는 기본 모델(FM) 및 에이전트를 위한 프라이빗 엔터프라이즈 데이터 소스의 컨텍스트 정보를 제공하여 다음을 지원합니다. 향상된 세대 검색 (RAG)를 사용하여 보다 관련성 높고 정확한 맞춤형 응답을 제공합니다. 이 기능은 생성형 AI 애플리케이션을 강화하고자 하는 조직에 강력한 솔루션을 제공합니다. Amazon Lex 및 Amazon Connect와의 기본 호환성을 통해 도메인별 지식의 통합을 간소화합니다. 문서 가져오기, 청킹, 임베딩을 자동화하여 복잡한 벡터 데이터베이스나 사용자 지정 검색 시스템을 수동으로 설정할 필요가 없으므로 개발 복잡성과 시간을 획기적으로 줄일 수 있습니다.

이 솔루션은 기본 모델 응답의 정확도를 향상시키고 검증 기반 데이터로 인한 오답 수를 줄입니다. 맞춤형 지식 관리 시스템을 유지하는 것에 비해 이 솔루션은 개발 리소스와 운영 비용을 절감하여 비용 효율성을 개선합니다. AWS의 서버리스 서비스를 통해 증가하는 데이터와 사용자 쿼리에 빠르게 적응할 수 있는 확장성을 갖췄습니다. 또한 AWS의 강력한 보안 인프라를 활용하여 데이터 프라이버시 및 규정 준수를 유지합니다. 지식 기반을 지속적으로 업데이트하고 확장함으로써 AI 애플리케이션은 항상 최신 정보를 따라잡을 수 있습니다. 아마존 베드락 지식 베이스를 선택하면 조직은 부가가치가 높은 AI 애플리케이션을 만드는 데 집중할 수 있으며, AWS는 지식 관리 및 검색의 복잡성을 처리하여 더 적은 노력으로 더 정확하고 강력한 AI 솔루션을 더 빠르게 배포할 수 있습니다.

사전 조건

솔루션을 구현하려면 다음이 필요합니다:

• an AWS 계정아마존 베드락, 아마존 렉스, 아마존 커넥트, 아마존 커넥트에서 다양한 서비스를 제공할 수 있습니다. AWS 람다 에 리소스를 생성할 수 있는 권한을
• 모델 액세스 권한은 아마존 베드락 활성화 인류의 클로드 3 하이쿠 모델. 에 따라 아마존 베드락 기본 모델에 액세스 의 단계별 절차는
• an WhatsApp Amazon Connect와의 통합을 위한 비즈니스 계정입니다.
• 제품 문서, 지식 문서 또는 기타 관련 데이터를 호환되는 형식(예: PDF 또는 텍스트)으로 지식창고로 가져올 수 있습니다.

솔루션 개요

이 솔루션은 몇 가지 주요 AWS AI 서비스를 사용하여 AI 어시스턴트를 구축하고 배포합니다:

• 아마존 베드락 - Amazon Bedrock은 단일 API를 통해 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI, Amazon과 같은 주요 AI 회사의 고성능 기본 모델(FM)을 제공하는 완전 호스트형 서비스입니다. 그리고 보안, 개인 정보 보호, 책임감 있는 AI를 갖춘 제너레이티브 AI 애플리케이션을 구축하는 데 필요한 광범위한 기능을 제공합니다.
• 아마존 베드락 지식 베이스 - AI 어시스턴트에게 회사의 비공개 데이터 소스에서 컨텍스트 정보를 제공하세요.
• 아마존 오픈서치 서비스 - 벡터 스토리지로서 Amazon 베드락 지식 베이스를 기본적으로 지원합니다.
• Amazon Lex - 인텐트 및 슬롯 정의를 포함하여 AI 어시스턴트를 구축하기 위한 대화 인터페이스입니다.
• Amazon Connect - WhatsApp과의 통합으로 인기 메시징 앱에서 AI 어시스턴트를 사용할 수 있게 되었습니다.
• AWS 람다 - 코드를 실행하여 서비스를 통합하고 AI 어시스턴트의 핵심 로직을 구성하는 LangChain 에이전트를 구현하세요.
• Amazon API 게이트웨이 - WhatsApp에서 트리거된 인바운드 요청을 수신하고 추가 처리를 위해 요청을 AWS Lambda로 라우팅합니다.
• Amazon DynamoDB - 대화 메모리를 지원하기 위해 수신 및 생성된 메시지를 저장합니다.
• 아마존 SNS - Amazon Connect의 아웃바운드 응답을 처리하는 경로입니다.
• LangChain - 파운데이션 모델(FM)이 컨텍스트 인식 추론을 수행하는 데 도움이 되는 강력한 추상화 계층을 제공하여 LangChain 에이전트를 구축합니다.
• LangSmith - 디버깅, 모니터링, 테스트 및 평가 기능을 포함한 향상된 가시성을 위해 에이전트 실행 로그를 LangSmith에 업로드하세요.

다음 다이어그램은 아키텍처를 보여줍니다.

프로세스 설명

데이터 수집 프로세스는 그림 오른쪽에 빨간색 숫자로 표시되어 있습니다:

1. 다음 주소로 파일 업로드 아마존 심플 스토리지 서비스 (Amazon S3) 데이터 소스.
2. 새 파일은 람다 함수를 트리거합니다.
3. 람다 함수는 지식창고 데이터 소스에서 동기화 작업을 호출합니다.
4. Amazon Bedrock 지식 기반은 Amazon S3에서 데이터를 가져와서 덩어리로 만들고, 선택한 기본 모델(FM)에서 임베딩 벡터를 생성합니다.
5. 아마존 베드락 지식 베이스는 아마존 오픈서치 서비스에 임베딩 벡터를 저장합니다.

그림의 왼쪽은 메시지 전달 프로세스를 숫자로 나타냅니다:

1. 사용자는 WhatsApp을 통해 어딘가에 호스팅된 웹훅으로 메시지를 전송하여 커뮤니케이션을 시작합니다.
2. Amazon API 게이트웨이는 인바운드 메시지를 AWS Lambda가 수행하는 인바운드 메시지 프로세서로 라우팅합니다.
3. 인바운드 메시지 프로세서는 Amazon DynamoDB 사용자의 연락처 정보는 다음과 같이 기록됩니다.
4. 처음 사용하는 사용자의 경우 인바운드 메시지 프로세서가 Amazon Connect에서 새 세션을 생성하여 DynamoDB에 기록합니다. 재방문 사용자의 경우 기존 Amazon Connect 세션이 복원됩니다.
5. Amazon Connect는 자연어 처리를 위해 사용자 메시지를 Amazon Lex로 전달합니다.
6. 아마존 렉스는 람다 함수로 구현된 랭체인 AI 어시스턴트를 트리거합니다.
7. LangChain AI 어시스턴트는 DynamoDB에서 대화 기록을 검색합니다.
8. 랭체인 AI 어시스턴트인 아마존 베드락 지식 베이스를 사용하여 관련 맥락 정보를 얻으세요.
9. LangChain AI 어시스턴트는 힌트를 생성하고, 컨텍스트 데이터와 사용자 쿼리를 결합하여 Amazon Bedrock에서 실행되는 기본 모델에 제출합니다.
10. 아마존 베드락은 입력을 처리하고 모델의 응답을 랭체인 AI 어시스턴트에게 반환합니다.
11. 랭체인 AI 어시스턴트는 모델의 응답을 아마존 렉스에 다시 전달합니다.
12. Amazon Lex는 모델의 응답을 Amazon Connect로 전송합니다.
13. Amazon Connect는 다음에 대한 모델의 응답을 게시합니다. 아마존 간편 알림 서비스 (아마존 SNS).
14. Amazon SNS는 아웃바운드 메시지 프로세서 람다 기능을 트리거합니다.
15. 아웃바운드 메시지 프로세서는 Amazon DynamoDB에서 관련 채팅 연락처 정보를 검색합니다.
16. 아웃바운드 메시지 핸들러는 메타의 WhatsApp API를 통해 사용자에게 응답을 보냅니다.

이 AI 어시스턴트를 배포하는 데는 크게 세 가지 단계가 있습니다:

1. Amazon Bedrock 지식창고를 사용하여 지식창고를 만들고 관련 제품 설명서, 자주 묻는 질문(FAQ), 지식 문서 및 기타 유용한 데이터를 가져와 AI 어시스턴트가 사용자 질문에 답변하는 데 도움이 될 수 있도록 하세요. 데이터는 AI 어시스턴트가 지원하는 주요 사용 사례와 주제를 다루어야 합니다.
2. 만들기 LangChain 에이전트 를 사용하여 AI 어시스턴트의 로직을 구동합니다. 에이전트는 람다 함수로 구현되며 지식 베이스를 정보 검색을 위한 기본 도구로 사용합니다. 이 에이전트는 제공된 AWS 클라우드포메이션 템플릿 상담원 및 기타 리소스를 자동으로 배포하세요. 다음 섹션의 리소스 목록을 참조하세요.
3. 설정 Amazon Connect 인스턴스 을 클릭하고 WhatsApp 통합이를 통해 사용자는 익숙한 인터페이스를 제공하고 이미지 및 버튼과 같은 풍부한 상호작용을 지원하는 WhatsApp을 통해 AI 어시스턴트와 채팅할 수 있습니다. 이를 통해 사용자는 WhatsApp을 통해 AI 어시스턴트와 채팅할 수 있으며, 친숙한 인터페이스를 제공하고 이미지 및 버튼과 같은 풍부한 상호 작용을 지원합니다.WhatsApp의 인기로 인해 AI 어시스턴트의 접근성이 높아졌습니다.

솔루션 배포

사전 구축된 AWS 클라우드포메이션 AWS 계정에 필요한 모든 콘텐츠를 배포할 수 있는 템플릿입니다.

1. 아직 로그인하지 않았다면 로그인하세요. AWS 콘솔.
2. 다음 중에서 선택하세요. 스택 시작 버튼을 눌러 CloudFormation 콘솔 를 클릭하고 새 스택을 만듭니다.
3. 다음 매개변수를 입력합니다:
   • StackName스택의 이름을 지정합니다(예 WhatsAppAIStack
   • LangchainAPIKey통해 LangChain 생성된 API 키

해안	배포 버튼	템플릿 URL(기존 스택을 새 버전으로 업그레이드하는 경우)	AWS CDK 스택(필요에 따라 사용자 지정 가능)
북부 버지니아(미국 동부-1)		YML	GitHub

4. 확인란을 선택하여 생성 중임을 확인합니다. AWS ID 및 액세스 관리 (IAM) 리소스를 선택한 다음 스택 만들기.
5. 스택 생성이 완료될 때까지 기다립니다. 약 10분 정도 걸립니다. 완료되면 다음과 같은 스택이 생성됩니다:
   • LangChain 에이전트
   • 아마존 렉스 봇
   • 아마존 베드락 기술 자료
   • 벡터 스토리지(아마존 오픈서치 서버리스)
   • 람다(그리스 문자 ΛΛ)(데이터 가져오기 및 공급자용)
   • 데이터 소스(Amazon S3)
   • DynamoDB
   • 매개변수 저장소 LangChain API 키 저장에 사용
   • IAM 역할 및 권한
6. WhatsApp용으로 생성된 데이터 소스에 파일을 업로드합니다(Amazon S3). 파일을 업로드하면 데이터 소스가 자동으로 동기화됩니다.
7. Amazon Lex 콘솔에서 가장 최근에 생성된 테스트용 어시스턴트를 선택합니다. 선택 영어을 클릭한 다음 테스트 를 클릭하고 메시지를 보냅니다.

Amazon Connect 인스턴스 만들기 및 WhatsApp 통합하기

WhatsApp 엔터프라이즈 계정과 통합하도록 Amazon Connect를 구성하고 AI 어시스턴트를 위한 WhatsApp 채널을 사용 설정합니다:

1. 존재 AWS 콘솔의 Amazon Connect 에서 탐색 아직 인스턴스를 만들지 않았다면 인스턴스를 만듭니다. 인스턴스를 만들려면 배포 설정 복사 인스턴스 ARN이 정보는 나중에 WhatsApp 비즈니스 계정을 연결할 때 필요합니다. 이 정보는 나중에 WhatsApp 비즈니스 계정을 연결할 때 필요합니다.
2. 인스턴스를 선택한 다음 탐색 패널에서 다음을 선택합니다. 흐름. 아래로 스크롤하여 Amazon Lex. 로봇을 선택하고 Amazon Lex 봇 추가.
3. 탐색 패널에서 다음을 선택합니다. 개요. In 액세스 정보 낮은 옵션 긴급 액세스를 위해 로그인.
4. Amazon Connect 콘솔의 탐색 패널에 있는 라우팅 낮은 옵션 흐름. 선택 흐름 만들기. 에 고객 의견 얻기 블록을 프로세스로 드래그합니다. 블록을 선택합니다. 블록의 텍스트 음성 변환 또는 채팅 텍스트 을 클릭하고 "안녕하세요, 오늘은 무엇을 도와드릴까요?"와 같은 소개 메시지를 추가한 다음 아래로 스크롤하여 Amazon Lex그런 다음 2단계에서 생성한 Amazon Lex 봇을 선택합니다.
5. 블록을 저장한 후 '연결 해제'라는 다른 블록을 추가합니다. 블록에 항목 화살표는 고객 의견 얻기그리고 고객 의견 얻기 화살표는 연결 해제. 선택 게시.
6. 게시 후 탐색 패널 하단에서 다음을 선택합니다. 추가 흐름 정보 표시. 나중에 WhatsApp 연동 서비스를 배포할 때 이 정보가 필요하므로 프로세스의 ARN(Amazon 리소스 이름)을 복사합니다. 다음 스크린샷은 Amazon Connect 콘솔의 흐름을 보여줍니다.

7. ground Amazon Connect를 통해 WhatsApp 메시지를 채널로 제공 의 세부 정보를 사용하여 WhatsApp 통합을 배포하세요.

테스트 솔루션

아래 예시처럼 WhatsApp을 통해 AI 어시스턴트와 상호작용할 수 있습니다:

정리

지속적인 비용 발생을 방지하려면 리소스 사용을 마친 후 삭제하세요:

1. CloudFormation 스택을 삭제합니다.
2. Amazon Connect 인스턴스를 삭제합니다.

요약

이 문서에서는 통합 방법에 대해 설명합니다. 아마존 베드락및Amazon Lex 노래로 응답 Amazon Connect 스마트한 대화형 AI 어시스턴트를 만들어서 WhatsApp.

이 솔루션은 관련 데이터를 다음 위치로 가져옵니다. 아마존 베드락 지식 베이스 지식창고, 다음을 사용하여 LangChain 에이전트 실현, 지식 기반을 통한 질문 답변, 그리고 WhatsApp 사용자에게 액세스 인터페이스를 제공하세요. 이 솔루션은 사용자에게 회사의 제품 및 서비스를 안내하는 접근 가능한 지능형 AI 도우미를 제공합니다.

가능한 다음 단계로는 특정 사용 사례에 맞게 AI 어시스턴트를 사용자 지정하고, 지식창고를 확장하고, 다음 단계에 사용할 수 있는 LangSmith 대화 로그를 분석하여 문제를 파악하고, 오류를 개선하며, FM 통화 시퀀스의 성능 병목 현상을 분석하세요.