H2O GPT: 네이티브 AI 대화 및 문서 처리 도구의 유연한 구성

일반 소개

H2O GPT는 비공개 채팅 및 문서 처리 기능을 제공하는 것을 목표로 하는 오픈 소스 프로젝트입니다. 이 프로젝트는 Apache 2.0 라이선스를 기반으로 하며 LLaMa2, 미스트랄, 팔콘 등을 포함한 다양한 GPT 모델을 지원합니다. 사용자는 H2O GPT로 로컬 문서(예: PDF, Excel, Word, 이미지, 동영상 등)를 쿼리하고 요약하여 데이터 프라이버시와 보안을 보장할 수 있으며, 효율적인 컨텍스트 사용과 병렬 요약 추출을 제공하고, GPU 및 CPU용 다중 모델을 지원하며, 문서 관리, 지식 기반 구축, 스마트 Q&A 등 다양한 애플리케이션 시나리오에 적합합니다. Q&A 등 다양한 응용 시나리오에 적합합니다. H2O GPT는 GPU와 CPU에서 효율적인 컨텍스트 사용과 병렬 요약 추출을 제공합니다.

기능 목록

• 비공개 채팅: 비공개 채팅을 위한 로컬 GPT 모델 지원.
• 파일 처리PDF, Excel, Word, 이미지, 동영상 등 다양한 문서 형식의 쿼리 및 요약을 지원합니다.
• 다중 모델 지원LLaMa2, 미스트랄, 팔콘 및 기타 여러 GPT 모델과 호환됩니다.
• 효율적인 컨텍스트 사용랭체인의 숏샷 방식 없이 인스트럭터 튜닝된 LLM을 사용합니다.
• 병렬 요약 추출요약 추출의 효율성을 높이기 위해 병렬 처리를 지원합니다.
• GPU 및 CPU 지원다양한 하드웨어 구성과 호환되며 GPU와 CPU의 효율적인 작동을 지원합니다.
• 라디오 UI 또는 CLI사용자 친화적인 인터페이스와 명령줄 인터페이스를 제공합니다.
• 이미지 생성안정적인 확산과 같은 이미지 생성 모델을 지원합니다.
• 음성 인식 및 합성: 지원 Whisper 음성 인식 및 다중 음성 합성 모델.

도움말 사용

설치 프로세스

1. 복제 프로젝트터미널에서 다음 명령을 실행하여 H2O GPT 프로젝트를 복제합니다:

   git clone https://github.com/h2oai/h2ogpt.git
cd h2ogpt

2. 종속성 설치다음 명령을 사용하여 프로젝트 종속성을 설치합니다:

   pip install -r requirements.txt

3. 구성 환경필요에 따라 수정 .env 구성 매개변수를 파일에 추가합니다.
4. 서비스 시작: 다음 명령을 실행하여 H2O GPT 서비스를 시작합니다:

   python app.py

사용 가이드라인

비공개 채팅

1. 채팅 인터페이스 시작하기액세스 http://localhost:5000 Gradio UI 인터페이스를 엽니다.
2. 모델 선택인터페이스에서 원하는 GPT 모델(예: LLaMa2, Mistral 등)을 선택합니다.
3. 입력 문제입력란에 질문 또는 문의 사항을 입력하고 '보내기' 버튼을 클릭합니다.
4. 결과 보기생성된 답변 또는 문서의 요약을 반환합니다.

파일 처리

1. 문서 업로드Gradio UI에서 '문서 업로드' 버튼을 클릭하고 처리할 문서 파일을 선택합니다.
2. 치료법 선택'문의' 또는 '요약' 기능을 선택하고 관련 문의 또는 요약 요청을 입력합니다.
3. 결과 보기처리된 문서의 내용 또는 요약 정보를 반환합니다.

이미지 생성

1. 이미지 생성 모델 선택라디오 UI 인터페이스에서 안정적 확산과 같은 이미지 생성 모델을 선택합니다.
2. 입력 설명입력 상자에 이미지에 대한 설명을 입력하고 '생성' 버튼을 클릭합니다.
3. 생성된 이미지 보기: 시스템이 생성된 이미지를 반환하며, 사용자는 이를 다운로드하거나 추가로 편집할 수 있습니다.

음성 인식 및 합성

1. 오디오 파일 업로드: 라디오 UI 인터페이스에서 '오디오 업로드' 버튼을 클릭하고 처리할 오디오 파일을 선택합니다.
2. 치료법 선택'음성 인식' 또는 '음성 합성' 기능을 선택하고 관련 매개변수를 입력합니다.
3. 결과 보기시스템이 인식된 텍스트 또는 합성된 음성 파일을 반환합니다.