はじめに
H2O GPTは、プライベート化されたチャットとドキュメント処理機能を提供することを目的としたオープンソースプロジェクトである。このプロジェクトはApache 2.0ライセンスに基づいており、LLaMa2、Mistral、Falconなどの様々なGPTモデルをサポートしている。H2O GPTは、効率的なコンテキストの使用と並列要約抽出を提供し、GPUとCPUのための複数のモデルをサポートし、文書管理、知識ベース構築、スマートQ&Aなどの様々なアプリケーションシナリオに適しています。H2O GPTは、GPUとCPU上で効率的なコンテキスト利用と並列ダイジェスト抽出を提供します。
機能一覧
- プライベートチャットローカルGPTモデルがプライベートチャットをサポート。
- ファイル処理PDF、Excel、Word、画像、動画など、複数のドキュメント形式でのクエリーとサマリーをサポートします。
- マルチモデル対応LLaMa2、Mistral、Falcon、その他多くのGPTモデルに対応。
- 効率的なコンテクスト利用インストラクター・チューニングされたLLMをLangChainの数発法を使わずに使う。
- 並列サマリー抽出要約抽出の効率を高めるために並列処理をサポートする。
- GPUとCPUのサポート幅広いハードウェア構成に対応し、GPUとCPUの効率的な動作をサポートします。
- Gradio UIまたはCLIユーザーフレンドリーなインターフェイスとコマンドラインインターフェイスを提供します。
- 画像生成Stable Diffusionなどの画像生成モデルをサポート。
- 音声認識と合成サポート ウィスパー 音声認識と複数の音声合成モデル。
ヘルプの使用
設置プロセス
- クローンプロジェクトターミナルで以下のコマンドを実行し、H2O GPTプロジェクトをクローンする:
git clone https://github.com/h2oai/h2ogpt.git
cd h2ogpt
- 依存関係のインストール以下のコマンドを使用して、プロジェクトの依存関係をインストールします:
pip install -r requirements.txt
- 設定環境必要に応じて修正する
環境
ファイル内のコンフィギュレーション・パラメーター。 - サービス開始次のコマンドを実行して、H2O GPTサービスを開始します:
python app.py
使用ガイドライン
プライベートチャット
- チャットインターフェースの起動アクセス
http://localhost:5000
Gradio UIインターフェイスを開く。 - モデルを選択LLaMa2、Mistralなど、インターフェイスで希望のGPTモデルを選択します。
- 入力の問題ご質問・お問い合わせ内容を入力し、「送信」ボタンをクリックしてください。
- 結果を見る生成された回答や文書の概要を返します。
ファイル処理
- 文書のアップロードGradio UIで、「文書のアップロード」ボタンをクリックし、処理したい文書ファイルを選択します。
- 治療法の選択照会」または「要約」機能を選択し、該当する照会または要約依頼を入力する。
- 結果を見る処理した文書の内容や概要情報を返します。
画像生成
- 画像生成モデルの選択Gradio UIインターフェースで、Stable Diffusionなどの画像生成モデルを選択します。
- 入力内容入力ボックスに画像の説明を入力し、"Generate "ボタンをクリックします。
- 生成された画像を見る生成された画像はダウンロードしたり、ユーザーが編集することができます。
音声認識と合成
- オーディオファイルのアップロードGradio UIのインターフェイスで、"Upload Audio "ボタンをクリックし、処理したいオーディオファイルを選択します。
- 治療法の選択音声認識」または「音声合成」機能を選択し、関連するパラメータを入力します。
- 結果を見る認識されたテキストまたは合成された音声ファイルが返されます。