AIパーソナル・ラーニング
と実践的なガイダンス
讯飞绘镜

Harbor: ローカルのLLM開発環境をワンクリックでデプロイし、AIサービスを簡単に管理・実行するためのコンテナ化されたツールセット。

はじめに

Harborは、ローカルAI開発環境のデプロイと管理を簡素化することに焦点を当てた、画期的なコンテナ化LLMツールセットです。開発者は、簡潔なコマンドラインインターフェイス(CLI)とサポートアプリケーションを通じて、ワンクリックでLLMバックエンド、APIインターフェイス、フロントエンドインターフェイスなど、すべてのAIサービスコンポーネントを起動し、管理することができます。オープンソースプロジェクトであるHarborは、LLMアプリケーションの迅速な構築と実験を必要とする開発者に特に適しています。HarborはApache 2.0オープンソースプロトコルを採用し、活発なコミュニティサポートがあり、GitHubで770以上の星付きラベルを獲得しており、多くの開発者に認知され利用されている。

Harbor:一键部署本地LLM开发环境,轻松管理和运行AI服务的容器化工具集-1


 

Harbor:一键部署本地LLM开发环境,轻松管理和运行AI服务的容器化工具集-1

 

機能一覧

  • ワンクリック・デプロイメント: コマンド1つで完全なLLMサービス環境を開始できます。
  • コンテナ管理:サービス・オーケストレーションのためのDockerとDocker Composeの統合
  • マルチバックエンドのサポート:様々なLLMエンジンとモデル形式(GGUF、SafeTensorsなど)に対応しています。
  • サービス統合: 事前に設定されたAPIサービスとフロントエンド・インターフェイスの連携
  • 開発ツール:完全なローカル開発ツールチェーンを提供
  • 構成の柔軟性:カスタム・サービス・コンポーネントと構成オプションのサポート
  • SSL証明書:組み込みのCertbotサポートにより、HTTPSアクセスを簡単に設定できます。
  • 環境移行:設定のエクスポートをサポートし、本番環境への移行が容易。
  • 監視管理:サービス状態の監視とログ表示機能を提供。
  • バージョン管理:AIサービス・コンポーネントの異なるバージョンの管理をサポートする。

 

ヘルプの使用

1.環境準備

1.1 システム要件

  • オペレーティング・システム:Linux、MacOSまたはWindows WSL2をサポート
  • ドッカーエンジン20.10以上
  • Docker Compose 1.18.0 以上
  • Node.js 16以上(オプション、npmインストール方式用)

1.2 ハーバーのインストール

# 方式1:使用npm安装
npm install -g @avlab/harbor
# 方式2:使用curl安装
curl -sfL https://get.harbor.ai | sh

2.基本的な使い方

2.1 サービスの開始

# 初始化Harbor环境
harbor init
# 启动所有服务
harbor up
# 查看服务状态
harbor ps

2.2 サービス構成

# 配置模型路径
harbor config set models.path /path/to/models
# 启用特定服务
harbor enable chatui
harbor enable api
# 禁用服务
harbor disable service-name

3.高度な機能

3.1 SSL証明書の設定

# 设置环境变量
export NGINX_SSL_CERT_FILENAME=fullchain.pem
export NGINX_SSL_CERT_KEY_FILENAME=privkey.pem
export CERTBOT_DOMAIN=your_domain.com
export CERTBOT_EMAIL=your@email.com
# 获取证书
harbor ssl setup

3.2 カスタム設定

# 导出配置
harbor eject
# 修改配置文件
vim harbor.yaml
# 使用自定义配置启动
harbor up -c custom-config.yaml

4.共通の操作手順

4.1 新サービスの展開

  1. サービス一覧をチェックharbor list
  2. 必要なサービスを有効にする:harbor enable <service-name>
  3. サービスパラメータを設定する:harbor config set <param> <value>
  4. サービスを開始する:harbor up
  5. サービスステータスを確認する:harbor ps

4.2 問題の特定

# 查看服务日志
harbor logs <service-name>
# 检查服务状态
harbor status
# 重启服务
harbor restart <service-name>

5.ベストプラクティス

  • 設定ファイルの定期的なバックアップ
  • バージョン管理によるカスタム設定の管理
  • サービス・リソースの使用状況の監視
  • ハーバーと関連部品を常に最新の状態に保つ
  • プロジェクトプリセットでデプロイプロセスを加速

 

インストール可能なAIサービス

ユーザー

WebUIを開く ⦁︎ ComfyUI ⦁︎ リブレチャット ⦁︎ ハグ顔チャットUI ⦁︎ ローブ・チャット ⦁︎ ホラマ ⦁︎ パーラマ ⦁︎ バイオニックGPT ⦁︎ 何でもLLM ⦁︎ チャット・ニオ

バックエンド・サービス

オーラマ ⦁︎ ラマ.cpp ⦁︎ ブイエルエルエム ⦁︎ タビーAPI ⦁︎ アフロディーテ・エンジン ⦁︎ ミストラル ⦁︎ 開会挨拶 ⦁︎ より高速なウィスパーサーバー ⦁︎ パーラー ⦁︎ テキスト生成推論 ⦁︎ LMDeploy ⦁︎ AirLLM ⦁︎ SGLang ⦁︎ Kトランスフォーマー ⦁︎ ネクサSDK

拡張ツール

ハーバー・ベンチ ⦁︎ ハーバー・ブースト ⦁︎ SearXNG ⦁︎ ペルプレクシカ ⦁︎ ダイファイ ⦁︎ プランデックス ⦁︎ LiteLLM ⦁︎ ラングヒューズ ⦁︎ オープン通訳 ⦁ ︎クラウドフレアード ⦁︎ cmdh ⦁︎ ファブリック ⦁︎ txtai RAG ⦁︎ テキストグラッド ⦁︎ 助っ人 ⦁︎ アイチャット ⦁︎ オムニチェイン ⦁︎ LM評価ハーネス ⦁︎ ジュピターラボ ⦁︎ ol1 ⦁︎ オープンハンズ ⦁︎ ライトリティクス ⦁︎ リポパック ⦁︎ n8n ⦁︎ ボルト・ニュー ⦁︎ WebUIパイプラインを開く ⦁︎ クドラント ⦁︎ K6 ⦁︎ プロンプトフー ⦁︎ ウェブトップ ⦁︎ オムニパーサー ⦁︎ フロワイズ ⦁︎ ラングフロー ⦁︎ オプティLLM

こちらも参照 サービス・ドキュメンテーション 各サービスの概要をご覧ください。

 

HarborでOpen WebUIをインストールする詳細手順

1.事前準備

  • DockerとDocker Composeがインストールされていることを確認する。
  • Harbor CLIが正しくインストールされていることを確認します。
  • システムが基本要件を満たしていること(8GB以上のRAMを推奨)

2.ハーバー環境の初期化

# 初始化Harbor环境
harbor init
# 验证Harbor环境
harbor doctor

3.OpenWebUIのインストールと設定

3.1 WebUIサービスを有効にする

# 启用Open WebUI服务
harbor enable webui

3.2 基本パラメータの設定(オプション)

# 配置WebUI版本(如果需要指定特定版本)
harbor webui version <version>
# 配置WebUI端口(默认为8080)
harbor config set webui.port <port_number>

4.サービスの活性化

# 启动所有已启用的服务,包括WebUI
harbor up
# 或者仅启动WebUI服务
harbor up webui

5.インストールの検証

  • http://localhost:8080(または設定した他のポート)にアクセスする。
  • サービスのステータスを確認する:
harbor ps

6.共通管理コマンド

サービス状況の確認

# 查看所有运行中的服务
harbor ps
# 查看WebUI日志
harbor logs webui

サービス管理

# 停止WebUI服务
harbor stop webui
# 重启WebUI服务
harbor restart webui
# 更新WebUI版本
harbor webui version latest
harbor restart webui

7.オッラマの統合(オプション)

WebUI を使用して Ollama に接続する場合:

# 启用Ollama服务
harbor enable ollama
# 重启服务
harbor restart

8.よくある問題のトラブルシューティング

サービスの健康状態の確認

harbor doctor

特定のエラーメッセージを表示する

harbor logs webui

港湾紛争の解決

8080番ポートが占有されている場合:

# 修改WebUI端口
harbor config set webui.port 8081
harbor restart webui

9.設定ファイルの場所

  • メイン設定ファイル:~/.harbor/.env
  • WebUIの設定:~/.harbor/open-webui/

10.バックアップに関する推奨事項

# 导出当前配置
harbor eject > harbor-backup.yaml

警告だ:

  1. システムにサービスを実行するのに十分なリソースがあることを確認する。
  2. 最初のブートは、イメージのダウンロードに時間がかかるかもしれない
  3. パーミッションの問題が発生した場合は、Dockerのパーミッション設定を確認してください。
  4. 設定ファイルの定期的なバックアップを推奨
  5. ハーバーと関連サービスを常に最新バージョンにアップデートする。
开始使用:
1. 完成安装后,打开浏览器访问 http://localhost:8080
2. 首次访问时会要求进行基本设置
3. 可以开始使用Open WebUI进行AI对话了
需要帮助时可以使用:
```bash
harbor help webui
無断転載を禁じます:チーフAIシェアリングサークル " Harbor: ローカルのLLM開発環境をワンクリックでデプロイし、AIサービスを簡単に管理・実行するためのコンテナ化されたツールセット。
ja日本語