はじめに
Harborは、ローカルAI開発環境のデプロイと管理を簡素化することに焦点を当てた、画期的なコンテナ化LLMツールセットです。開発者は、簡潔なコマンドラインインターフェイス(CLI)とサポートアプリケーションを通じて、ワンクリックでLLMバックエンド、APIインターフェイス、フロントエンドインターフェイスなど、すべてのAIサービスコンポーネントを起動し、管理することができます。オープンソースプロジェクトであるHarborは、LLMアプリケーションの迅速な構築と実験を必要とする開発者に特に適しています。HarborはApache 2.0オープンソースプロトコルを採用し、活発なコミュニティサポートがあり、GitHubで770以上の星付きラベルを獲得しており、多くの開発者に認知され利用されている。
機能一覧
- ワンクリック・デプロイメント: コマンド1つで完全なLLMサービス環境を開始できます。
- コンテナ管理:サービス・オーケストレーションのためのDockerとDocker Composeの統合
- マルチバックエンドのサポート:様々なLLMエンジンとモデル形式(GGUF、SafeTensorsなど)に対応しています。
- サービス統合: 事前に設定されたAPIサービスとフロントエンド・インターフェイスの連携
- 開発ツール:完全なローカル開発ツールチェーンを提供
- 構成の柔軟性:カスタム・サービス・コンポーネントと構成オプションのサポート
- SSL証明書:組み込みのCertbotサポートにより、HTTPSアクセスを簡単に設定できます。
- 環境移行:設定のエクスポートをサポートし、本番環境への移行が容易。
- 監視管理:サービス状態の監視とログ表示機能を提供。
- バージョン管理:AIサービス・コンポーネントの異なるバージョンの管理をサポートする。
ヘルプの使用
1.環境準備
1.1 システム要件
- オペレーティング・システム:Linux、MacOSまたはWindows WSL2をサポート
- ドッカーエンジン20.10以上
- Docker Compose 1.18.0 以上
- Node.js 16以上(オプション、npmインストール方式用)
1.2 ハーバーのインストール
# 方法1: npmを使ってインストールする
npm install -g @avlab/harbor
# 方法2: curlを使ってインストールする
curl -sfL https://get.harbor.ai | sh
2.基本的な使い方
2.1 サービスの開始
# Harbor環境の初期化
Harbor init
#全サービス開始
Harbor up
# サービスの状態を確認する
ハーバー ps
2.2 サービス構成
# モデルパスの設定
harbor config set models.path /path/to/models
# 特定のサービスを有効にする
チャットを有効にする
apiを有効にする
サービスを無効にする
サービス名を無効にする
3.高度な機能
3.1 SSL証明書の設定
# 環境変数の設定
export NGINX_SSL_CERT_FILENAME=fullchain.pem
export NGINX_SSL_CERT_KEY_FILENAME=privkey.pem
export CERTBOT_DOMAIN=your_domain.com
エクスポートCERTBOT_EMAIL=your@email.com
# 証明書の取得
sslのセットアップ
3.2 カスタム設定
# エクスポート・コンフィギュレーション
ハーバー取り出し
# 設定ファイルの修正
vim harbor.yaml
# カスタム設定で起動
harbor up -c custom-config.yaml
4.共通の操作手順
4.1 新サービスの展開
- サービス一覧をチェック
港湾リスト
- 必要なサービスを有効にする:
Harbor enable <サービス名
- サービスパラメータを設定する:
港湾設定セット <値
- サービスを開始する:
ハーバーアップ
- サービスステータスを確認する:
ハーバーPS
4.2 問題の特定
# サービスログの表示
サービスログ <サービス名
# サービスステータスの確認
ハーバー・ステータス
# サービスを再起動する
harbor restart <サービス名
5.ベストプラクティス
- 設定ファイルの定期的なバックアップ
- バージョン管理によるカスタム設定の管理
- サービス・リソースの使用状況の監視
- ハーバーと関連部品を常に最新の状態に保つ
- プロジェクトプリセットでデプロイプロセスを加速
インストール可能なAIサービス
ユーザー
WebUIを開く ⦁︎ ComfyUI ⦁︎ リブレチャット ⦁︎ ハグ顔チャットUI ⦁︎ ローブ・チャット ⦁︎ ホラマ ⦁︎ パーラマ ⦁︎ バイオニックGPT ⦁︎ 何でもLLM ⦁︎ チャット・ニオ
バックエンド・サービス
オーラマ ⦁︎ ラマ.cpp ⦁︎ ブイエルエルエム ⦁︎ タビーAPI ⦁︎ アフロディーテ・エンジン ⦁︎ ミストラル ⦁︎ 開会挨拶 ⦁︎ より高速なウィスパーサーバー ⦁︎ パーラー ⦁︎ テキスト生成推論 ⦁︎ LMDeploy ⦁︎ AirLLM ⦁︎ SGLang ⦁︎ Kトランスフォーマー ⦁︎ ネクサSDK
拡張ツール
ハーバー・ベンチ ⦁︎ ハーバー・ブースト ⦁︎ SearXNG ⦁︎ ペルプレクシカ ⦁︎ ダイファイ ⦁︎ プランデックス ⦁︎ LiteLLM ⦁︎ ラングヒューズ ⦁︎ オープン通訳 ⦁ ︎クラウドフレアード ⦁︎ cmdh ⦁︎ ファブリック ⦁︎ txtai RAG ⦁︎ テキストグラッド ⦁︎ 助っ人 ⦁︎ アイチャット ⦁︎ オムニチェイン ⦁︎ LM評価ハーネス ⦁︎ ジュピターラボ ⦁︎ ol1 ⦁︎ オープンハンズ ⦁︎ ライトリティクス ⦁︎ リポパック ⦁︎ n8n ⦁︎ ボルト・ニュー ⦁︎ WebUIパイプラインを開く ⦁︎ クドラント ⦁︎ K6 ⦁︎ プロンプトフー ⦁︎ ウェブトップ ⦁︎ オムニパーサー ⦁︎ フロワイズ ⦁︎ ラングフロー ⦁︎ オプティLLM
こちらも参照 サービス・ドキュメンテーション 各サービスの概要をご覧ください。
HarborでOpen WebUIをインストールする詳細手順
1.事前準備
- DockerとDocker Composeがインストールされていることを確認する。
- Harbor CLIが正しくインストールされていることを確認します。
- システムが基本要件を満たしていること(8GB以上のRAMを推奨)
2.ハーバー環境の初期化
# Harbor環境の初期化
ハーバー初期化
# Harbor環境の検証
ハーバー・ドクター
3.OpenWebUIのインストールと設定
3.1 WebUIサービスを有効にする
# オープンWebUIサービスを有効にする
WebUIを有効にする
3.2 基本パラメータの設定(オプション)
# WebUIのバージョンを設定する(特定のバージョンを指定する必要がある場合)
harbor webui version <バージョン
# WebUIのポートを設定します(デフォルトは8080)。
harbor config set webui.port を設定します。
4.サービスの活性化
# WebUIを含むすべての有効なサービスを開始する
起動
#またはWebUIサービスのみ起動
WebUIを起動する
5.インストールの検証
- http://localhost:8080(または設定した他のポート)にアクセスする。
- サービスのステータスを確認する:
ハーバーPS
6.共通管理コマンド
サービス状況の確認
# 実行中のサービスをすべて表示する
ハーバー ps
# WebUI ログを表示する
ハーバー ログ WebUI
サービス管理
# WebUIサービスの停止
港湾停止WebUI
# WebUIサービスを再起動する
ハーバー・リスタート・ウェブイ
# WebUIのバージョンを更新する
ハーバーWebUIバージョン最新
港湾WebUIを再起動する
7.オッラマの統合(オプション)
WebUI を使用して Ollama に接続する場合:
# Ollamaサービスを有効にする
ハーバーイネーブル オラマ
#リスタートサービス
港湾再開
8.よくある問題のトラブルシューティング
サービスの健康状態の確認
ハーバー・ドクター
特定のエラーメッセージを表示する
ハーバーログ
港湾紛争の解決
8080番ポートが占有されている場合:
# WebUIポートの変更
ハーバー設定 webui.port 8081
WebUIを再起動
9.設定ファイルの場所
- メイン設定ファイル:
~/.harbour/.env
- WebUIの設定:
~/.harbour/open-webui/
10.バックアップに関する推奨事項
# 現在の設定をエクスポートする
harbor eject > harbor-backup.yaml
警告だ:
- システムにサービスを実行するのに十分なリソースがあることを確認する。
- 最初のブートは、イメージのダウンロードに時間がかかるかもしれない
- パーミッションの問題が発生した場合は、Dockerのパーミッション設定を確認してください。
- 設定ファイルの定期的なバックアップを推奨
- ハーバーと関連サービスを常に最新バージョンにアップデートする。
はじめに
1.インストール完了後、ブラウザを開き、http://localhost:8080。
2.初回は基本的な設定を求められます。
3.AI対話のOpen WebUIの使用を開始できます。
ヘルプが必要な場合は
バッシュ
ハーバーヘルプウェブイ