序文
少し前に、主にブログのAI要約機能のために、あまり使っていないAPIをいくつか手元にためておいた。これらのプラットフォームのアカウント・パスワードをよく忘れてしまうので、OneAPIを使って一元管理することにした。OneAPIの作者が提供する徹底したチュートリアルにもかかわらず、一部のユーザー(私を含む)は、デプロイ時にいくつかの小さな問題に遭遇した。そのため、デプロイを成功させた後、私はこの詳細なデプロイメントガイドを書くことにしました。
プロジェクト
OneAPIプロジェクト は、OpenAIのChatGPT、Azure、Anthropic Claude、Google PaLM 2やGoogle PaLM 2のような大規模な言語モデルを幅広くサポートする、オープンなインターフェース管理・配布システムです。 ジェミニ など。鍵の管理と再配布を目的としており、単一の実行ファイルまたはDockerを介してデプロイすることができ、さまざまな大規模言語モデルにアクセスするためのシンプルで統一されたAPIを提供します。このシステムはMITライセンスのオープンソースであり、モデルのサポート、トークン管理、ユーザーグループ管理などの機能を提供する。デプロイと設定の手順については、プロジェクトのGitHubリポジトリとドキュメントを参照してください。
プロジェクト
このプロジェクトは、デプロイプロセスを簡素化するDockerイメージを提供する。より簡単にデプロイできる。
デフォルトではSQLiteデータベースが使用され、SQL_DSN環境変数が設定されていない場合、データベースファイルはDockerコンテナで指定されたパスに保存されます。SQL_DSN環境変数が設定されている場合、アプリケーションは指定したMySQLまたはPostgreSQLデータベースに接続します。これは、イメージを再デプロイまたはプルしたときに、以前の変更が失われないようにするためです。
意図する
- RenderやZeaburなど、Dockerをサポートする無料のコンテナ・プラットフォーム。
- MySQLまたはPostgreSQLデータベース(オプション。)
- ドメイン名(オプション)。
展開ステップ
- Hugging Face : 高速だが、バインドされたドメイン名には対応していないため、国内のアクセスは制限される可能性がある。
- レンダー : バンドルドメインに対応しています。登録にはバンドルクレジットカードが必要な場合があります。
- Koyeb : バンドルドメインはサポートされています。
- Zeabur : 高速アクセス、中国語サポート、Dockerイメージのデプロイにはアップグレードプランが必要。
配備プロセス
huggingface 展開
1.Dockerイメージをコピーする
ボタンをクリックワンクリックでミラーコピー THEME(デフォルトやベリーなどのインターフェース・テーマ)とSQL_DSN(データベース接続)を設定する。以下に詳細を列挙する。
各テーマの効果は以下の通りなので、好みに合わせて選んでほしい。
デフォルトテーマ
ベリーのテーマ
2.データベースの設定
- aivenやPlanetscaleのようなフリーのデータベースサービス、またはRenderやKoyebに付属しているフリーのデータベースを使用する。プロジェクト用に環境変数SQL_DSNを設定する。
- MySQL の例。 SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
- PostgreSQL の例。 SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi
2.1登録とログイン入った。 アイブン プラットフォームに登録するか、アカウントにログインしてください。
2.2情報を記入するパーソナルサービス」を選択し、基本情報を入力します。
2.3データベースの選択MySQLデータベースまたはPostgreSQLデータベースを選択します。
2.4データベース構成無料プランにチェックを入れ、サービスエリアを選択し、最後に「作成」をクリックします。
2.5最終構成図の中の情報を記憶して、全部飛ばしをタップしてください。覚えていなくても、全部飛ばした後に見ることができるので問題ありません。
3.変数を埋める
図のデータベース情報を基にすると、このようになる:
サービスURI。
mysql://CLICK_TO:REVEAL_PASSWORD@mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906/defaultdb?ssl-mode=必需
ホストだ。
mysql-12a9c26-jonastech007-2d92.b.aivencloud.com
ポート
10906
ユーザー
アブナドミン
パスワード
AVNS_QV8niFI8YW48vKqxi3R
リンク先のアドレスは、次のように記述します: username:password@tcp(ホスト:ポート)/データベース名
結局、avnadmin:AVNS_QV8niFI8YW48vKqxi3R@tcp(mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906)/defaultdb となりました。
このリンクを変数に入力し、最後にスペースにコピーをクリックする。 重複スペース
4.アクセス
の右上をクリックすることで設定を見つけることができる。このスペースを埋め込む当社サービスへのアクセスは、以下のリンクからご利用いただけます。
コイエブ配備
1.クリックして入るコイェブ 公式サイトにログインして登録したら、「Create Web Service」をクリックしてドッカーイメージを選択する。
2.入力ボックスに、justsong/one-api:latestと入力してください。compose.yml.
バージョン: '3.4
サービスを提供する。
one-api。
image: "${REGISTRY:-docker.io}/justsong/one-api:latest"
コンテナ名:one-api
再起動:常に
命令: --log-dir /app/logs
ポートだ。
- "3000:3000"
巻。
- ./data/oneapi:/data
- ./logs:/app/logs
環境にある。
- SQL_DSN=oneapi:123456@tcp(db:3306)/one-api # データベースとしてSQLiteを使用するには、この行を修正するか、コメントアウトする。
- REDIS_CONN_STRING=redis://redis
- SESSION_SECRET=random_string # ランダム文字列に変更
- TZ=アジア/上海
# - NODE_TYPE=slave # マルチコンピュータ展開のスレーブノードの場合は、この行をコメントアウトしない。
# - SYNC_FREQUENCY=60 # データベースから定期的にデータをロードする必要がある場合は、この行のコメントを外します。
${REGISTRY:-docker.io}は、環境変数REGISTRYが設定されていない場合、デフォルトのdocker.io(Docker Hub)を使用することを示す環境変数式です。
justsong/one-api:latestはイメージの名前とラベルを指定します。justsongはDocker Hub上のユーザー名または組織名、one-apiはイメージ名、latestはこのイメージの最新バージョンが使用されることを示します。
3.必要な変数とリージョン情報を設定し、Deployボタンをクリックします。
4.デプロイが完了するのを待って、このアドレスをクリックしてOne APIにアクセスする。
5.デフォルトの管理者アカウントは
- ユーザー名:root
- パスワード:123456
変更はログイン後すぐにユーザーで行い、アカウントの安全を確保する。
使用方法
私の記事を読んでいただける方のほとんどが初心者であることを考慮して、簡単に使い方を説明しよう。上記のブログ記事で紹介した無料のAPI燃え立つ 例を挙げよう。
このことを覚えていない人は、自分で調べてもいいし、次のビデオを観てもいい。 このブログ記事
OneAPIの設定
1.OneAPI管理者アカウントにログインした後、次の場所を探します。用水堀クリック新チャンネル
2.チャネル名、チャネルAPIアドレスは、転送アドレスであり、単にその要求アドレスを記入し、サポートのモデルを選択し、API KEYを追加し、最後に送信することができます。
3.最後に 未試験 APIの接続性を測定する。
4.テスト終了後、以下のことができるようになる。トークン必要であれば、多くのAPIを追加した後にサイトを共有し、みんなに使ってもらうこともできます。もし望むなら、多くのAPIを追加した後にサイトを共有し、みんなに使ってもらうこともできます。
OneAPIのリクエスト・アドレスは、デフォルトではドメイン名になっていますが、設定で変更することもできます。