年生の2学期に、友人にGPT-4モデルを無料で体験してもらおうと、特別にプロジェクトを立ち上げた中学生がいた。
8年目の夏までに、彼はプロジェクトをオープンソース化することを決め、正式に「チャット・ニオ」と名付け、プロジェクトをワンストップのLLMモデル管理プラットフォームと位置づけた。
年目の終わり(今年初め)には、チャット・ニオ・プロジェクトは月5Wの収入を得るようになった。
中間テストの直後、プロジェクトは買収され、著者はCTOになりながら人生初の100Wを獲得した...。
中学生が何をしているかを見て、自分を見て...。
前置きが長くなったが、チャット・ニオ・プロジェクトを見てみよう。
一言で言えば、Chat NioはNext WebとOne APIを究極に進化させたものだ。
なぜChat Nioが必要なのですか? 現在のAIGCビジネス・プラットフォームは、主に2つのカテゴリーに分類されます:
には チャットGPT ネクスト・ウェブは軽量なデプロイメント・プロジェクトである:
洗練されたユーザーインターフェース
✅ 便利な個人配備
対話の同期は、複雑な WebDav の設定に依存します。
❌ 単一課金モデル
❌ 文書の扱いやすさの欠如
❌ 完全な API 配布機能の欠如
One APIに代表されるAPI配布プロジェクト:
✅ 強力なチャネル・マネジメント
完全な API 配布
❌ 直感的なユーザーインターフェースの欠如
課金モデル ❌ 技術系ユーザーに有利
機能性はBエンドに有利、Cエンドのエクスペリエンスは劣る
チャット・ニオは、美しいユーザー・インターフェースと強力なバックエンド機能を備えた、まさにワンストップのビジネス・ソリューションです。
このプロジェクトは現在、GitHubで7.2Kスターを獲得しており、現在も増え続けている。
コア機能一覧 1. 豊富なモデルをサポート
チャット・ニオは、以下の主要な言語モデルをサポートしています:
OpenAIフルシリーズ(ビジョン・機能呼び出し付き)
アンソロピック クロード 範囲
グーグル インターネット企業 ジェミニ & PaLM2
旅の途中 (U/V/R操作に対応)
迅飛スターファイア、ウィズダムスペクトラムクリアスピーチなど国内モデル
GroqやLocalAIのような新しいモデルもある。
2.エンタープライズレベルのチャネル管理 マルチチャネル管理:複数のアップストリームチャネルの同じモデル構成をサポートします。
優先順位設定:チャンネル呼び出し順をカスタマイズ可能
ウェイト分散:同じ優先順位のチャンネルの負荷分散をサポート
ユーザーグループ分け:ユーザーグループごとに異なるチャンネルを設定可能
リトライに失敗:自動的に代替チャンネルに切り替わる
モデルのリダイレクト:モデルのエイリアシングとマッピングのサポート
3.充実したビジネス機能
二重課金モデル:
サブスクリプション: 月額/年額定額パッケージ
柔軟な課金:従量課金、カスタマイズされた為替レートのサポート
複数の交換コード:
ギフトコード:1種類1回限り
引き換えコード:再利用可能、カード発行に最適
対話の同期と共有:
ゼロ・コンフィギュレーションでのクロスエンド同期
URL共有機能
画像のエクスポート機能
4.優れたユーザー・エクスペリエンス
美しいUIデザイン:
PC/パッド/モバイル対応
ライトテーマとダークテーマの両方をサポート
完全な国際化サポート
強力なMarkdownサポート:
LaTeX数式レンダリング
マーメイド・チャート
コードハイライト
テーブル・レンダリング
文書処理能力:
PDF、Word、PPT、その他のドキュメント分析
OCR 画像認識
S3/R2/MinIOストレージのサポート
デプロイメント・ソリューション Chat Nioは、Pagoda、Docker、K8Sなど、様々なシナリオに合わせたデプロイメント方法を提供しています。
技術的なバックグラウンドを持たない学生にとって、インストールを心配する必要はない。Sealos App Store [2]は、アプリケーション・テンプレートをワンクリックでデプロイでき、バックエンドのインターフェースはPostgreSQLで、キャッシュとしてRedisを使用しているため、弾力性とスケーラビリティを自由に感じることができる。また、デプロイはマウスをクリックするだけで行えるので、非常にスムーズだ。
チャット・ニオを素早くデプロイしたいが、面倒なインストールや設定プロセスに煩わされたくないなら、Sealosを試してみよう。
Chat Nioアプリケーションテンプレートを直接開きます:
https://template.hzh.sealos.run/deploy?templateName=chatnio
そして、右上にある "Go to Sealos Deployment "をクリックします。
Sealos[1]を初めて使用する場合は、Sealosパブリッククラウドアカウントに登録しログインする必要があります。
何も入力する必要はありません。右上の「Deploy Application」をクリックするだけでデプロイが開始されます。デプロイが完了したら、すべてのコンポーネントが "Running "になるのを待ち、"Details "をクリックしてアプリの詳細ページに入ります。
公開アドレスをクリックすると、チャット・ニオのUIが開く。
デフォルトのユーザー名は ルート
パスワードは チャットニオ123456
.
ログイン後、右下のプロンプトに従ってバックグラウンド管理インターフェイスに入り、パスワードを変更します。
また、サイトの様々な情報や設定を変更することもできます。
チャネル管理 チャネル管理はChat Nioシステムの中核機能モジュールで、複数のAIモデルサービスプロバイダのインターフェースを柔軟に設定・管理することができます。このモジュールを通じて、ユーザは様々なビジネスニーズやパフォーマンス要件に合わせて、様々なAIチャネルを簡単に追加、編集、削除、最適化することができます。
主な特長 柔軟なチャネル設定:ユーザーは、APIキーの設定、モデル・パラメータの調整、その他の主要な設定を含め、複数のAIサービス・プロバイダーを簡単に追加・管理できる。
強力なフォーマット互換性:アダプターモードを採用し、OpenAI、Anthropicなどの主流サービスプロバイダをカバーする10種類以上のチャネルタイプとのシームレスな互換性を実現し、システムの拡張性と適応性を大幅に向上させます。
インテリジェントな優先順位管理:異なるチャンネルに優先順位を設定できるため、システムは優先順位の高いチャンネルを優先的に呼び出し、リソースの最適な割り当てを実現します。
きめ細かなウェイト配分メカニズム:同じ優先順位のチャンネル間で、各チャンネルが選択される確率をウェイトシステムによって精密に制御し、よりバランスの取れた負荷分散を実現する。
包括的なリアルタイム・モニタリング:リクエスト量、応答時間、エラー率、その他の重要な指標を含むチャネル・ステータスの詳細なリアルタイム・モニタリングを提供し、管理者がシステム運用状況を常に把握できるようにします。
インテリジェント・フェイルオーバー:優先度の高いチャネルの障害が検出されると、システムは自動的に優先度の低いチャネルに切り替え、サービスの継続性と信頼性を保証します。
マルチキー・ロードバランシング:単一のチャネル内で複数のAPIキーの設定をサポートし、ロードバランシング機能とサービス全体の安定性を大幅に向上させます。
柔軟なモデルのカスタマイズ:特定のビジネスニーズや革新的なアプリケーションシナリオを満たすために、カスタムAIモデルを追加および構成する機能をユーザーに提供します。
きめ細かなユーザー権限制御:さまざまなユーザーグループに合わせたチャネルアクセス権限をサポートし、より安全で的を絞ったリソース割り当てを実現。
チャンネルを追加するには、手動で追加する方法と、自動アップストリーム同期で追加する方法があります。
手動でチャンネルを追加するまず、[チャンネルを追加]ボタンをクリックして手動でチャンネルを追加してみましょう:
名前、タイプ、プライオリティ、ウェイト、サポートされるモデル(カスタマイズ可能なモデル)、モデルマッピング(具体的なドキュメントについては、以下の「モデルマッピングの仕組み」を参照)、ユーザグルーピング、フォワードプロキシなど、チャネルの情報をポップアップフォームに入力します。
選択したチャネル・タイプのプロンプトに従って、対応する API キーなどの設定情報を入力します。
既存のチャンネルをお持ちでない場合は、シーロスのAIプロキシ・サービスをご利用ください: https://sealos.run/docs/5.0.0/user-guide/ai-proxy/
AI ProxyはSealosプラットフォームが提供するワンストップのAIモデル呼び出しソリューションで、開発者は統一されたプラットフォームで様々なAIモデルを簡単に呼び出し、管理することができます。同義乾棋、文心怡印、その他のAIモデルであろうと、統一されたインターフェイスで呼び出すことができます。
AIプロキシの使用方法は非常に簡単で、まずブラウザをSealosデスクトップに入れます: https://hzh.sealos.run
そして、[AI Proxy]を開き、[New]ボタンをクリックして新しいKeyを開始する。
APIエンドポイントを作成すると、呼び出しに必要なAPIエンドポイントとAPIキーが表示されるので、そのままコピーをクリックして利用することができます。
チャットNioチャンネル設定にAPIエンドポイントとAPIキー、チャンネルに追加するモデル名を入力します。
ドッキング・アップストリーム]をクリックするだけ:
SealosのAIプロキシを例にとると、[Docking Upstream]をクリックすると、上流のAPI EndpointとAPI Keyを入力するフォームがポップアップ表示されます。
確認」をクリックすると、すべてのモデルが同期されます。
その後、右下にある「確認」ボタンをクリックして、上流のドッキングを完了します。
その他の設定方法については、ここでは説明しない。自分で設定する場合は、公式ドキュメントを参照されたい。https://www.chatnio.com/docs/introduction
結論から言うと、中学生がこのような製品を作るというのは非常に衝撃的だ。チャットNioは、現在のAIGCプラットフォームのペインポイントを解決しているだけでなく、美しいインターフェイス、強力な機能など、製品を完璧なものにしている。多くの人が独自のAIプラットフォームを構築するためにこの製品を使うのも頷ける。
それにしても、この話を聞いていると、最近の若者はみんなそんなに素晴らしいのだろうか、という疑問も浮かんでくる。あなたの周りで、同じような「才能ある若者」に出会ったことはありますか?あなたのエピソードをコメント欄でお聞かせください。
ちなみに、このプロジェクトが良いと思ったら、スターを贈ってこの子を応援するのをお忘れなく!もしかしたら、次に天才を発見するのはあなたかもしれない。
7Kスター!中学生が大型モデル管理プラットフォームを開発し、100Wを稼いだ!
おすすめ
- ComfyUI Desktop Editionへようこそ!
- OpenAIチーフ・プロダクト・オフィサー1万字インタビュー:AI時代にプロダクトマネージャーが優れた製品を作る方法
- エクセルの新機能「コパイロット」:Ignite 2024カンファレンスで新たな人気者に
- コパイロット・ページは完全に利用可能で、コパイロットのサブスクリプションや科学は必要ありません!
- ChatGPT メジャーアップグレード!新しいGPT-4oはより人間に近い書き方をします!
- voyage-3およびvoyage-3-lite:小型で強力な新世代の汎用エンベッディング・モデル
- ヘビー級!世界初の分散型10Bモデル、1週間でオープンソースに!
- SharePointのCopilotエージェント・インテリジェンスが正式リリース