Ai2 OLMoE：オフラインで動作するOLMoEモデルに基づくオープンソースのiOS AIアプリ

はじめに

Ai2 OLMoEは、Allen Institute for AI (Ai2, Allen Institute for Artificial Intelligence)によって開発されたオープンソースのiOSアプリで、デバイス上で完全に動作するAIモデルを提供します。このアプリは、Ai2のオープンソースOLMoEモデルを活用しており、クラウド接続なしでオフラインで実行できるため、ユーザーのプライバシーとデータの安全性が確保されています。Ai2 OLMoEは、ローカルAIモデルの改善方法を研究する研究者に適しているだけでなく、新しいAI体験を迅速にプロトタイプ化するためのツールを開発者に提供します。

オンライン経験：https://playground.allenai.org/?model=olmoe-0125

機能一覧

• 完全なオープンソースAi2 OLMoEのモデルとアプリケーションコードは完全にオープンソースであり、研究者や開発者による実験や改良が容易になっています。
• 効率的な運用効率的なMix-of-Expertsを用いたデバイス上での高性能AI計算。
• プライバシーすべての操作はデバイス上で行われるため、ユーザーデータがデバイスから離れることはありません。
• 多機能統合OLMoEモデルを他のiOSアプリに統合し、機能を拡張することができます。
• 地域支援Ai2のDiscordサーバーに参加して、他の研究者や開発者とコミュニケーションをとり、プロジェクトや経験を共有しましょう。

ヘルプの使用

設置プロセス

1. App Storeを開き、"Ai2 OLMoE "を検索する。
2. Get "ボタンをクリックしてアプリをダウンロードし、インストールしてください。
3. インストールが完了したら、アプリを開き、初期設定のプロンプトに従ってください。

使用ガイドライン

AIモデルを体験

1. Ai2 OLMoEアプリケーションを開きます。
2. エクスペリエンス・モデル」オプションを選択して、モデルとの対話を開始する。
3. タスクを入力または選択し、モデルがどのように動作するかを観察する。

AIモデルの研究と改善

1. Ai2 OLMoEアプリをダウンロードしてインストールします。
2. アプリを開き、「リサーチモード」を選択する。
3. アプリケーション内で提供されるツールとデータセットを使用したモデルのトレーニングと改良。
4. 改良されたモデルをアプリケーションにアップロードし、そのパフォーマンスをテストする。

他のiOSアプリへの統合

1. Ai2 OLMoEのGitHubオープンソースリポジトリへのアクセス（リンクはアプリ内で提供されます）。
2. コードベースをダウンロードし、ドキュメントの指示に従って設定する。
3. iOSアプリに統合してOLMoEモデルの機能を拡張。

詳しい操作手順

1. ダウンロードとインストールApp StoreからAi2 OLMoEアプリを検索してダウンロードし、画面の指示に従ってインストールを完了します。
2. 初期設定アプリを開き、言語の選択やプライバシー設定などの初期設定を行います。
3. 体験型モデルエクスペリエンス・モード」を選択し、タスクを入力または選択し、モデルがどのように動作するかを観察する。
4. 研究モデルリサーチ・モード」を選択し、モデルのトレーニングと改良のために提供されたツールとデータセットを使用する。
5. 統合モードこのモデルを他のiOSアプリに統合するためのコードをダウンロードして設定するには、GitHubのコードリポジトリにアクセスしてください。

Ai2 OLMoEの詳細

アレン人工知能研究所（AI2）のOLMoEモデルが、最先端のオープンソース、デバイス側モデルとして正式にリリースされた。

アレン人工知能研究所（AI）は長い間、優れた完全オープンソースの言語モデルを構築するというビジョンを掲げてきた。アレン人工知能研究所は、完全なオープンソースのiOSアプリをリリースし、完全なオープンソースと見なされる境界を再定義しました。このアプリは、ユーザーが自分のデバイスで安全かつ個人的にモデルを体験できるように設計されており、AIIIがオープンソースの哲学を深く拡張していることを示している。

この完全オープンソースのアプリは、研究者がデバイス側のモデルを改善する方法を探求し、開発者が革新的なAI体験のプロトタイプを構築するのに役立ちます。そのオープンソースの性質は、研究者に貴重なプラットフォームを提供するだけでなく、開発者コミュニティの無限の創造性を刺激し、デバイス側のAI技術の進歩と応用を促進します。

ユーザーはApple App Storeからアプリをダウンロードするか、コードリポジトリからソースコードを入手して自分でビルドすることができる。ハードウェアの考慮のため、OLMoEアプリの最初のバージョンは、iPhone 15 Proまたはそれ以降、またはMシリーズチップを搭載したiPadでのみ動作することに注意してください。

オープン・エコシステムの深みと幅の拡大

OLMoシリーズの開発当初から、アレン人工知能（AI）研究所は完全なオープン主義を貫いてきた。最終的なモデルの重みを公開するだけでなく、ソフトウェア、データ、そしてモデル構築プロセスに関わる関連技術的詳細もオープンソース化している。 アレンAIは、真のオープン性はモデル自体に限定されるものではなく、真にアクセス可能なオープンAIエコシステムを構築するためのユーザーエクスペリエンスにも及ぶと考えている。vLLMやSGLangのような優れたオープンソースプロジェクトは、開発者がразнобразныхクラウドサーバー上で大規模言語モデル（LLM）を展開することを支援してきました。 オーラマ 一方、LM Studioのようなツールの出現により、ユーザーはオープン加重モデルを直接パーソナルコンピュータで体験できるようになった。

近年、小型モデルの能力は飛躍的に向上している。特に2024年末には、7Bのパラメトリックモデルが前年の最新鋭モデルの性能を軽々と上回っている。同時に、モバイル・プロセシング・ユニットの性能も向上しており、これは次のことを示している。 デバイス側のAIは、より広く採用される態勢にある.

アレン人工知能研究所は、この傾向をよりよく受け入れるために、OLMoEを立ち上げました。 完全オープンソースのツールキットその目的は、研究者や開発者に以下を提供することである。 デバイス側のAI実験プラットフォームOLMoEには、以下のような幅広い適用シーンがある：

• 実世界でのミッション探索最先端のデバイスサイドモデルを実際のアプリケーションシナリオで体験し、実際のタスクで何ができるかを発見してください。
• 効率的なローカルAIモデルの改良に関する研究ローカルAIモデルの効率をさらに向上させる方法を掘り下げ、デバイス側のAI最適化のアイデアを提供する。
• ローカルモデルのテストOLMoEが提供するオープンソースコードベースを使用することで、ローカル環境におけるユーザーモデルのテストと検証を便利に行うことができます。
• iOSアプリケーションの統合OLMoEを他のiOSアプリにシームレスに統合し、AI技術の限界を広げる。

クラウドベースのモデルに対するOLMoEのようなデバイス側のモデルの最も大きな利点は以下の通りである。 完全なプライバシーユーザーのプロンプトとモデルのレスポンスは、常にデバイス上でローカルに処理されます。ユーザーのプロンプトとモデルのレスポンスは常にデバイス上でローカルに処理され、クラウドサーバーにアップロードする必要がないため、ユーザーデータのセキュリティを最大限に高めることができます。さらに インターネット接続不要OLMoEは、どのような場所、どのようなネットワーク環境でも安定的に動作し、ユーザーにいつでもどこでもAIサービスを提供することができる。

モデルからアプリケーションへの飛躍

Ai2 OLMoEアプリケーションを成功裏に構築するために、アレン人工知能研究所は最先端の完全オープンソース技術ソリューションを巧みに組み合わせました。このアプリケーションの基礎となるのはOLMoEモデルであり、これはアレン人工知能研究所がこれまでに開発した中で最も効率的で完全にオープンソースの言語モデルです。この基盤の上に、アレン人工知能研究所はOLMoEモデルの新バージョンallenai/OLMoE-1B-7B-0125-Instructをリリースし、OLMo 2で導入されたDolminoハイブリッド学習戦略（モデル学習の途中で適用）とTülu 3モデル学習を巧みに取り入れています。およびTülu 3モデルのトレーニング後の最適化スキーム。これらのイノベーションにより、OLMoEの新バージョンは、オリジナルバージョンと同レベルの効率を維持しながら、アレン人工知能研究所の評価スイートにおいて平均35%の性能向上を達成しました。

*AlpacaEvalとはAlpaca Eval 2 Length Controlledのこと。

OLMoEがデバイス側で効率的に実行されるようにするため、アレン人工知能研究所はQ4_K_M量子化を使用してモデルのサイズを縮小した。この数値化はモデル性能に最小限の影響しか与えず、例えばIFEvalスコアは66.4から63.6にわずかに低下しただけである。数値化前の新しいOLMoEモデルの性能を体験することに興味がある場合は、Ai2 遊び場 オンラインテストまた、HuggingFaceではGGUF形式の定量モデルが公開されており、ユーザーはニーズに応じて基本版と指示版を選択してダウンロードすることができる。

アレン人工知能研究所は、Ai2 OLMoEアプリの開発においてGenUIと緊密に協力した。このアプリケーションは、Llama.cppへのSwiftバインディングなど、いくつかの優れたオープンソースプロジェクトの上に構築されています。 アレン人工知能研究所は、技術スタック全体を深く最適化し、その結果、iPhone 16 Proデバイス上で平均処理速度41トークン/秒という卓越したパフォーマンスを実現しました。

注目に値するのは、Ai2 OLMoEアプリケーションのコードが、次のようになっていることだ。 完全なオープンソース (https://github.com/allenai/OLMoE.swift)は、幅広いAI研究者や開発者に貴重な参考文献や教訓を提供しています。開発者は、より効率的なデバイス側のAIモデルを評価するための足場としてAi2 OLMoEアプリケーションのコードベースを使用したり、Ai2 OLMoEのモデル実装を他のアプリケーションにシームレスに統合して、強力なAI機能を持たせることができます。

アレン人工知能研究所は、Ai2 OLMoEアプリのリリースは、デバイスベースのインテリジェンスの未来に向けた重要なステップであると考えています。モバイルデバイスの処理能力と性能が向上し続ける中、Ai2はOLMoEアプリが研究者や開発者が技術の最先端にとどまり、デバイス側のAI技術の無限の可能性を探求するのに役立つことを期待しています。

今すぐあなたのiPhoneでOLMoEアプリを体験してください！