FunctionGemma - 関数呼び出しに最適化されたGoogleオープンソースの軽量AIモデル

5.2K 00

FunctionGemmaとは？

FunctionGemmaは、2億7000万パラメータのGemma 3ベースモデルをベースに、Googleが関数呼び出し用に最適化した軽量AIモデルで、携帯電話やブラウザなどのデバイス上で自然言語をリアルタイムに実行可能なAPI命令に変換する。ローカルのオフライン操作をサポートし、ユーザーのコマンドを正確に識別して、「カレンダーのイベントを作成する」や「ゲームの要素を制御する」などの構造化された関数コールを生成できることが主な特徴で、微調整の結果、最大85%の精度が得られます。このモデルはオープンソースで、Hugging Faceなどのプラットフォームチューニングをサポートしており、モバイルアプリケーション、ゲーム、IoTデバイスのインテリジェントなインタラクションシナリオに適しており、クラウド依存とデータプライバシーリスクを大幅に低減します。

FunctionGemmaの特徴

効率的で軽量低レイテンシーとデータプライバシーを重視し、携帯電話やラップトップなどのリソースに制約のあるデバイスで実行できるよう、参照数は270Mと十分に小さい。
関数呼び出しに焦点を当てる直接チャットをするための対話モデルではなく、機能呼び出しのシナリオをさらに微調整するためのベースモデルです。
高いカスタマイズ性マルチラウンドのユースケースを含め、特定の関数呼び出しタスクに合わせて微調整できるように設計されているため、タスクの信頼性を大幅に向上させることができます。
多言語サポートGemmaの256k語彙を使って、JSONや多言語入力を効率的にセグメンテーション。
幅広いエコシステムのサポートHugging Face Transformers、Unsloth、Keras、NVIDIA NeMo、LiteRT-LM、vLLM、MLX、Llama.cpp、Ollama、Vertex AI、LM Studioなど、さまざまなツールを使用した微調整とデプロイをサポートします。
柔軟な入出力入力はテキスト文字列であり、出力はその入力に応答するテキストである。入力コンテキストの合計は32Kトークンであり、出力コンテキストの合計は、リクエストごとに、リクエストされた入力のトークンを除いた最大32Kトークンである。

ファンクションジェンマの強み

軽量で効率的270Mのパラメータ数は、強力なコンピューティングリソースに依存することなく、リソースに制約のあるデバイス（携帯電話や組み込みデバイスなど）で効率的に動作するのに十分なサイズであり、低消費電力、低遅延のシナリオでの使用に適しています。
オフライン操作とデータプライバシー完全にオフラインで動作し、ネットワーク接続に依存しないため、データはローカルで処理され、ユーザーのプライバシーは保護されます。
関数呼び出しの専門知識関数呼び出しタスクに焦点を当て、自然言語命令を具体的な関数呼び出しに効率的に変換することができ、スマートホームの制御、モバイルアプリケーションの対話など、タスクの自動実行を必要とするさまざまなシナリオに適しています。
強力な微調整機能ベースモデルであるため、特定の関数呼び出しタスクに合わせて微調整することが容易であり、微調整によって特定のタスクにおけるモデルのパフォーマンスと信頼性を大幅に向上させることができる。
多言語サポート多言語での入出力をサポートし、多言語環境でのファンクション・コール・タスクを処理することができ、適用範囲が広い。
幅広い生態学的適合性主流の機械学習フレームワークやツールと幅広く互換性があるため、開発者は使い慣れたツールを使って微調整やデプロイを行うことができ、開発の敷居やコストを下げることができます。
オープンソースとスケーラビリティオープンソースであるため、開発者は自分のニーズに応じてカスタマイズや拡張ができ、さまざまなプロジェクトやシステムに柔軟に組み込むことができる。

FunctionGemmaの公式ウェブサイトは？

プロジェクトのウェブサイト:: https://blog.google/technology/developers/functiongemma/
HuggingFaceモデルライブラリ:: https://huggingface.co/collections/google/functiongemma

FunctionGemmaの対象者

モバイルアプリケーション開発者FunctionGemmaの軽量かつオフラインの機能は、携帯電話などのモバイル機器への導入に適しています。
組み込みシステムエンジニアリソースに制約のある組み込み機器（例：スマートウォッチ、IoT機器）にスマート機能を統合する場合、FunctionGemmaの小型サイズと低消費電力動作能力は、このようなシナリオに最適です。
スマートホーム開発者スマートホームコントロールシステムを開発するには、自然言語コマンドをデバイスコントロール機能に変換する必要があります。
エンタープライズ・アプリケーション開発者自動タスクスケジューリングとインテリジェントなインタラクションは、オンプレミスのシステムで必要とされるものであり、FunctionGemmaは特定のビジネスニーズを満たすために、ベースモデルとしてカスタマイズし、微調整することができる。
じんこうちのうけんきゅうしゃ軽量言語モデルと関数呼び出しシナリオに興味のある研究者は、FunctionGemmaを使用して、モデルの最適化と改良を探求するための関連研究と実験を行うことができます。