FunctionGemma - открытая модель ИИ от Google, оптимизированная для вызова функций

Что такое FunctionGemma?

FunctionGemma - это облегченная модель искусственного интеллекта, оптимизированная Google для вызова функций, основанная на базовой модели Gemma 3 с 270 миллионами параметров, которая преобразует естественный язык в исполняемые инструкции API в режиме реального времени на мобильных телефонах, браузерах и других устройствах. Основная особенность модели заключается в том, что она поддерживает локальную автономную работу, может точно идентифицировать команды пользователя и генерировать структурированные вызовы функций, такие как "создать событие календаря" или "управлять игровым элементом", с точностью до 85% после тонкой настройки. Модель имеет открытый исходный код и поддерживает настройку платформы, например Hugging Face, что подходит для сценариев интеллектуального взаимодействия в мобильных приложениях, играх и IoT-устройствах, значительно снижая зависимость от облака и риски конфиденциальности данных.

Особенности FunctionGemma

• Эффективный и легкий: Количество ссылок составляет 270 М, что достаточно мало для работы на устройствах с ограниченными ресурсами, таких как мобильные телефоны и ноутбуки, с акцентом на низкую задержку и конфиденциальность данных.
• Сосредоточьтесь на вызовах функций: Не диалоговая модель для прямых чатов, а базовая модель для дальнейшей доработки, в частности, для сценариев вызова функций.
• Высокая настраиваемость: Разработанные для точной настройки под конкретные задачи вызова функций, в том числе многораундовые, могут значительно повысить надежность задач.
• Поддержка нескольких языков: Используйте 256-килобайтный словарь Gemma для эффективной сегментации JSON и многоязычного ввода.
• Широкая поддержка экосистемы: Поддерживает тонкую настройку и развертывание с помощью различных инструментов, таких как Hugging Face Transformers, Unsloth, Keras, NVIDIA NeMo, LiteRT-LM, vLLM, MLX, Llama.cpp, Ollama, Vertex AI или LM Studio.
• Гибкие входы и выходы: На вход подается текстовая строка, а на выход - текст в ответ на ввод, с общим входным контекстом в 32К токенов и общим выходным контекстом до 32К токенов на запрос, за вычетом токенов запрошенного ввода.

Основные преимущества FunctionGemma

• Легкий и эффективныйКоличество параметров 270M делает его достаточно маленьким, чтобы эффективно работать на устройствах с ограниченными ресурсами (например, мобильных телефонах, встроенных устройствах) без использования мощных вычислительных ресурсов, что делает его пригодным для использования в сценариях с низким энергопотреблением и низкой задержкой.
• Работа в автономном режиме и конфиденциальность данныхОн работает полностью автономно и не зависит от сетевых подключений, обеспечивая локальную обработку данных и защиту конфиденциальности пользователей, что делает его особенно подходящим для сценариев приложений с высокими требованиями к безопасности данных.
• Опыт вызова функций: Ориентированный на задачи вызова функций, он может эффективно преобразовывать инструкции на естественном языке в конкретные вызовы функций и подходит для различных сценариев, требующих автоматического выполнения задач, таких как управление "умным домом" и взаимодействие с мобильными приложениями.
• Мощные возможности тонкой настройки: Базовая модель легко настраивается под конкретную задачу вызова функции, а производительность и надежность модели на конкретной задаче можно значительно повысить за счет ее тонкой настройки.
• Поддержка нескольких языков: Поддерживает ввод и вывод данных на нескольких языках и способен обрабатывать задачи вызова функций в многоязычной среде с широким диапазоном применимости.
• Широкая экологическая совместимостьСовместимость с широким спектром основных фреймворков и инструментов машинного обучения позволяет разработчикам использовать знакомые инструменты для тонкой настройки и развертывания, что снижает порог разработки и затраты.
• Открытый исходный код и масштабируемость: Открытый исходный код позволяет разработчикам настраивать и расширять его в соответствии с собственными потребностями, а также гибко интегрировать в различные проекты и системы.

Какой официальный сайт у FunctionGemma?

• Веб-сайт проекта:: https://blog.google/technology/developers/functiongemma/
• Библиотека моделей HuggingFace:: https://huggingface.co/collections/google/functiongemma

Для кого предназначена FunctionGemma

• Разработчики мобильных приложений: Существует потребность в реализации автономных интеллектуальных функций на мобильных устройствах, таких как голосовые помощники, автоматизированная обработка задач и т. д. Легкие и автономные функции FunctionGemma подходят для развертывания на мобильных устройствах, таких как мобильные телефоны.
• Инженер по встраиваемым системамИнтеграция интеллектуальных функций во встраиваемые устройства с ограниченными ресурсами (например, смарт-часы, устройства IoT). Небольшой размер и низкое энергопотребление FunctionGemma идеально подходят для таких сценариев.
• Разработчики умных домов: Разработка системы управления "умным домом" требует преобразования команд на естественном языке в функции управления устройствами, что FunctionGemma может эффективно реализовать для повышения удобства пользователей.
• Разработчики корпоративных приложений: Автоматизированное планирование задач и интеллектуальное взаимодействие необходимы в локальных системах, и FunctionGemma может быть настроена и доработана как базовая модель для удовлетворения конкретных потребностей бизнеса.
• исследователь искусственного интеллекта: Исследователи, интересующиеся легкими языковыми моделями и сценариями вызова функций, могут использовать FunctionGemma для проведения соответствующих исследований и экспериментов по оптимизации и улучшению моделей.