FunctionGemma - 함수 호출에 최적화된 Google 오픈 소스 경량 AI 모델

FunctionGemma란 무엇인가요?

FunctionGemma는 2억 7천만 개의 파라미터를 가진 Gemma 3 기본 모델을 기반으로 휴대폰, 브라우저 및 기타 기기에서 자연어를 실시간으로 실행 가능한 API 명령어로 변환하는 Google의 함수 호출에 최적화된 경량 AI 모델입니다. 핵심 기능은 로컬 오프라인 작업을 지원하고, 사용자 명령을 정확하게 식별하여 '캘린더 이벤트 생성' 또는 '게임 요소 제어'와 같은 구조화된 함수 호출을 생성할 수 있으며, 미세 조정 후 최대 85%의 정확도를 구현할 수 있다는 것입니다. 이 모델은 오픈 소스이며 모바일 애플리케이션, 게임, IoT 디바이스의 지능형 상호작용 시나리오에 적합한 허깅 페이스와 같은 플랫폼 튜닝을 지원하여 클라우드 의존성과 데이터 프라이버시 위험을 크게 줄입니다.

FunctionGemma의 특징

• 효율적이고 가벼움레퍼런스 수는 2억 7천만 개로 휴대폰이나 노트북과 같이 리소스가 제한된 기기에서 실행하기에 충분히 작으며, 짧은 지연 시간과 데이터 프라이버시에 중점을 두고 있습니다.
• 함수 호출에 집중: 직접 채팅을 위한 대화 모델은 아니지만, 특히 함수 호출 시나리오를 위한 추가 미세 조정을 위한 기본 모델로 사용됩니다.
• 고도로 사용자 지정 가능다양한 사용 사례를 포함하여 특정 함수 호출 작업에 맞게 미세 조정되도록 설계되어 작업 안정성을 크게 향상시킬 수 있습니다.
• 다국어 지원Gemma의 256k 어휘를 사용하여 JSON 및 다국어 입력을 효율적으로 분할하세요.
• 광범위한 에코시스템 지원허깅 페이스 트랜스포머, 언슬로스, 케라스, 엔비디아 NeMo, 라이트알티-LM, vLLM, MLX, Llama.cpp, 올라마, 버텍스 AI, LM 스튜디오 등 다양한 툴을 사용하여 미세 조정 및 배포를 지원합니다.
• 유연한 입력 및 출력입력은 텍스트 문자열이고 출력은 입력에 대한 응답으로 텍스트이며, 총 입력 컨텍스트는 32K 토큰이고 요청당 최대 32K 토큰의 총 출력 컨텍스트에서 요청된 입력의 토큰을 뺀 값입니다.

FunctionGemma의 핵심 강점

• 경량 및 효율성270만 개의 파라미터 수로 리소스가 제한된 디바이스(예: 휴대폰, 임베디드 디바이스)에서 강력한 컴퓨팅 리소스에 의존하지 않고 효율적으로 실행할 수 있어 저전력, 저지연 시나리오에서 사용하기에 적합합니다.
• 오프라인 운영 및 데이터 개인 정보 보호완전히 오프라인으로 실행되며 네트워크 연결에 의존하지 않으므로 데이터가 로컬에서 처리되고 사용자 개인정보가 보호되므로 데이터 보안 요구사항이 높은 애플리케이션 시나리오에 특히 적합합니다.
• 함수 호출 전문성함수 호출 작업에 중점을 두고 자연어 명령을 구체적인 함수 호출로 효율적으로 변환할 수 있으며, 스마트 홈 제어, 모바일 애플리케이션 상호 작용 등 자동화된 작업 실행이 필요한 다양한 시나리오에 적합합니다.
• 강력한 미세 조정 기능기본 모델로서 특정 함수 호출 작업에 맞게 쉽게 미세 조정할 수 있으며, 이를 통해 특정 작업에서 모델의 성능과 안정성을 크게 향상시킬 수 있습니다.
• 다국어 지원다국어 입출력을 지원하며 다국어 환경에서 함수 호출 작업을 처리할 수 있어 폭넓은 적용이 가능합니다.
• 광범위한 환경 호환성광범위한 주류 머신 러닝 프레임워크 및 도구와 호환 가능: 개발자는 익숙한 도구를 사용하여 미세 조정 및 배포할 수 있으므로 개발 장벽과 비용을 줄일 수 있습니다.
• 오픈 소스 및 확장성오픈 소스 특성상 개발자가 필요에 따라 커스터마이징하고 확장할 수 있으며, 다양한 프로젝트와 시스템에 유연하게 통합할 수 있습니다.

FunctionGemma의 공식 웹사이트는 무엇인가요?

• 프로젝트 웹사이트:: https://blog.google/technology/developers/functiongemma/
• 허깅페이스 모델 라이브러리:: https://huggingface.co/collections/google/functiongemma

FunctionGemma의 대상

• 모바일 애플리케이션 개발자음성 비서, 자동화된 작업 처리 등과 같은 오프라인 인텔리전스 기능을 모바일 디바이스에 구현할 필요가 있습니다. 기능Gemma의 경량 및 오프라인 기능은 휴대폰과 같은 모바일 디바이스에 배포하기에 적합합니다.
• 임베디드 시스템 엔지니어리소스가 제한된 임베디드 디바이스(예: 스마트워치, IoT 디바이스)에 스마트 기능을 통합하는 경우, 작은 크기와 저전력 작동 기능을 갖춘 FunctionGemma는 이러한 시나리오에 이상적으로 적합합니다.
• 스마트 홈 개발자스마트 홈 제어 시스템을 개발하려면 자연어 명령을 기기 제어 기능으로 변환해야 하는데, FunctionGemma는 이를 효율적으로 수행하여 사용자 경험을 향상시킬 수 있습니다.
• 엔터프라이즈 애플리케이션 개발자온프레미스 시스템에서는 자동화된 작업 일정과 지능형 상호 작용이 필요하며, 특정 비즈니스 요구 사항을 충족하는 기본 모델로서 FunctionGemma를 사용자 지정하고 미세 조정할 수 있습니다.
• 인공 지능 연구원경량 언어 모델 및 함수 호출 시나리오에 관심이 있는 연구자는 FunctionGemma를 사용하여 관련 연구 및 실험을 수행하여 모델 최적화 및 개선 사항을 탐색할 수 있습니다.