PocketPal AI: iOS 및 Android 기기에서 오프라인으로 사용할 수 있는 소규모 언어 모델링 채팅 도구

일반 소개

PocketPal AI는 iOS와 Android 사용자 모두를 위해 휴대폰으로 직접 소언어 모델(SLM)을 가져올 수 있도록 설계된 오픈 소스 모바일 앱입니다. 이 앱은 사용자 개인정보를 보호하고 자동 메모리 관리와 다양한 모델을 지원하는 웹 독립적인 AI 채팅 환경을 제공합니다. 아스가르 고르바니가 개발한 이 앱은 허깅 페이스 모델 라이브러리와 통합되어 사용자가 채팅과 문제 해결에 필요한 다양한 모델을 앱을 통해 직접 다운로드하여 사용할 수 있습니다.

기능 목록

• 오프라인 AI 채팅인터넷 연결 없이도 AI를 대화에 사용할 수 있습니다.
• 모델 다양성다뉴브어, 파이, 젬마 2 등 다양한 소규모 언어 모델을 지원하여 사용자가 필요에 따라 선택하여 전환할 수 있습니다.
• 자동 메모리 관리앱이 백그라운드에서 자동으로 모델을 제거하여 기기 리소스를 절약합니다.
• 포옹하는 얼굴 모델 통합허깅 페이스 모델 라이브러리에서 직접 모델을 검색하고 다운로드하여 사용하세요.
• 사용자: 사용자가 모델과 대화를 관리할 수 있는 간단하고 직관적인 인터페이스를 제공합니다.
• 개인정보 보호모든 대화는 로컬에서 처리되므로 데이터가 외부 서버로 전송되지 않습니다.

도움말 사용

설치 프로세스

PocketPal AI는 설치가 매우 쉽습니다:

iOS 사용자.

1. App Store를 엽니다.
2. 검색창에 "PocketPal AI"를 입력합니다.
3. 클릭하여 앱을 다운로드하고 설치합니다.

Android 사용자.

1. Google Play 스토어를 엽니다.
2. "PocketPal AI"를 검색합니다.
3. 설치를 클릭합니다.

사용 가이드라인

애플리케이션을 실행합니다.

• PocketPal AI 앱을 열면 메뉴 버튼(보통 세 줄 또는 네 개의 점으로 표시될 수 있음)이 있는 간단한 홈 페이지가 표시됩니다.

모델을 선택하고 다운로드합니다.

• 메뉴를 클릭하여 '모델' 페이지로 이동합니다. 여기에는 사전 설치된 모든 모델과 허깅 페이스에서 다운로드할 수 있는 모델이 나열됩니다.
• 관심 있는 모델을 선택하고 "다운로드" 버튼을 클릭하여 다운로드를 시작합니다. 다운로드가 완료되면 "로드" 버튼을 클릭하여 모델을 메모리에 로드합니다.

대화 시작하기.

• 메뉴에서 '채팅'을 선택하여 채팅 화면으로 들어갑니다.
• 텍스트 입력 상자에 질문이나 대화를 입력하고 보내기를 클릭합니다. 현재 로드된 모델을 기반으로 모델이 답변을 제공합니다.

모델 고급 설정.

• '모델' 페이지에서 모델 옆에 있는 화살표 아이콘(v)을 클릭하면 모델 출력을 최적화할 수 있는 온도, BOS 토큰 등을 조정하는 등 일련의 고급 설정이 표시됩니다.

메모리 관리.

• PocketPal AI는 모델의 메모리 사용량을 자동으로 관리합니다. "자동 오프로드/로드" 기능을 활성화하면 앱이 백그라운드에서 지능적으로 모델을 언로드하여 리소스를 절약합니다.

대화를 재현합니다.

• 대화 상자의 아무 부분이나 길게 누르면 특정 단락이 복사되고, 대화 풍선 하단에 있는 복사 아이콘을 클릭하면 전체 응답이 복사됩니다.

자주 묻는 질문 및 해결 방법.

• 느린 모델 로딩 또는 앱 충돌먼저 Metal API가 켜져 있는지 확인하고(iOS만 해당), 문제가 있는 경우 꺼보세요. 문제가 지속되면 GitHub에 문제를 신고하세요.
• 필요한 모델을 찾을 수 없습니다.: 허깅 페이스에 통합된 검색 기능을 사용하여 더 많은 모델을 검색할 수 있습니다. 그래도 모델을 찾을 수 없는 경우 GGUF 형식으로 모델을 수동으로 다운로드하고 '로컬 모델 추가' 옵션을 사용하여 가져올 수 있습니다.

포켓팔 AI 사용 경험은 고도로 개인화되어 있으며, 필요에 따라 다양한 모델을 조정하고 사용할 수 있으며, 즉각적이고 비공개적인 AI 대화 서비스를 즐길 수 있습니다. 기기를 사용하는 과정에서 사소한 문제가 발생할 수 있지만, 커뮤니티 지원과 개발자의 지속적인 업데이트를 통해 효과적으로 해결할 수 있습니다. 비공개 대화 도우미가 필요하거나 인터넷 없이 AI를 사용하고 싶을 때, PocketPal AI는 시도해 볼 만한 가치가 있는 오픈 소스 도구입니다.

PocketPal AI 안드로이드 설치 프로그램 및 모델 다운로드

Quarks: https://pan.quark.cn/s/06f5cf4ece85 추출 코드: D8m2