O objetivo original deste tutorial é garantir a privacidade e a portabilidade off-line em seu telefone celular ao usar o DeepSeek-R1 Os modelos que são bons ou não são benevolentes. Vômito por 10 dias... Não... .10 minutos para trazer um tutorial sobre como instalar o DeepSeek-R1 localmente em seu telefone celular.
Uso do DeepSeek-R1 em telefones celulares Três programas
Antes da instalação, o leitor recebe uma solução popular para usar o modelo DeepSeek-R1 em telefones celulares:
Opção 1, uso on-line:download DeepSeek APP oficial ou faça o download de um APP de terceiros compatível com o modelo DeepSeek-R1, por exemplo:lingote de escárnio (queimado como oferta em adoração)ePesquisa de Nano AI, Cyberstarfire,IA da Skyworks... Espere, ele precisa estar conectado em rede para ser usado.
Opção 2, API de acesso à ferramenta de bate-papo de IA:Não para iniciantes, por exemplo, no site oficial do DeepSeek,Fluxo baseado em silício emotor de vulcãoApós solicitar a API, acesse as ferramentas nativas de IA para bate-papo disponíveis no telefone, por exemplo:BotGemeCaixa de bate-papoeGPT MobileePróximoChat(Implantação de página da Web),Assistência à página(Plug-in do navegador)... E assim por diante.
Opção 3, implantação local de telefone celular:É essa nota didática, embora não se limite a telefones celulares para instalar o DeepSeek-R1, muitos outros modelos podem ser instalados.
Instalação do DeepSeek-R1 em um telefone celular Descrição
Diferença entre o modelo final que vem com o telefone e o modelo auto-implantado
Na verdade, a instalação de modelos grandes de telefones celulares não é um tópico muito novo, por exemplo, com foco no lado do fim do modelo de tamanho pequeno do ModeloBestou Ali's MNN-LLM-Android: MNN O projeto, que pode ser instalado no telefone no modelo grande, mas é muito especializado, está no estágio de mapeamento experimental. No início do ano de 2024, muitos fornecedores estarão comercializando o modelo final, a instalação local do telefone celular de modelos grandes do aplicativo também é maior. Por exemplo, as recentes notícias quentes:A IA do telefone celular deu início à era do "corpo inteligente": o Samsung S25 se une ao Smart Spectrum para abrir uma nova era de chamadas de áudio e vídeoque faz uso de um modelo final personalizado para dispositivos móveis.
Mas um modelo desenvolvido especificamente para o lado móvel da casa será diferente, nas áreas em que se especializa, de um modelo maior implantado localmente pelo próprio telefone:
Modelo do lado final personalizado para dispositivos móveisMais ênfase no conceito de "assistente móvel", bom para realizar tarefas específicas projetadas pelos fabricantes de telefones celulares, enquanto realiza mais tipos de tarefas.
Modelos grandes auto-instalados localmente em telefones celularesEm geral, é uma "versão compactada" de um modelo realmente grande, uma "versão aprimorada" de um determinado aspecto da capacidade; em geral, a capacidade de "conhecimento geral" é forte, mas não pode executar a operação automatizada regular do telefone, como Naturalmente, ele não consegue abrir o catálogo de endereços do celular.
Notas sobre a instalação de modelos grandes localmente em telefones celulares
Instalação de equipamentos:IOS/Android
Espaço de armazenamento:2~4G
Aplicativos:Redação, parágrafos, interpretação de papéis, resumos rápidos, traduções
Suporta a instalação local do aplicativo modelo DeepSeek-R1 em telefones celulares
IA de bolso--Android
O Pocket AI (versão em chinês do PocketPal AI) é um poderoso assistente de IA off-line projetado para permitir que os usuários conversem com a IA a qualquer momento e em qualquer lugar. Ele é baseado em modelos de linguagem pequenos (SLMs) e pode ser executado em telefones celulares sem conexão com a Internet, especialmente adaptado à experiência do usuário chinês. O Pocket AI suporta uma variedade de modelos de linguagem pequenos, incluindo DeepSeek, Danube, etc., com gerenciamento inteligente de memória, exibição de desempenho em tempo real e outros recursos. Atualmente, o projeto é compatível com dispositivos Android, e a versão para iOS está em desenvolvimento.
IA do PocketPal--IOS/androideVocê precisa fazer login na loja oficial do aplicativo
O PocketPal AI é um aplicativo móvel de código aberto projetado para trazer Small Language Models (SLMs) diretamente para o seu telefone celular, tanto para usuários de iOS quanto de Android. Ele fornece uma experiência de bate-papo de IA independente da Web que garante a privacidade do usuário e oferece suporte ao gerenciamento automático de memória e a uma rica seleção de modelos. Desenvolvido por Asghar Ghorbani, esse aplicativo se integra à biblioteca de modelos Hugging Face, permitindo que os usuários façam download e usem uma ampla variedade de modelos diretamente pelo aplicativo para diferentes necessidades de bate-papo e solução de problemas.
A Open Intelligence é uma empresa dedicada a fornecer soluções de IA de código aberto, e seu principal produto, o Apollo, permite que os usuários interajam com seu backend de IA privado diretamente por meio de seus telefones celulares. A plataforma não só permite que usuários individuais gerenciem autonomamente seus back-ends de IA, mas também oferece suporte a uma variedade de cenários de aplicativos de IA, como bate-papo, processamento de dados etc. O Apollo foi projetado para simplificar a interação do usuário com a IA e aumentar a eficiência dos aplicativos de IA na vida diária e no trabalho. experiência privada de IA.
Estão disponíveis versões destiladas das séries Llama 3.1, Qwen e DeepSeek R1 em vários tamanhos.
O Fullmoon é um aplicativo desenvolvido para dispositivos iOS e tem como objetivo oferecer a possibilidade de conversar de forma privada com modelos nativos de idiomas grandes. O aplicativo foi otimizado para o Apple Silicon e é compatível com iPhone, iPad e Mac. Os bate-papos dos usuários são salvos localmente e a aparência do aplicativo pode ser personalizada. O Fullmoon utiliza a estrutura MLX Swift da Apple, uma estrutura de matriz para pesquisa de aprendizado de máquina no Apple Silicon. O aplicativo é compatível com vários modelos de linguagem, incluindo Llama 3.2 1B, Llama 3.2 3B e DeepSeek-R1-Distill-Qwen-1.5B-4bit.
O Enchanted é um aplicativo de código aberto para iOS, macOS e visionOS projetado para bate-papo multimodal com modelos privados, como Llama 2, Mistral, Vicuna e Starling. O aplicativo é compatível com o Ollama e oferece uma experiência segura, privada e multimodal que os usuários podem usar em todos os dispositivos do ecossistema iOS. O objetivo do Enchanted é fornecer um produto que permita aos usuários ter interações multimodais não filtradas em um ambiente privado.
Tifa-Deepsex-14b-CoT--Android APK Download direto
O Tifa-Deepsex-14b-CoT é um modelo grande baseado na otimização profunda do Deepseek-R1-14B, com foco na interpretação de papéis, geração de texto fictício e capacidade de raciocínio da Cadeia de Pensamento (CoT). Por meio de treinamento e otimização em vários estágios, o modelo resolve os problemas do modelo original de coerência insuficiente na geração de textos longos e na fraca capacidade de interpretação de papéis, o que é particularmente adequado para cenários criativos que exigem correlação contextual de longo alcance. Ao fundir conjuntos de dados de alta qualidade e pré-treinamento incremental, o modelo aumenta significativamente a relevância contextual, reduz as não respostas e elimina a mistura de chinês e inglês, aumentando o vocabulário específico do domínio para um melhor desempenho na interpretação de papéis e na geração de novos. Além disso, o modelo suporta 128 mil contextos ultralongos para cenários que exigem diálogo profundo e criação complexa.
Esta é uma versão do Deepseek-R1-14B que é profundamente otimizada para cenários de ficção e interpretação de papéis longos, e tem um cliente Android simples disponível para download.
Instalação local do telefone celular Outro modelo de software
Ai2 OLMoE--IOS
O Ai2 OLMoE é um aplicativo iOS de código aberto desenvolvido pelo Allen Institute for AI (Ai2, Allen Institute for Artificial Intelligence) para fornecer modelos de IA que são executados inteiramente no dispositivo. O aplicativo aproveita o modelo OLMoE de código aberto do Ai2, que é capaz de ser executado off-line sem conexão com a nuvem, garantindo a privacidade do usuário e a segurança dos dados. O Ai2 OLMoE não é adequado apenas para pesquisadores que exploram como melhorar os modelos locais de IA, mas também fornece aos desenvolvedores ferramentas para criar rapidamente protótipos de novas experiências de IA.
O Llamao é um chatbot de IA Llama privado e off-line projetado para fornecer aos usuários um serviço de assistente inteligente sem conexão com a Internet. Ao contrário do ChatGPT, o Llamao é executado inteiramente no dispositivo do usuário, garantindo privacidade e segurança absolutas dos dados do usuário. Seja escrevendo, fazendo brainstorming ou resolvendo problemas, o Llamao ajuda os usuários a concluir suas tarefas com eficiência, evitando o risco de vazamento de dados. Sem taxas de assinatura, o Llamao dá aos usuários a liberdade de usar seus poderosos recursos de IA e aproveitar a conveniência de não ter restrições de rede.