Introdução geral
O AkashChat é uma plataforma de bate-papo de IA baseada em nuvem descentralizada, desenvolvida e alimentada pela Akash Network. Ela aproveita o poder de computação de alto desempenho das GPUs NVIDIA para executar vários modelos de linguagem grande de código aberto (por exemplo, QwQ-32B, Llama 3.3 70B, Llama 3.1 405B, DeepSeek R1 671B, etc.) para oferecer aos usuários uma experiência de conversação rápida, gratuita e com privacidade. O AkashChat conta com a arquitetura descentralizada do Akash Supercloud para romper as limitações dos serviços de nuvem centralizados tradicionais e não apenas tem um tempo de resposta rápido, mas também suporta a alternância entre vários modelos de IA, o que o torna adequado para usuários que precisam de uma ferramenta de conversação eficiente.
A segunda recomendação é o AkashChat, que fornece acesso sem login a uma variedade de modelos de inferência de grande porte para bate-papo e oferece uma chave de API gratuita, o que é muito amigável para aqueles que desejam acessar modelos grandes no lado do cliente, mas não querem pagar por uma API (e ainda fornece o modelo incorporado BAAI-bge-large-en-v1-5 gratuitamente). page Assist + AkashChat O Page Assist + AkashChat é muito leve para o uso diário!
- Interface da API do aplicativo Akash: https://chatapi.akash.network/
- existir Assistência à página Configure a chave no
Lista de funções
- Seleção de vários modelosSuporte a QwQ-32B, Llama 3.3 70B, DeepSeek R1 671B, Llama 3.1 405B, AkashGen (modelo de geração de imagens) e outros modelos de IA de código aberto; os usuários podem alternar de acordo com suas necessidades.
- Diálogo de alto desempenhoTaxa de resposta de até 27 tokens/segundo com as GPUs NVIDIA H100 e A100.
- PrivacidadeOs registros de bate-papo são armazenados localmente sem a necessidade de uploads na nuvem, garantindo a segurança dos dados do usuário.
- Não é necessário registroSe você quiser usar o serviço, basta abrir a página da Web, não é necessário fazer login na conta, é fácil e conveniente de operar.
- Suporte a código abertoCódigo-fonte: O código é totalmente aberto, e os usuários podem implementar ou contribuir com recursos por conta própria.
- Interface amigávelInterface de bate-papo: fornece uma interface de bate-papo moderna que é intuitiva e adequada para usuários iniciantes e profissionais.
Usando a Ajuda
Como começar a usar o AkashChat
O AkashChat não requer a instalação de nenhum software, basta acessar https://chat.akash.network/即可使用 por meio de seu navegador. Abaixo estão instruções detalhadas para ajudar os usuários a começar rapidamente e aproveitar ao máximo seus recursos.
Acesso ao site
- Abra qualquer navegador moderno (por exemplo, Chrome, Firefox, Edge).
- Digite na barra de endereços
https://chat.akash.network/
e pressione Enter. - Depois que a página for carregada, você verá uma interface de bate-papo limpa e simples que não requer login ou registro para começar a usar.
Seleção de modelos de IA
O AkashChat é compatível com uma variedade de modelos de IA de código aberto, e os usuários podem escolher o modelo apropriado de acordo com suas necessidades. As etapas da operação são as seguintes:
- Na parte superior da interface de bate-papo ou na barra lateral (a posição exata pode mudar dependendo do design mais recente da interface), localize o menu suspenso "Model Selection" (Seleção de modelo).
- Clicar no menu suspenso exibe uma lista dos modelos compatíveis no momento, por exemplo:
- Llama 3.1 405BAdequado para respostas a perguntas complexas e desempenho avançado.
- Mistral-7BUm modelo leve que é ágil e adequado para conversas cotidianas.
- QwQ-32BOs mais recentes modelos de alto desempenho que superam alguns dos modelos maiores.
- Clique no nome do modelo desejado e o sistema mudará automaticamente; o processo de mudança geralmente leva apenas alguns segundos.
Digite uma pergunta e obtenha uma resposta
- Na caixa de entrada de texto na tela de bate-papo, digite a pergunta ou o conteúdo que deseja perguntar, por exemplo, "What's the weather like today?" (Como está o tempo hoje?) ou "Write me a short text" (Escreva-me um texto curto). ou "Write me a short text" (Escreva um texto curto para mim).
- Pressione Enter ou clique no botão Send (geralmente um ícone de seta).
- A IA gera a resposta em poucos segundos e a exibe em uma caixa de diálogo. A taxa de resposta varia de acordo com o modelo e as condições da rede e, em geral, está dentro de 27 tokens/segundo.
Gerenciar registros de bate-papo
O design de privacidade do AkashChat é um de seus destaques: os registros de bate-papo não são carregados no servidor, mas armazenados localmente no seu navegador. Veja como gerenciar seus registros:
- Ver históricoDiálogo anterior: O diálogo anterior é carregado automaticamente toda vez que a página é aberta (desde que o mesmo navegador seja usado e o cache não seja limpo).
- Limpeza de registrosSe precisar limpar o histórico de bate-papo, limpe o cache nas configurações do navegador ou simplesmente use o "Modo sem rastros" do navegador para evitar a manutenção de registros.
- advertênciaSe você mudar de dispositivo ou navegador, os bate-papos anteriores não poderão ser sincronizados, pois os dados não dependem do armazenamento em nuvem.
Implementação de código aberto (usuários avançados)
Para usuários com formação técnica, o AkashChat oferece código-fonte aberto que pode ser implantado localmente ou na própria Rede Akash. As etapas são as seguintes:
- Obter código: Visite o repositório do GitHub (https://github.com/akash-network/akash-chat) e clique em "Clone" ou "Download ZIP" para fazer o download do código-fonte. código-fonte.
- Instalação de dependências::
- Certifique-se de que o Node.js e o npm estejam instalados localmente.
- Vá para a pasta do projeto no terminal e execute
npm i
Instale as dependências necessárias.
- Ambiente de configuração::
- No diretório raiz do projeto, crie o arquivo
.env.local
Documentação. - Digite a seguinte configuração (ajustada para atender às suas necessidades reais):
DEFAULT_MODEL=mistral DEFAULT_SYSTEM_PROMPT=Você é um assistente útil com informações precisas. API_KEY=sua chave API_HOST=seu endpoint de API (por exemplo, endereço de implantação do Ollama)
- No diretório raiz do projeto, crie o arquivo
- Projetos em andamento::
- No terminal, digite
npm run dev
o servidor de desenvolvimento local será iniciado. - Abra seu navegador e acesse
http://localhost:3000
Você pode usar a versão de implementação automática.
- No terminal, digite
- Implantação no Akash::
- Implante o projeto no Akash Supercloud usando o Akash Provider Console. Consulte a documentação do site oficial do Akash (https://akash.network/) para obter etapas detalhadas.
Operação da função em destaque
- Troque de modelo para experimentar estilos diferentesTente diferentes estilos de resposta do modelo, por exemplo, o Llama 3.1 é bom para uma análise aprofundada, enquanto o Mistral-7B é mais conciso e direto.
- Teste de resposta rápidaInsira perguntas complexas (por exemplo, "Explique a mecânica quântica") e observe a velocidade da resposta e a qualidade das respostas.
- Uso do modo de privacidadeSe estiver preocupado com o vazamento de dados, poderá usar a janela No Trace do navegador para garantir que nenhum rastro seja deixado para trás.
advertência
- requisito de redeGaranta a estabilidade da rede: o AkashChat depende de cálculos em tempo real e a alta latência pode afetar a experiência.
- Restrições do modeloAlguns dos modelos podem não ser bons para lidar com problemas específicos do domínio, e é recomendável tentar alternar os modelos com mais frequência.
- Sugestões de feedbackSe você encontrar problemas ou tiver sugestões de recursos, poderá enviar comentários pelo GitHub e participar da comunidade de código aberto para aprimorá-lo.
Lista de modelos gratuitos (não exatamente equivalentes aos modelos oferecidos na interface de bate-papo)
Bate-papo + Conclusões
DeepSeek-R1-Distill-Llama-70B
DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-32B
Meta-Llama-3-1-8B-Instruct-FP8
Meta-Llama-3-1-405B-Instruct-FP8
Meta-Llama-3-2-3B-Instruct
Meta-Llama-3-3-70B-Instruct
Incorporação
BAAI-bge-large-en-v1-5