CoAI.Dev (Chat Nio): solução completa de B/C para aplicativos de agregação de IA com faturamento flexível e suporte ao modelo de plano de assinatura

Introdução geral

O CoAI.Dev (antigo Chat Nio) é uma plataforma de bate-papo que integra vários modelos de IA com suporte para streaming distribuído, geração de imagens, sincronização e compartilhamento de conversas entre dispositivos. Ela implementa um sistema de assinatura e faturamento de token, serviço de trânsito de chaves e suporte a vários modelos, além de incluir uma pesquisa em rede e um gerador de projetos de IA. A plataforma é um projeto de código aberto, que fornece documentação detalhada da API e um SDK multilíngue para uso dos desenvolvedores e desenvolvimento secundário.

O Dev (antigo Chat Nio) está sendo revitalizado após um processo de aquisição que durou meses, e eu continuarei a liderar o desenvolvimento desse projeto, com um novo produto a ser lançado em um futuro próximo para criar a próxima geração de soluções de código aberto, de nível comercial e de balcão único para LLM!

O novo roteiro de código aberto planeja sincronizar RAG, Digital People, Payment, TTS & STT, API Gateway, Model Healthiness Monitoring, suporte para Agent Workflow, Realtime, Team Collaboration e outros recursos de ponta!

Lista de funções

Oferece suporte a vários modelos de IA: OpenAI, Claude, Xunfei Starfire, etc.
streaming distribuído
Geração de imagens
O bate-papo é automaticamente sincronizado e compartilhado entre dispositivos
Sistema de faturamento flexível de tokens
Serviço de trânsito principal
Suporte à agregação de vários modelos
Função de pesquisa de rede
Gerador de projetos de IA
Geração de artigos em lote com IA

Usando a Ajuda

Modelo visual de imagem rica

Suporte a modelos Vision, bem como suporte a uploads diretos de imagens e a capacidade de inserir links diretos de imagens ou imagens Base64 (por exemplo, modelos como GPT-4 Vision Preview, Gemini Pro Vision etc.)
Suporta a plotagem de modelos DALL-E
Oferece suporte às operações Imagine / Upscale / Variant / Reroll para os modelos Midjourney / Niji.

Suporte a markdown

Suporta os modos claro e escuro, realce de código, fórmulas LaTeX, tabelas, barras de detalhes, mensagens virtuais e muito mais!

Função de memória de diálogo

Sincronização em nuvem, suporte ao diálogo de compartilhamento de link direto do site, suporte ao uso do diálogo de compartilhamento, diálogo de compartilhamento salvo como uma imagem, suporte ao gerenciamento de compartilhamento (suporte à visualização, exclusão de compartilhamento e outras operações)

Pesquisa na Web do DuckDuckGo

Modelo completo do suporte Ethernet do DuckDuckGo para funcionalidade de pesquisa(Consulte o projeto para obter detalhespato-duckgo-api O sistema de comunicação de dados, que precisa ser criado pelo telefone celular e definido nas configurações do sistema em configurações de Ethernet

comando predefinido

apoiar algoPredefinição Predefiniçãoresponder cantandosincronização em nuvemRecursos, suporte para clones predefinidos, configurações predefinidas de avatar, suporte para configurações predefinidas de perfil

Gerenciamento de back-office

Inclui informações de crédito do dia e do mês atuais, números de assinantes, gráficos de linha de estatísticas de uso de modelos, análise de gráficos de pizza, estatísticas de receita, estatísticas de tipo de usuário, estatísticas de uso de modelos, gráficos de contagens de solicitações e contagens de erros de modelos, etc.

Implementação do Docker

Após a configuração bem-sucedida, a conta de administrador éraiza senha padrão échatnio123456

1. ⚡ Instalação do Docker Compose (recomendado)

   Após uma execução bem-sucedida, o próximo endereço de mapeamento de máquina éhttp://localhost:8000

   git clone --depth=1 --branch=main --single-branch https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   docker-compose up -d # Serviços operacionais
   # Para uma versão estável, use docker-compose -f docker-compose.stable.yaml up -d em vez disso.
   # Para usar o watchtower para atualizações automáticas, use docker-compose -f docker-compose.watch.yaml up -d em vez disso.

   Atualizações de versão (Atualização manual necessária com a atualização automática da Watchtower ativada):

   docker-compose down
   docker-compose pull
   docker-compose up -d

   • Projeto de montagem do diretório do banco de dados MySQL ~/ db
   • Projeto de diretório de montagem do banco de dados Redis ~/ redis
   • Diretório de montagem do arquivo de configuração do projeto ~/ configuração

2. Instalação do Docker (tempo de execução leve, comumente usado para configurações externas)MYSQL/RDSserviços)

   Se estiver usando a versão estável, use oprogrammezmh/chatnio:stablealternativaprogrammezmh/chatnio:latest

   docker run -d --name chatnio \
     --network host \
     -p 8000:8094 \
     -v ~/config:/config \
     -v ~/logs:/logs \
     -v ~/storage:/storage \
     -e MYSQL_HOST=localhost \
     -e MYSQL_PORT=3306 \
     -e MYSQL_DATABASE=chatnio \
     -e MYSQL_USER=root \
     -e MYSQL_PASSWORD=chatnio123456 \
     -e REDIS_HOST=localhost \
     -e REDIS_PORT=6379 \
     -e SECRET=secret \
     -e SERVE_STATIC=true \
     programmezmh/chatnio:latest

   • --network hostrefere-se à rede que permite que os contêineres do Docker usem a rede do dispositivo, que pode ser modificada
   • -p 8000:8094Refere-se ao mapeamento da porta da máquina de captura como 8000; você mesmo pode alterar o número da porta antes dos dois pontos
   • SECRET: chave JWT, modificação de string aleatória autogerada
   • SERVE_STATIC: se deve ou não ativar o serviço de arquivo estático (normalmente não é necessário alterar isso, consulte as perguntas frequentes abaixo)
   • -v ~/config:/configMontagem de arquivos de configuração. -v ~/logs:/logsO diretório da máquina de nitrogênio onde os arquivos de registro são montados, o -v ~/storage:/storageMontagem dos arquivos gerados pelo add-on
   • Os serviços MySQL e Redis precisam ser configurados. Consulte as informações acima para modificar as variáveis de ambiente.

   Atualizações de versão (Após abrir o Watchtower, você precisa atualizá-lo manualmente. Depois de executá-lo, siga as etapas acima e execute-o novamente):

   docker stop chatnio
   docker rm chatnio
   docker pull programzmh/chatnio:latest

3. Compilar e instalar (altamente personalizável)

   Após a configuração bem-sucedida, a porta padrão é8094O endereço de acesso éhttp://localhost:8094 Item de configuração Config (~/config/ config.yaml ) podem ser substituídos por variáveis de ambiente, comoMYSQL_HOSTAs variáveis de ambiente podem ser substituídasmysql.hostitem de configuração

   git clone https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   
   cd aplicativo
   npm install -g pnpm
   pnpm install
   pnpm build
   
   cd ...
   go build -o chatnio
   
   nohup . /chatnio > output.log & # usando o nohup para executar em segundo plano

O guia do leigo para começar a usar a IA

Ajuda você a aprender a utilizar as ferramentas de IA com baixo custo e a partir de uma base zero.A IA, assim como o software de escritório, é uma habilidade essencial para todos. Dominar a IA lhe dará uma vantagem em sua busca de emprego e metade do esforço em seu trabalho e estudos futuros.

Ver detalhes>