Havia um aluno do ensino médio que iniciou um projeto no segundo semestre de seu primeiro ano especificamente para dar a seus amigos uma experiência gratuita com o modelo GPT-4.
No verão do oitavo ano, ele decidiu abrir o código-fonte do projeto e o batizou oficialmente de Chat Nio, posicionando-o como uma plataforma completa de gerenciamento de modelos de LLM.
No final do 9º ano (no início deste ano), o projeto Chat Nio estava ganhando ¥5w por mês.
Logo após a metade do prazo, o projeto foi adquirido, e o autor ganhou seus primeiros 100w na vida, além de se tornar um CTO...
Veja o que as pessoas estão fazendo no ensino médio e olhe para si mesmo...
Sem mais delongas, vamos dar uma olhada em Chat Nio Projete-o.
Em resumo: o Chat Nio é a evolução definitiva da Next Web e da One API.
Por que você precisa do Chat Nio? As plataformas de negócios atuais do AIGC se enquadram em duas categorias principais:
para ChatGPT O Next Web representa um projeto de implantação leve:
Interface de usuário sofisticada
Implantação pessoal conveniente
A sincronização do diálogo depende de uma configuração complexa do WebDav
Modelo de faturamento único
Falta de facilidade no manuseio de documentos
Falta de recursos completos de distribuição de API
Projeto de distribuição de API representado por One API:
Gerenciamento sólido de canais
Distribuição completa da API
Falta de uma interface de usuário intuitiva
O modelo de cobrança favorece os usuários técnicos
A funcionalidade favorece a extremidade B, a experiência da extremidade C é ruim
O objetivo do Chat Nio é ser "tanto peixe quanto ave" - uma bela interface de usuário e uma poderosa funcionalidade de back-end, uma verdadeira solução comercial completa.
Atualmente, o projeto tem 7,2 mil estrelas no GitHub e ainda está crescendo.
Visão geral dos principais recursos 1. Suporte avançado a modelos
O Chat Nio é compatível com os principais modelos de idiomas, incluindo:
OpenAI Full Series (com visão e chamada de função)
Antrópica Claude alcance
Empresa de Internet Google Gêmeos e PaLM2
Meio da jornada (suporta operação U/V/R)
Modelos domésticos, como o Xunfei Starfire e o Smart Spectrum Clear Speech
além de modelos emergentes, como Groq e LocalAI
2. gerenciamento de canais em nível empresarial gerenciamento multicanal: suporte à configuração do mesmo modelo de vários canais upstream
Configuração de prioridade: ordem de chamada de canal personalizável
Distribuição de peso: suporta o balanceamento de carga de canais com a mesma prioridade
Agrupamento de usuários: diferentes canais podem ser definidos para diferentes grupos de usuários
Falha ao tentar novamente: muda automaticamente para o canal alternativo
Redirecionamento de modelos: suporte para aliasing e mapeamento de modelos
3. funcionalidade comercial completa
Modelo de faturamento duplo:
Assinatura: Assinatura mensal/anual com preço fixo
Faturamento flexível: pagamento conforme o uso, suporte para taxas de câmbio personalizadas
Vários códigos de resgate:
Código de presente: um tipo para uma única vez
Código de resgate: reutilizável, adequado para emissão de cartões
Sincronização e compartilhamento de diálogos:
Sincronização entre extremidades com configuração zero
Função de compartilhamento de URL
Função Exportar imagem
4. excelente experiência do usuário
Belo design da interface do usuário:
Adaptação para PC/Pad/Móvel
Suporte a temas claros e escuros
Suporte completo à internacionalização
Suporte avançado a Markdown:
Renderização de fórmulas LaTeX
Gráfico de sereias
Destaque de código
renderização da tabela
Recursos de processamento de documentos:
Análise de PDF, Word, PPT e outros documentos
Reconhecimento de imagens OCR
Suporte ao armazenamento S3/R2/MinIO
Opções de implantação O Chat Nio oferece uma variedade de opções de implantação para atender a diferentes cenários, incluindo Pagoda, Docker, K8S e muito mais.
Para os alunos que não têm formação técnica, não é preciso se preocupar com a instalação. A Sealos App Store [2] oferece uma implantação de modelos de aplicativos com um clique, o PostgreSQL acoplado ao back-end e usa o Redis como cache. E a implementação pode ser feita com um clique do mouse, o que é muito suave.
Se você quiser implantar um Chat Nio rapidamente e não quiser se envolver em um processo tedioso de instalação e configuração, experimente o Sealos.
Abra diretamente o modelo de aplicativo do Chat Nio:
https://template.hzh.sealos.run/deploy?templateName=chatnio
Em seguida, clique em "Go to Sealos Deployment" no canto superior direito.
Se você for um usuário iniciante do Sealos[1], precisará se registrar e fazer login na sua conta de nuvem pública do Sealos, que o redirecionará imediatamente para a página de implementação do modelo.
Não é necessário preencher nada, basta clicar em "Deploy Application" (Implantar aplicativo) no canto superior direito para iniciar a implantação. Após a conclusão da implantação, aguarde até que todos os componentes se tornem "Running" (Em execução) e clique em "Details" (Detalhes) para acessar a página de detalhes do aplicativo.
Clicar no endereço público abre a interface do usuário do Chat Nio.
O nome de usuário padrão é raiz
A senha é chatnio123456
.
Depois de fazer login, siga as instruções no canto inferior direito para entrar na interface de gerenciamento em segundo plano e alterar sua senha.
Você também pode modificar várias informações e configurações do site.
Gerenciamento de canais O gerenciamento de canais é um módulo funcional central do sistema Chat Nio que permite aos usuários configurar e gerenciar de forma flexível as interfaces de vários provedores de serviços de modelos de IA. Por meio desse módulo, os usuários podem facilmente adicionar, editar, excluir e otimizar vários canais de IA para atender a diferentes necessidades comerciais e requisitos de desempenho.
Principais recursos Configuração flexível de canais: os usuários podem adicionar e gerenciar facilmente vários provedores de serviços de IA, incluindo a definição de chaves de API, o ajuste de parâmetros de modelo e outras configurações importantes.
Compatibilidade avançada de formatos: adotando o modo de adaptador, ele é compatível com mais de 10 tipos de canais, abrangendo os principais provedores de serviços, como OpenAI, Anthropic etc., o que melhora muito a escalabilidade e a adaptabilidade do sistema.
Gerenciamento inteligente de prioridades: permite definir prioridades para diferentes canais, garantindo que o sistema dê prioridade à chamada de canais de alta prioridade e obtenha a alocação ideal de recursos.
Mecanismo de distribuição de peso fino: entre os canais com a mesma prioridade, a probabilidade de cada canal ser selecionado é controlada com precisão pelo sistema de peso para obter uma distribuição de carga mais equilibrada.
Monitoramento abrangente em tempo real: fornece monitoramento detalhado em tempo real do status do canal, incluindo volume de solicitações, tempo de resposta, taxa de erro e outros indicadores importantes, ajudando os administradores a se manterem a par da operação do sistema.
Failover inteligente: quando é detectada uma falha em um canal de alta prioridade, o sistema pode alternar automaticamente para um canal de baixa prioridade para garantir a continuidade e a confiabilidade do serviço.
Balanceamento de carga com várias chaves: suporta a configuração de várias chaves de API em um único canal, o que melhora significativamente a capacidade de balanceamento de carga e a estabilidade geral do serviço.
Personalização flexível de modelos: oferece aos usuários a capacidade de adicionar e configurar modelos de IA personalizados para atender a necessidades comerciais específicas e cenários de aplicativos inovadores.
Controle detalhado dos direitos do usuário: oferece suporte a direitos de acesso a canais personalizados para diferentes grupos de usuários, a fim de obter uma alocação de recursos mais segura e direcionada.
Há duas maneiras de adicionar canais, seja manualmente ou por meio da sincronização automática de upstream.
Adicionar canais manualmentePrimeiro, vamos dar uma olhada na adição manual de canais clicando no botão [Add Channels]:
Preencha o formulário pop-up com informações sobre o canal, incluindo nome, tipo, prioridade, peso, modelos compatíveis (modelos personalizáveis), mapeamento de modelos (consulte Mecanismos de mapeamento de modelos abaixo para obter documentação específica), agrupamento de usuários, proxies de encaminhamento e assim por diante.
Preencha as informações de configuração, como a chave de API correspondente, de acordo com os prompts do tipo de canal selecionado.
Se você não tiver um canal existente, poderá usar o serviço de proxy de IA da Sealos: https://sealos.run/docs/5.0.0/user-guide/ai-proxy/
O AI Proxy é uma solução completa de chamada de modelos de IA fornecida pela plataforma Sealos, que permite que os desenvolvedores chamem e gerenciem facilmente vários modelos de IA em uma plataforma unificada. Quer se trate de Tongyi Qianqi, Wenxin Yiyin ou outros modelos de IA, todos eles podem ser chamados por meio de uma interface unificada.
O uso do AI Proxy é muito simples: em primeiro lugar, o navegador no desktop do Sealos: https://hzh.sealos.run
Em seguida, abra [AI Proxy] e clique no botão [New] para iniciar uma nova chave.
Depois de criar o ponto de extremidade da API, você verá o ponto de extremidade da API e a chave da API que precisa chamar, para que possa usá-los clicando diretamente em Copiar.
Preencha a configuração do canal do Chat Nio com o ponto de extremidade da API, a chave da API e o nome do modelo que você precisa adicionar ao canal.
A sincronização automática de upstream é ainda mais fácil, basta clicar em [Docking Upstream]:
Veja o exemplo do proxy de IA da Sealos: depois de clicar em [Docking Upstream], será exibido um formulário, que deverá ser preenchido com o ponto de extremidade da API e a chave da API do upstream.
Clicar em Confirm (Confirmar) sincronizará todos os modelos.
Em seguida, clique no botão Confirm (Confirmar) no canto inferior direito para concluir o acoplamento ascendente.
Não demonstrarei as outras configurações; você pode consultar os documentos oficiais para fazer a configuração por conta própria: https://www.chatnio.com/docs/introduction
Resumindo, ainda é bastante chocante ver um estudante do ensino médio criar um produto assim, o Chat Nio não só resolve os pontos problemáticos da atual plataforma AIGC, mas também torna o produto tão perfeito - uma bela interface, recursos avançados e assim por diante. Não é de se admirar que tantas pessoas o estejam usando para criar suas próprias plataformas de IA.
Mas, por outro lado, essa história também me faz pensar em uma pergunta: será que todos os jovens de hoje em dia são tão bons? Você já conheceu algum "jovem talentoso" semelhante perto de você? Sinta-se à vontade para compartilhar suas histórias na seção de comentários.
A propósito, se você acha que esse projeto é bom, não se esqueça de dar uma estrela para apoiar esse garoto! Talvez você seja o próximo a descobrir um gênio.
Um estudante do ensino médio desenvolveu uma grande plataforma de gerenciamento de modelos e ganhou 100w!
Não pode ser reproduzido sem permissão:Chefe do Círculo de Compartilhamento de IA " Um estudante do ensino médio desenvolveu uma grande plataforma de gerenciamento de modelos e ganhou 100w!
Recomendado
- 7 ferramentas de produção de áudio de IA indispensáveis para aprimorar e gerar som, voz e música
- 10 ótimas ferramentas de IA gratuitas para criar textos, imagens, vídeos e muito mais em 2024
- Glean x Microsoft Copilot: qual ferramenta de IA é melhor para você?
- O Google lança seu próprio modelo de IA de "raciocínio": Gemini 2.0 Flash Thinking Experimental
- A trilha de pesquisa de IA aumenta novamente quando a startup Perplexity fecha o financiamento com uma avaliação de US$ 9 bilhões
- A OpenAI sofre outra mudança de pessoal quando o pai da GPT deixa a empresa
- Contornos: gerar saída de texto estruturado por meio de expressões regulares, JSON ou modelos Pydantic
- O GitHub anunciou oficialmente o Plano GitHub Copilot Free, agora disponível para todos os usuários!