7K estrella! Un estudiante de secundaria desarrolló una gran plataforma de gestión de modelos y ganó 100w!
Había un estudiante de secundaria que inició un proyecto en el segundo semestre de su primer año específicamente para dar a sus amigos una experiencia gratuita con el modelo GPT-4.
En el verano del octavo curso, decidió abrir el proyecto y bautizarlo oficialmente como Chat Nio, al tiempo que lo posicionaba como una plataforma integral de gestión de modelos LLM.
A finales del noveno curso (a principios de este año), el proyecto Chat Nio ganaba 5 yenes al mes.
Inmediatamente después, el proyecto fue adquirido, y el autor ganó sus primeros 100w en la vida, además de convertirse en CTO...
Mira lo que hace la gente en la escuela media y mírate a ti mismo...
Sin más preámbulos, echemos un vistazo a Chat Nio Proyéctalo.
En pocas palabras: Chat Nio es la evolución definitiva de Next Web y One API.
¿Por qué necesita Chat Nio? Las plataformas empresariales actuales de AIGC se dividen en dos categorías principales:
para ChatGPT Next Web representa un proyecto de despliegue ligero:
✅ Interfaz de usuario sofisticada
✅ Cómodo despliegue personal
❌ La sincronización de diálogos depende de una compleja configuración de WebDav.
❌ Modelo de facturación única
❌ Falta de facilidad en el manejo de documentos.
❌ Falta de capacidades completas de distribución de API.
Proyecto de distribución de API representado por One API:
✅ Sólida gestión de canales
✅ Distribución completa de API
❌ Falta de una interfaz de usuario intuitiva.
❌ El modelo de facturación favorece a los usuarios técnicos
❌ La funcionalidad favorece al lado B, la experiencia del lado C es pobre
Chat Nio aspira a ser "a la vez pez y ave": una bonita interfaz de usuario y una potente funcionalidad back-end, verdaderamente una solución empresarial integral.
El proyecto cuenta actualmente con 7,2K estrellas en GitHub y sigue creciendo.
Características principales de un vistazo 1. Amplia compatibilidad de modelos
Chat Nio es compatible con los principales modelos lingüísticos, incluidos:
Toda la familia OpenAI (incluidos Vision y Llamada a función)
AntrópicoClaude gama
Google Empresa de Internet Géminis & PaLM2
A mitad de camino (Admite el funcionamiento U/V/R)
Modelos nacionales como Xunfei Starfire y Smart Spectrum Clear Speech
así como modelos emergentes como Groq y LocalAI
2. Gestión de canales a nivel empresarial Gestión multicanal: admite la configuración del mismo modelo de varios canales ascendentes
Ajuste de prioridad: orden de llamada de los canales personalizable
Distribución del peso: permite equilibrar la carga de canales con la misma prioridad
Agrupación de usuarios: se pueden establecer diferentes canales para distintos grupos de usuarios.
Fallo al reintentar: cambia automáticamente al canal alternativo
Redirección de modelos: compatibilidad con aliasing y mapping de modelos
3. Funcionalidad empresarial completa
Modelo de doble facturación:
Suscripción: paquete mensual/anual a precio fijo
Facturación flexible: pago por uso, compatibilidad con tipos de cambio personalizados
Múltiples códigos de canje:
Código de regalo: un tipo por una sola vez
Código de canje: reutilizable, apto para la emisión de tarjetas
Sincronización y uso compartido del diálogo:
Sincronización cruzada con configuración cero
Función para compartir URL
Función de exportación de imágenes
4. Excelente experiencia de usuario
Bonito diseño de interfaz de usuario:
Adaptación PC/Pad/Móvil
Compatible con temas claros y oscuros
Apoyo completo a la internacionalización
Potente compatibilidad con Markdown:
Renderizado de fórmulas LaTeX
Cuadro de sirenas
Resaltado de código
representación de la mesa
Capacidad de procesamiento de documentos:
Análisis de PDF, Word, PPT y otros documentos
OCR Reconocimiento de imágenes
Compatibilidad con almacenamiento S3/R2/MinIO
Opciones de despliegue Chat Nio ofrece una variedad de opciones de despliegue para adaptarse a diferentes escenarios, incluyendo Pagoda, Docker, K8S, y más.
Para los estudiantes sin conocimientos técnicos, no tiene que preocuparse por la instalación, Sealos App Store [2] proporciona un despliegue de plantillas de aplicaciones con un solo clic, las interfaces de back-end con PostgreSQL y utiliza Redis como caché, puede sentirse libre de elasticidad y escalabilidad. Y el despliegue se puede hacer con un clic del ratón, que es muy suave como la seda.
Si quieres desplegar un Chat Nio rápidamente y no quieres enfrascarte en un tedioso proceso de instalación y configuración, prueba Sealos.
Abra directamente la plantilla de la aplicación Chat Nio:
https://template.hzh.sealos.run/deploy?templateName=chatnio
A continuación, haga clic en "Ir a Sealos Deployment" en la esquina superior derecha.
Si es la primera vez que utiliza Sealos[1], tendrá que registrarse e iniciar sesión en su cuenta de nube pública de Sealos, que le redirigirá inmediatamente a la página de despliegue de la plantilla.
No necesitas rellenar nada, simplemente haz clic en "Desplegar aplicación" en la esquina superior derecha para iniciar el despliegue. Una vez completado el despliegue, espere a que todos los componentes se "Ejecuten" y, a continuación, haga clic en "Detalles" para acceder a la página de detalles de la aplicación.
Al hacer clic en la dirección pública se abre la interfaz de usuario de Chat Nio.
El nombre de usuario por defecto es root
La contraseña es chatnio123456
.
Después de conectarte, sigue las indicaciones de la esquina inferior derecha para entrar en la interfaz de gestión en segundo plano y cambiar tu contraseña.
También puede modificar diversas informaciones y configuraciones del sitio.
Gestión de canales La gestión de canales es un módulo funcional básico del sistema Chat Nio que permite a los usuarios configurar y gestionar de forma flexible las interfaces de múltiples proveedores de servicios de modelos de IA. A través de este módulo, los usuarios pueden añadir, editar, eliminar y optimizar fácilmente varios canales de IA para satisfacer diferentes necesidades empresariales y requisitos de rendimiento.
Características principales Configuración flexible de canales: los usuarios pueden añadir y gestionar fácilmente varios proveedores de servicios de IA, incluida la configuración de claves API, el ajuste de los parámetros del modelo y otras configuraciones clave.
Potente compatibilidad de formatos: Adoptando el modo adaptador, consigue una compatibilidad sin fisuras con más de 10 tipos de canales, abarcando los principales proveedores de servicios como OpenAI, Anthropic, etc., lo que mejora enormemente la escalabilidad y adaptabilidad del sistema.
Gestión inteligente de prioridades: permite establecer prioridades para los distintos canales, garantizando que el sistema dé prioridad a las llamadas a canales de alta prioridad y logrando una asignación óptima de los recursos.
Mecanismo de distribución fina del peso: entre los canales con la misma prioridad, la probabilidad de que cada canal sea seleccionado se controla con precisión mediante el sistema de peso para lograr una distribución más equilibrada de la carga.
Supervisión exhaustiva en tiempo real: proporciona una supervisión detallada en tiempo real del estado del canal, incluido el volumen de solicitudes, el tiempo de respuesta, la tasa de errores y otros indicadores clave, lo que ayuda a los administradores a mantenerse al tanto del funcionamiento del sistema.
Failover inteligente: cuando se detecta un fallo en un canal de alta prioridad, el sistema puede cambiar automáticamente a un canal de baja prioridad para garantizar la continuidad y fiabilidad del servicio.
Equilibrio de carga de varias claves: admite la configuración de varias claves API dentro de un mismo canal, lo que mejora significativamente la capacidad de equilibrio de carga y la estabilidad general del servicio.
Personalización flexible de modelos: ofrece a los usuarios la posibilidad de añadir y configurar modelos de IA personalizados para satisfacer necesidades empresariales específicas y escenarios de aplicación innovadores.
Control preciso de los derechos de los usuarios: admite derechos de acceso a canales adaptados a distintos grupos de usuarios para lograr una asignación de recursos más segura y selectiva.
Hay dos formas de añadir canales: manualmente o mediante la sincronización automática ascendente.
Añadir canales manualmenteEn primer lugar, vamos a añadir canales manualmente haciendo clic en el botón [Añadir canales]:
Rellene el formulario emergente con la información del canal, incluyendo nombre, tipo, prioridad, peso, modelos soportados (modelos personalizables), mapeo de modelos (ver Mecanismos de Mapeo de Modelos más abajo para documentación específica), agrupación de usuarios, proxies de reenvío, etc.
Rellene la información de configuración, como la clave API correspondiente, según las indicaciones del tipo de canal seleccionado.
Si no dispone de un canal, puede utilizar el servicio AI Proxy de Sealos: https://sealos.run/docs/5.0.0/user-guide/ai-proxy/
AI Proxy es una solución integral de invocación de modelos de IA proporcionada por la plataforma Sealos, que permite a los desarrolladores invocar y gestionar fácilmente varios modelos de IA en una plataforma unificada. Ya se trate de Tongyi Qianqi, Wenxin Yiyin u otros modelos de IA, todos pueden invocarse a través de una interfaz unificada.
El uso de AI Proxy es muy simple, en primer lugar el navegador en el escritorio Sealos: https://hzh.sealos.run
A continuación, abra [AI Proxy] y haga clic en el botón [Nuevo] para iniciar una nueva clave.
Después de crear el punto final de la API, verá el punto final de la API y la clave de la API a la que debe llamar, de modo que puede utilizarla directamente haciendo clic en Copiar.
Rellena la configuración del canal Chat Nio con el API Endpoint y API Key y el nombre del modelo que necesitas añadir al canal.
La sincronización automática ascendente es aún más fácil, basta con hacer clic en [Acoplamiento ascendente]:
Tomemos como ejemplo el AI Proxy de Sealos, después de hacer clic en [Docking Upstream], aparecerá un formulario, rellene el API Endpoint y la API Key del upstream.
Al hacer clic en Confirmar se sincronizarán todos los modelos.
A continuación, haga clic en el botón Confirmar de la esquina inferior derecha para completar el acoplamiento ascendente.
No voy a demostrar las otras configuraciones, puede consultar los documentos oficiales para configurar usted mismo: https://www.chatnio.com/docs/introduction
En resumen, sigue siendo bastante chocante ver a un estudiante de secundaria hacer un producto así, Chat Nio no sólo resuelve los puntos débiles de la actual plataforma AIGC, sino que también hace que el producto sea tan perfecto - una interfaz hermosa, características de gran alcance y así sucesivamente. No es de extrañar que tanta gente lo utilice para crear sus propias plataformas de IA.
Pero esta historia también me hace pensar en una pregunta: ¿son todos los jóvenes de hoy tan geniales? ¿Has conocido a algún "joven superdotado" similar a tu alrededor? No dudes en compartir tus historias en la sección de comentarios.
Por cierto, si crees que este proyecto es bueno, ¡no olvides dar una Estrella para apoyar a este chico! Quizá seas tú el próximo en descubrir a un genio.
© declaración de copyright
Derechos de autor del artículo Círculo de intercambio de inteligencia artificial Todos, por favor no reproducir sin permiso.
Artículos relacionados
Sin comentarios...