Звезда 7K! Ученик младшей школы разработал большую платформу для управления моделями и заработал 100w!

Был один младший школьник, который во втором семестре первого года обучения затеял проект специально для того, чтобы его друзья получили бесплатный опыт работы с моделью GPT-4.
К лету 8-го года обучения он решил открыть исходный код проекта и официально назвал его Chat Nio, позиционируя проект как универсальную платформу для управления моделями LLM.
К концу 9-го года обучения (в начале этого года) проект Chat Nio зарабатывал ¥5w в месяц.
Сразу после промежуточного экзамена проект был приобретен, и автор заработал свои первые в жизни 100w, а также стал CTO...

Посмотрите, что делают люди в средней школе, и посмотрите на себя...

Без лишних слов, давайте посмотрим на Чат Нио Проектируйте.
В двух словах: Chat Nio - это конечная эволюция Next Web и One API.

Зачем вам нужен Chat Nio? Существующие бизнес-платформы AIGC делятся на две основные категории:
согласно ChatGPT Next Web представляет собой проект легкого развертывания:
✅ Продуманный пользовательский интерфейс
✅ Удобное персональное развертывание
❌ Синхронизация диалогов зависит от сложной конфигурации WebDav.
❌ Единая модель тарификации
❌ Отсутствие удобства работы с документами
❌ Отсутствие возможности полного распространения API
Проект по распространению API, представленный компанией One API:
✅ Эффективное управление каналами сбыта
✅ Полное распространение API
❌ Отсутствие интуитивно понятного пользовательского интерфейса
❌ Модель тарификации благоприятствует техническим пользователям
❌ Функциональность благоприятствует B-end, опыт C-end оставляет желать лучшего
Chat Nio стремится быть "и рыбой, и птицей" - красивый пользовательский интерфейс и мощная внутренняя функциональность, действительно универсальное решение для бизнеса.
В настоящее время проект имеет 7,2 тыс. звезд на GitHub и продолжает расти.

Основные возможности с первого взгляда 1. Поддержка большого количества моделей
Chat Nio поддерживает все основные языковые модели, включая:
Все семейство OpenAI (включая Vision и Вызов функции)
АнтропологияКлод ассортимент
Интернет-компания Google Близнецы & PaLM2
Середина путешествия (поддерживает работу в режиме U/V/R)
Отечественные модели, такие как Xunfei Starfire и Smart Spectrum Clear Speech
а также новые модели, такие как Groq и LocalAI.
2. многоканальное управление каналами на уровне предприятия: поддержка конфигурации одной модели нескольких восходящих каналов
Настройка приоритета: настраиваемый порядок вызова каналов
Распределение веса: поддерживает распределение нагрузки на каналы с одинаковым приоритетом
Группировка пользователей: разные каналы могут быть установлены для разных групп пользователей
Невозможность повторной попытки: автоматическое переключение на альтернативный канал
Перенаправление моделей: поддержка псевдонимов и отображения моделей
3. Полная бизнес-функциональность
Модель двойной тарификации:
Подписка: ежемесячный/ежегодный пакет по фиксированной цене
Гибкая тарификация: оплата по факту, поддержка индивидуальных обменных курсов
Несколько кодов выкупа:
Подарочный код: один тип только для одного раза
Код выкупа: многоразовый, подходит для выпуска карт
Синхронизация и совместное использование диалогов:
Перекрестная синхронизация с нулевой конфигурацией
Функция обмена URL-адресами
Функция экспорта изображений
4. Отличный пользовательский опыт
Красивый дизайн пользовательского интерфейса:
Адаптация к ПК/планшету/мобильному телефону
Поддерживает светлые и темные темы
Полная поддержка интернационализации
Мощная поддержка Markdown:
Рендеринг формул в LaTeX
Диаграмма русалки
Выделение кода
визуализация стола
Возможности обработки документов:
Анализ PDF, Word, PPT и других документов
Распознавание изображений OCR
Поддержка систем хранения S3/R2/MinIO
Варианты развертывания Chat Nio предлагает множество вариантов развертывания для различных сценариев, включая Pagoda, Docker, K8S и другие.
Студентам, не имеющим технического образования, не нужно беспокоиться об установке, Sealos App Store [2] обеспечивает развертывание шаблонов приложений одним щелчком мыши, в качестве бэкэнда используется PostgreSQL, а в качестве кэша - Redis, вы можете не стесняться эластичного масштабирования. А развертывание осуществляется одним щелчком мыши, что очень плавно.
Если вы хотите быстро развернуть Chat Nio и не хотите заморачиваться с утомительным процессом установки и настройки, попробуйте Sealos.
Откройте шаблон приложения Chat Nio напрямую:
https://template.hzh.sealos.run/deploy?templateName=chatnio
Затем нажмите "Перейти к развертыванию Sealos" в правом верхнем углу.
Если вы впервые используете Sealos[1], вам нужно зарегистрироваться и войти в свою учетную запись публичного облака Sealos, которая сразу же перенаправит вас на страницу развертывания шаблона.
Вам не нужно ничего заполнять, просто нажмите "Развернуть приложение" в правом верхнем углу, чтобы начать развертывание. После завершения развертывания дождитесь, пока все компоненты станут "Работающими", а затем нажмите "Подробности", чтобы перейти на страницу с подробной информацией о приложении.

При нажатии на публичный адрес открывается пользовательский интерфейс Chat Nio.

По умолчанию используется имя пользователя rootПароль chatnio123456.
После входа в систему следуйте подсказкам в правом нижнем углу, чтобы войти в интерфейс управления фоном и сменить пароль.

Вы также можете изменять различную информацию и конфигурацию сайта.

Управление каналами Управление каналами - это основной функциональный модуль в системе Chat Nio, который позволяет пользователям гибко настраивать и управлять интерфейсами нескольких поставщиков услуг модели искусственного интеллекта. С помощью этого модуля пользователи могут легко добавлять, редактировать, удалять и оптимизировать различные каналы ИИ в соответствии с различными бизнес-потребностями и требованиями к производительности.
Ключевые особенности Гибкая настройка каналов: пользователи могут легко добавлять и управлять несколькими поставщиками услуг искусственного интеллекта, включая установку ключей API, настройку параметров модели и другие ключевые конфигурации.
Мощная совместимость форматов: Благодаря использованию режима адаптера, обеспечивается бесшовная совместимость с 10+ типами каналов, охватывая основных поставщиков услуг, таких как OpenAI, Anthropic и т.д., что значительно повышает масштабируемость и адаптивность системы.
Интеллектуальное управление приоритетами: позволяет устанавливать приоритеты для различных каналов, обеспечивая приоритет вызова высокоприоритетных каналов и оптимальное распределение ресурсов.
Механизм точного распределения веса: среди каналов с одинаковым приоритетом вероятность выбора каждого канала точно контролируется системой веса для достижения более сбалансированного распределения нагрузки.
Комплексный мониторинг в реальном времени: обеспечивает подробный мониторинг состояния канала в реальном времени, включая объем запросов, время ответа, частоту ошибок и другие ключевые показатели, помогая администраторам быть в курсе работы системы.
Интеллектуальный отказ: при обнаружении отказа высокоприоритетного канала система может автоматически переключиться на низкоприоритетный канал, чтобы гарантировать непрерывность и надежность обслуживания.
Многоключевая балансировка нагрузки: поддерживает настройку нескольких ключей API в рамках одного канала, что значительно повышает возможности балансировки нагрузки и общую стабильность сервиса.
Гибкая настройка моделей: предоставляет пользователям возможность добавлять и настраивать пользовательские модели ИИ для удовлетворения конкретных потребностей бизнеса и инновационных сценариев применения.
Тонкий контроль прав пользователей: поддержка индивидуальных прав доступа к каналу для различных групп пользователей для более безопасного и целенаправленного распределения ресурсов.
Существует два способа добавления каналов: вручную или с помощью автоматической синхронизации.
Ручное добавление каналовСначала рассмотрим ручное добавление каналов с помощью кнопки [Добавить каналы]:

Заполните всплывающую форму информацией о канале, включая имя, тип, приоритет, вес, поддерживаемые модели (настраиваемые модели), сопоставление моделей (см. раздел "Механизмы сопоставления моделей" ниже для получения специальной документации), группировку пользователей, прямые прокси и т. д.
Заполните информацию о конфигурации, например, соответствующий ключ API, в соответствии с подсказками для выбранного типа канала.

Если у вас нет существующего канала, вы можете воспользоваться услугой AI Proxy от Sealos: https://sealos.run/docs/5.0.0/user-guide/ai-proxy/.
AI Proxy - это универсальное решение для вызова моделей ИИ, предоставляемое платформой Sealos, которое позволяет разработчикам легко вызывать и управлять различными моделями ИИ на единой платформе. Будь то Tongyi Qianqi, Wenxin Yiyin или другие модели ИИ, все они могут быть вызваны через единый интерфейс.
Использовать AI Proxy очень просто, для начала зайдите в браузер на рабочем столе Sealos: https://hzh.sealos.run.
Затем откройте [AI Proxy] и нажмите кнопку [New], чтобы запустить новый ключ.
После создания конечной точки API вы увидите конечную точку API и ключ API, который необходимо вызвать, и сможете использовать его, нажав кнопку Copy.

Заполните конфигурацию канала Chat Nio, указав конечную точку API, ключ API и имя модели, которую нужно добавить в канал.
Автосинхронизация по течению стала еще проще, просто нажмите [Docking Upstream]:

Возьмем для примера AI Proxy от Sealos: после нажатия [Docking Upstream] появится форма, в которой нужно заполнить конечную точку API и ключ API для восходящего потока.

Нажав кнопку Подтвердить, вы синхронизируете все модели.

Затем нажмите кнопку Подтвердить в правом нижнем углу, чтобы завершить стыковку.
Я не буду демонстрировать другие конфигурации, вы можете обратиться к официальным документам для самостоятельной настройки: https://www.chatnio.com/docs/introduction.
Подводя итог, можно сказать, что это все еще шокирует, когда ученик младших классов создает такой продукт. Chat Nio не только решает болевые точки текущей платформы AIGC, но и делает продукт настолько совершенным - красивый интерфейс, мощные функции и так далее. Неудивительно, что многие люди используют его для создания собственных платформ искусственного интеллекта.
Но, с другой стороны, эта история заставляет меня задуматься над вопросом: а все ли молодые люди в наше время такие замечательные? Встречались ли вы с подобными "одаренными подростками" в вашем окружении? Не стесняйтесь делиться своими историями в разделе комментариев.
Кстати, если вы считаете этот проект хорошим, не забудьте дать звезду, чтобы поддержать этого парня! Возможно, именно вы станете следующим, кто откроет в себе гения.