7K 스타! 중학생이 대형 모델 관리 플랫폼을 개발해 100W를 벌어들인 중학생!

1학년 2학기에 특별히 친구들에게 GPT-4 모델을 무료로 체험할 수 있도록 프로젝트를 시작한 중학생이 있었습니다.
8학년 여름에 그는 프로젝트를 오픈소스화하기로 결정하고 공식적으로 Chat Nio라는 이름을 붙이면서 이 프로젝트를 원스톱 LLM 모델 관리 플랫폼으로 포지셔닝했습니다.
9년차 말(올해 초)까지 Chat Nio 프로젝트의 수익은 월 5파운드였습니다.
중간고사 직후 프로젝트가 인수되었고 저자는 생애 첫 100W를 벌었을뿐만 아니라 CTO가되었습니다 ...

중학교에서 사람들이 무엇을하고 있는지보고 자신을보십시오 ...

더 이상 고민하지 말고 살펴보겠습니다. 채팅 니오 투사합니다.
간단히 말해, Chat Nio는 Next Web과 하나의 API가 궁극적으로 진화한 제품입니다.

Chat Nio가 필요한 이유는 무엇인가요? 현재 AIGC 비즈니스 플랫폼은 크게 두 가지로 나뉩니다:
에 따르면 ChatGPT 다음 웹은 경량 배포 프로젝트를 나타냅니다:
✅ 정교한 사용자 인터페이스
✅ 편리한 개인 배포
❌ 대화 동기화는 복잡한 WebDav 구성에 의존합니다.
❌ 단일 청구 모델
문서 처리의 편의성 부족
❌ 전체 API 배포 기능 부족
하나의 API로 대표되는 API 배포 프로젝트입니다:
✅ 강력한 채널 관리
✅ 완벽한 API 배포
❌ 직관적인 사용자 인터페이스 부족
기술 사용자에게 유리한 과금 모델
❌ 기능은 B엔드에 유리하고, C엔드 경험은 열악합니다.
Chat Nio는 아름다운 사용자 인터페이스와 강력한 백엔드 기능, 진정한 원스톱 비즈니스 솔루션이라는 '물고기와 새의 두 마리 토끼'를 모두 잡는 것을 목표로 합니다.
이 프로젝트는 현재 깃허브에서 7.2만 개의 별을 보유하고 있으며 계속 성장하고 있습니다.

핵심 기능 한눈에 보기 1. 다양한 모델 지원
Chat Nio는 다음과 같은 주요 대형 언어 모델을 지원합니다:
전체 OpenAI 제품군(비전 및 함수 호출)
인류학Claude 범위
Google 인터넷 회사 쌍둥이자리 & PaLM2
중간 여정 (U/V/R 작동 지원)
쉰페이 스타파이어, 위즈덤 스펙트럼 클리어 스피치 등의 국내 모델
Groq 및 LocalAI와 같은 새로운 모델뿐만 아니라
엔터프라이즈급 채널 관리 멀티채널 관리: 여러 업스트림 채널의 동일한 모델 구성을 지원합니다.
우선순위 설정: 사용자 지정 가능한 채널 호출 순서
가중치 분배: 동일한 우선순위 채널의 로드 밸런싱 지원
사용자 그룹화: 사용자 그룹별로 서로 다른 채널을 설정할 수 있습니다.
재시도 실패: 자동으로 대체 채널로 전환됩니다.
모델 리디렉션: 모델 앨리어싱 및 매핑 지원
3. 전체 비즈니스 기능
이중 청구 모델:
구독: 고정 가격 월간/연간 패키지
유연한 청구: 종량제 결제, 맞춤형 환율 지원
여러 개의 교환 코드:
기프트 코드: 한 가지 유형으로 한 번만 사용 가능
사용 코드: 재사용 가능, 카드 발급에 적합
대화 동기화 및 공유:
제로 구성으로 크로스엔드 동기화
URL 공유 기능
이미지 내보내기 기능
4. 뛰어난 사용자 경험
아름다운 UI 디자인:
PC/패드/모바일 적응
밝은 테마 및 어두운 테마 모두 지원
완벽한 국제화 지원
강력한 마크다운 지원:
라텍스 포뮬러 렌더링
인어 차트
코드 강조 표시
테이블 렌더링
문서 처리 기능:
PDF, Word, PPT 및 기타 문서 분석
OCR 이미지 인식
S3/R2/MinIO 스토리지 지원
배포 옵션 Chat Nio는 Pagoda, Docker, K8S 등 다양한 시나리오에 맞는 다양한 배포 방법을 제공합니다.
기술적 배경이 없는 학생의 경우 설치에 대해 걱정할 필요가 없으며, Sealos App Store [2]는 애플리케이션 템플릿의 원클릭 배포를 제공하고 백엔드는 PostgreSQL과 인터페이스하며 Redis를 캐시로 사용하므로 탄력성과 확장성을 자유롭게 사용할 수 있습니다. 또한 배포는 마우스 클릭 한 번으로 매우 매끄럽게 수행할 수 있습니다.
지루한 설치 및 구성 프로세스에 얽매이고 싶지 않고 Chat Nio를 빠르게 배포하고 싶다면 Sealos를 사용해 보세요.
Chat Nio 애플리케이션 템플릿을 직접 엽니다:
https://template.hzh.sealos.run/deploy?templateName=chatnio
그런 다음 오른쪽 상단 모서리에 있는 '실로스 배포로 이동'을 클릭합니다.
Sealos[1]를 처음 사용하는 경우, Sealos 퍼블릭 클라우드 계정에 등록하고 로그인하면 템플릿 배포 페이지로 즉시 리디렉션됩니다.
아무것도 입력할 필요 없이 오른쪽 상단의 "애플리케이션 배포"를 클릭하여 배포를 시작하면 됩니다. 배포가 완료되면 모든 구성 요소가 "실행 중"이 될 때까지 기다린 다음 "세부 정보"를 클릭하여 앱의 세부 정보 페이지로 들어갑니다.

공개 주소를 클릭하면 Chat Nio의 UI가 열립니다.

기본 사용자 이름은 root비밀번호는 다음과 같습니다. chatnio123456.
로그인한 후 오른쪽 하단의 안내에 따라 백그라운드 관리 인터페이스로 들어가 비밀번호를 변경합니다.

사이트의 다양한 정보와 구성을 수정할 수도 있습니다.

채널 관리 채널 관리는 사용자가 여러 AI 모델 서비스 제공업체의 인터페이스를 유연하게 구성하고 관리할 수 있는 Chat Nio 시스템의 핵심 기능 모듈입니다. 이 모듈을 통해 사용자는 다양한 비즈니스 요구 사항과 성능 요구 사항을 충족하기 위해 다양한 AI 채널을 쉽게 추가, 편집, 삭제 및 최적화할 수 있습니다.
주요 기능 유연한 채널 구성: 사용자는 API 키 설정, 모델 파라미터 조정 및 기타 주요 구성을 포함하여 여러 AI 서비스 제공업체를 쉽게 추가하고 관리할 수 있습니다.
강력한 포맷 호환성: 어댑터 모드를 채택하여 10개 이상의 채널 유형과 원활한 호환성을 실현하여 OpenAI, Anthropic 등과 같은 주류 서비스 제공업체를 포괄하며 시스템의 확장성과 적응성을 크게 향상시킵니다.
지능형 우선 순위 관리: 다양한 채널에 대한 우선 순위를 설정하여 우선 순위가 높은 채널에 우선적으로 전화를 걸고 최적의 리소스 할당을 달성할 수 있도록 합니다.
미세 가중치 분배 메커니즘: 동일한 우선순위를 가진 채널 중에서 각 채널이 선택될 확률을 가중치 시스템에 의해 정밀하게 제어하여 보다 균형 잡힌 부하 분산을 달성합니다.
종합적인 실시간 모니터링: 요청량, 응답 시간, 오류율 및 기타 주요 지표를 포함한 채널 상태에 대한 상세한 실시간 모니터링을 제공하여 관리자가 시스템 운영 현황을 파악할 수 있도록 도와줍니다.
지능형 장애 조치: 우선순위가 높은 채널 장애가 감지되면 시스템이 자동으로 우선순위가 낮은 채널로 전환하여 서비스 연속성과 안정성을 보장할 수 있습니다.
멀티키 로드 밸런싱: 단일 채널 내에서 여러 개의 API 키 구성을 지원하여 로드 밸런싱 기능과 전반적인 서비스 안정성을 크게 향상시킵니다.
유연한 모델 사용자 지정: 특정 비즈니스 요구 사항과 혁신적인 애플리케이션 시나리오를 충족하기 위해 사용자 지정 AI 모델을 추가하고 구성할 수 있는 기능을 제공합니다.
세분화된 사용자 권한 제어: 다양한 사용자 그룹에 대한 맞춤형 채널 액세스 권한을 지원하여 보다 안전하고 목표에 맞는 리소스 할당을 달성할 수 있습니다.
채널을 추가하는 방법에는 수동 또는 자동 업스트림 동기화를 통한 두 가지 방법이 있습니다.
수동으로 채널 추가하기먼저, [채널 추가] 버튼을 클릭하여 수동으로 채널을 추가하는 방법을 살펴봅시다:

이름, 유형, 우선순위, 가중치, 지원 모델(사용자 지정 가능한 모델), 모델 매핑(구체적인 설명은 아래의 모델 매핑 메커니즘 참조), 사용자 그룹화, 전달 프록시 등의 채널 정보를 팝업 양식에 입력합니다.
선택한 채널 유형에 대한 안내 메시지에 따라 해당 API 키 등의 구성 정보를 입력합니다.

기존 채널이 없는 경우, 실로스의 AI 프록시 서비스(https://sealos.run/docs/5.0.0/user-guide/ai-proxy/)를 이용할 수 있습니다.
AI 프록시는 실로스 플랫폼에서 제공하는 원스톱 AI 모델 호출 솔루션으로, 개발자가 통합된 플랫폼에서 다양한 AI 모델을 쉽게 호출하고 관리할 수 있도록 지원합니다. 통이첸치, 웬신이인 등 다양한 AI 모델을 통합된 인터페이스를 통해 호출할 수 있습니다.
AI 프록시의 사용법은 매우 간단합니다. 먼저 브라우저에서 Sealos 데스크톱으로 들어가세요: https://hzh.sealos.run
그런 다음 [AI 프록시]를 열고 [새로 만들기] 버튼을 클릭하여 새 키를 시작합니다.
API 엔드포인트 생성을 완료하면 호출해야 하는 API 키가 표시되며, 복사를 클릭하여 사용할 수 있습니다.

Chat Nio 채널 구성에 API 엔드포인트 및 API 키와 채널에 추가해야 하는 모델의 이름을 입력합니다.
업스트림 자동 동기화는 [업스트림 도킹]을 클릭하기만 하면 훨씬 더 쉽습니다:

실로스의 AI 프록시를 예로 들면, [업스트림 도킹]을 클릭하면 양식이 나타나고, 업스트림의 API 엔드포인트와 API 키를 입력합니다.

확인을 클릭하면 모든 모델이 동기화됩니다.

그런 다음 오른쪽 하단의 확인 버튼을 클릭하여 업스트림 도킹을 완료합니다.
다른 구성에 대해서는 설명하지 않으므로 공식 문서를 참조하여 직접 구성할 수 있습니다: https://www.chatnio.com/docs/introduction
요약하자면, 중학생이 이런 제품을 만들었다는 것은 여전히 충격적인 일이지만 Chat Nio는 현재 AIGC 플랫폼의 문제점을 해결할 뿐만 아니라 아름다운 인터페이스, 강력한 기능 등 제품을 매우 완벽하게 만들어 냈습니다. 많은 사람들이 자체 AI 플랫폼을 구축하는 데 이 제품을 사용하는 것은 당연한 일입니다.
하지만 이 이야기를 들으면서 요즘 젊은이들이 모두 그렇게 대단한가요? 라는 질문도 떠올랐어요. 여러분 주변에도 비슷한 '영재'를 만난 적이 있나요? 댓글 섹션에 여러분의 이야기를 자유롭게 공유해 주세요.
이 프로젝트가 좋다고 생각하신다면 별을 주어서 이 아이를 응원하는 것을 잊지 마세요! 다음에는 여러분이 천재성을 발견할지도 모르니까요.