BISHENG: 엔터프라이즈 AI 애플리케이션 구축을 위한 오픈 소스 LLM DevOps 플랫폼

2.5K 00

일반 소개

BISHENG은 차세대 엔터프라이즈 AI 애플리케이션을 위해 설계된 오픈 소스 LLM(대규모 언어 모델) 데브옵스 플랫폼입니다. 이 플랫폼은 생성형 AI 워크플로, RAG(검색 증강 생성), 지능형 에이전트, 통합 모델 관리, 평가, SFT(미세 조정), 데이터 세트 관리, 엔터프라이즈급 시스템 관리, 관찰 가능성 등 강력하고 포괄적인 기능을 제공합니다. 복잡한 엔터프라이즈 애플리케이션 시나리오를 지원하도록 설계된 BISHENG은 이미 많은 업계 선도 조직과 포춘 500대 기업에서 채택하고 있습니다. 이 플랫폼의 고정밀 문서 구문 분석 모델은 5년간의 고품질 데이터로 학습되었으며 인쇄 텍스트, 필기 텍스트, 희귀 문자, 표 및 레이아웃 분석을 인식할 수 있습니다. 사용자는 BISHENG을 무료로 배포하여 강력한 기능과 커뮤니티 지원을 누릴 수 있습니다.

이 프로젝트를 오래 전에 보았는데 최근에 게시할 수 있을 정도로 간신히 완성된 것을 보았기 때문에 더 나은 Dify 또는 FAST를 사용하면 어떨까 하는 의문이 생겼습니다.

기능 목록

제너레이티브 AI 워크플로
검색 증강 생성(RAG)
지능형 에이전트
통합 모델 관리
모델링 평가
미세 조정(SFT)
데이터 집합 관리
엔터프라이즈급 시스템 관리
관찰 가능성
매우 정확한 문서 구문 분석
멀티 에이전트 협업
고정 레이아웃 보고서 생성
정책 업데이트 비교
고객 서비스 지원
회의 기록 생성
심사 재개
통화 로그 분석
비정형 데이터 거버넌스
지식 마이닝
데이터 분석

도움말 사용

설치 프로세스

시스템 요구 사항::
- CPU: 8코어 이상
- 메모리: 32GB 이상
- Docker: 버전 19.03.9 이상
- 도커 컴포즈: 버전 1.25.1+
설치 단계::
- BISHENG 코드 베이스 복제: bash git clone https://github.com/dataelement/bisheng.git cd bisheng/docker
- 시스템에 git 명령이 없는 경우 BISHENG 코드의 zip 파일을 다운로드할 수 있습니다: bash wget https://github.com/dataelement/bisheng/archive/refs/heads/main.zip unzip main.zip && cd bisheng-main/docker
- BISHENG을 시작합니다: bash docker-compose up -d
- 시작이 완료되면 브라우저에서 방문하세요.http://IP:3001를 클릭하고 로그인 페이지로 이동하여 사용자를 등록합니다. 기본적으로 첫 번째로 등록된 사용자는 시스템 관리자가 됩니다.

기능 작동 가이드

제너레이티브 AI 워크플로::
- 플랫폼에서 생성형 AI 워크플로 모듈을 선택합니다.
- 데이터 입력, 모델 선택, 출력 형식 등 요구사항에 따라 워크플로우를 구성하세요.
- '시작' 버튼을 클릭하면 시스템이 자동으로 워크플로우를 실행하고 결과를 생성합니다.
검색 증강 생성(RAG)::
- 메인 화면에서 'RAG' 모듈을 선택합니다.
- 검색 키워드나 질문을 입력하면 시스템이 데이터베이스에서 관련 정보를 검색하여 답변을 생성합니다.
- 사용자는 필요에 따라 검색 매개변수 및 생성 설정을 조정할 수 있습니다.
지능형 에이전트::
- 지능형 상담원 모듈을 선택하여 상담원 작업 및 매개 변수를 구성합니다.
- 이 시스템은 다중 에이전트 협업을 지원하므로 사용자는 여러 에이전트가 동시에 작업하도록 설정하여 효율성을 높일 수 있습니다.
- 상담원의 작업이 완료되면 시스템은 상세한 보고서와 분석을 생성합니다.
통합 모델 관리::
- 모델 관리 모듈로 이동하여 배포된 모든 모델을 보고 관리합니다.
- 사용자는 새 모델을 업로드하거나 기존 모델을 업데이트하거나 원치 않는 모델을 삭제할 수 있습니다.
- 이 시스템은 사용자가 모델 성능을 최적화할 수 있도록 모델 평가 및 미세 조정 기능을 제공합니다.
매우 정확한 문서 구문 분석::
- '문서 구문 분석' 모듈을 선택하고 구문 분석할 문서를 업로드합니다.
- 이 시스템은 PDF, Word, 이미지 등 다양한 문서 형식을 지원합니다.
- 구문 분석이 완료되면 사용자는 결과를 보고 원하는 형식으로 내보낼 수 있습니다.

일반적인 문제

BISHENG을 업데이트하는 방법은 무엇인가요?
- BISHENG 설치 디렉토리에 들어가서 다음 명령을 실행합니다:
```
git pull
docker-compose down
docker-compose up -d
```
- 시스템이 자동으로 최신 버전을 다운로드하고 다시 시작합니다.
설치 또는 사용 중에 문제가 발생하면 어떻게 처리하나요?
- 사용자는 BISHENG의 GitHub 페이지에서 자주 묻는 질문과 커뮤니티 지원을 확인할 수 있습니다.
- BISHENG의 토론 그룹에 가입하여 다른 사용자들과 경험과 솔루션을 교환할 수도 있습니다.