BISHENG: 엔터프라이즈 AI 애플리케이션 구축을 위한 오픈 소스 LLM DevOps 플랫폼

일반 소개

BISHENG은 차세대 엔터프라이즈 AI 애플리케이션을 위해 설계된 오픈 소스 LLM(대규모 언어 모델) 데브옵스 플랫폼입니다. 이 플랫폼은 생성형 AI 워크플로, RAG(검색 증강 생성), 지능형 에이전트, 통합 모델 관리, 평가, SFT(미세 조정), 데이터 세트 관리, 엔터프라이즈급 시스템 관리, 관찰 가능성 등 강력하고 포괄적인 기능을 제공합니다. 복잡한 엔터프라이즈 애플리케이션 시나리오를 지원하도록 설계된 BISHENG은 이미 많은 업계 선도 조직과 포춘 500대 기업에서 채택하고 있습니다. 이 플랫폼의 고정밀 문서 구문 분석 모델은 5년간의 고품질 데이터로 학습되었으며 인쇄 텍스트, 필기 텍스트, 희귀 문자, 표 및 레이아웃 분석을 인식할 수 있습니다. 사용자는 BISHENG을 무료로 배포하여 강력한 기능과 커뮤니티 지원을 누릴 수 있습니다.

이 프로젝트를 오래 전에 보았는데 최근에 게시할 수 있을 정도로 간신히 완성된 것을 보았기 때문에 더 나은 Dify 또는 FAST를 사용하면 어떨까 하는 의문이 생겼습니다.

기능 목록

• 제너레이티브 AI 워크플로
• 검색 증강 생성(RAG)
• 지능형 에이전트
• 통합 모델 관리
• 모델링 평가
• 미세 조정(SFT)
• 데이터 집합 관리
• 엔터프라이즈급 시스템 관리
• 관찰 가능성
• 매우 정확한 문서 구문 분석
• 멀티 에이전트 협업
• 고정 레이아웃 보고서 생성
• 정책 업데이트 비교
• 고객 서비스 지원
• 회의 기록 생성
• 심사 재개
• 통화 로그 분석
• 비정형 데이터 거버넌스
• 지식 마이닝
• 데이터 분석

도움말 사용

설치 프로세스

1. 시스템 요구 사항::
   • CPU: 8코어 이상
   • 메모리: 32GB 이상
   • Docker: 버전 19.03.9 이상
   • 도커 컴포즈: 버전 1.25.1+
2. 설치 단계::
   • BISHENG 코드 베이스 복제: bash
git clone https://github.com/dataelement/bisheng.git
cd bisheng/docker

   • 시스템에 git 명령이 없는 경우 BISHENG 코드의 zip 파일을 다운로드할 수 있습니다: bash
wget https://github.com/dataelement/bisheng/archive/refs/heads/main.zip
unzip main.zip && cd bisheng-main/docker

   • BISHENG을 시작합니다: bash
docker-compose up -d

   • 시작이 완료되면 브라우저에서 방문하세요.http://IP:3001를 클릭하고 로그인 페이지로 이동하여 사용자를 등록합니다. 기본적으로 첫 번째로 등록된 사용자는 시스템 관리자가 됩니다.

기능 작동 가이드

1. 제너레이티브 AI 워크플로::
   • 플랫폼에서 생성형 AI 워크플로 모듈을 선택합니다.
   • 데이터 입력, 모델 선택, 출력 형식 등 요구사항에 따라 워크플로우를 구성하세요.
   • '시작' 버튼을 클릭하면 시스템이 자동으로 워크플로우를 실행하고 결과를 생성합니다.
2. 검색 증강 생성(RAG)::
   • 메인 화면에서 'RAG' 모듈을 선택합니다.
   • 검색 키워드나 질문을 입력하면 시스템이 데이터베이스에서 관련 정보를 검색하여 답변을 생성합니다.
   • 사용자는 필요에 따라 검색 매개변수 및 생성 설정을 조정할 수 있습니다.
3. 지능형 에이전트::
   • 지능형 상담원 모듈을 선택하여 상담원 작업 및 매개 변수를 구성합니다.
   • 이 시스템은 다중 에이전트 협업을 지원하므로 사용자는 여러 에이전트가 동시에 작업하도록 설정하여 효율성을 높일 수 있습니다.
   • 상담원의 작업이 완료되면 시스템은 상세한 보고서와 분석을 생성합니다.
4. 통합 모델 관리::
   • 모델 관리 모듈로 이동하여 배포된 모든 모델을 보고 관리합니다.
   • 사용자는 새 모델을 업로드하거나 기존 모델을 업데이트하거나 원치 않는 모델을 삭제할 수 있습니다.
   • 이 시스템은 사용자가 모델 성능을 최적화할 수 있도록 모델 평가 및 미세 조정 기능을 제공합니다.
5. 매우 정확한 문서 구문 분석::
   • '문서 구문 분석' 모듈을 선택하고 구문 분석할 문서를 업로드합니다.
   • 이 시스템은 PDF, Word, 이미지 등 다양한 문서 형식을 지원합니다.
   • 구문 분석이 완료되면 사용자는 결과를 보고 원하는 형식으로 내보낼 수 있습니다.

일반적인 문제

• BISHENG을 업데이트하는 방법은 무엇인가요?
  • BISHENG 설치 디렉토리에 들어가서 다음 명령을 실행합니다:

  git pull
  docker-compose down
  docker-compose up -d
  

  • 시스템이 자동으로 최신 버전을 다운로드하고 다시 시작합니다.
• 설치 또는 사용 중에 문제가 발생하면 어떻게 처리하나요?
  • 사용자는 BISHENG의 GitHub 페이지에서 자주 묻는 질문과 커뮤니티 지원을 확인할 수 있습니다.
  • BISHENG의 토론 그룹에 가입하여 다른 사용자들과 경험과 솔루션을 교환할 수도 있습니다.