BISHENG: plataforma de DevOps de LLM de código aberto para criar aplicativos de IA corporativos

Introdução geral

O BISHENG é uma plataforma DevOps de LLM (Large Language Model) de código aberto projetada para aplicativos de IA corporativos de última geração. A plataforma oferece recursos avançados e abrangentes, incluindo fluxos de trabalho de IA generativa, RAG (Retrieval Augmented Generation), agentes inteligentes, gerenciamento de modelo unificado, avaliação, SFT (ajuste fino), gerenciamento de conjunto de dados, gerenciamento de sistema de nível empresarial e observabilidade, etc. Projetado para oferecer suporte a cenários complexos de aplicativos empresariais, o BISHENG já está sendo adotado por muitas organizações líderes do setor e empresas da Fortune 500. Os modelos de análise de documentos de alta precisão da plataforma foram treinados em cinco anos de dados de alta qualidade e são capazes de reconhecer texto impresso, texto manuscrito, caracteres raros, tabelas e análise de layout. Os usuários podem implementar o BISHENG de forma privada e gratuita para aproveitar seus recursos avançados e o suporte da comunidade.

Eu vi esse projeto há muito tempo e, recentemente, vi a iteração mal amadurecida o suficiente para publicá-la, então surge a pergunta: por que não usar o melhor Dify ou FAST?

Lista de funções

• Fluxos de trabalho de IA generativa
• Geração de aumento de recuperação (RAG)
• Agentes inteligentes
• Gerenciamento de modelo unificado
• avaliação de modelagem
• Ajuste fino (SFT)
• Gerenciamento do conjunto de dados
• Gerenciamento de sistemas em nível empresarial
• observabilidade
• Análise de documentos altamente precisa
• Colaboração com vários agentes
• Geração de relatórios com layout fixo
• Comparação de atualizações de políticas
• Assistência ao serviço de atendimento ao cliente
• Geração de registros de reuniões
• Triagem de currículos
• Análise do registro de chamadas
• Governança de dados não estruturados
• Mineração de conhecimento
• análise de dados

Usando a Ajuda

Processo de instalação

1. Requisitos do sistema::
   • CPU: 8 núcleos ou mais
   • Memória: 32 GB ou mais
   • Docker: versão 19.03.9+
   • Docker Compose: versão 1.25.1+
2. Etapas de instalação::
   • Clonagem da base de código do BISHENG: bash
git clone https://github.com/dataelement/bisheng.git
cd bisheng/docker

   • Se o sistema não tiver o comando git, você poderá fazer o download do arquivo zip do código BISHENG: bash
wget https://github.com/dataelement/bisheng/archive/refs/heads/main.zip
descompactar main.zip && cd bisheng-main/docker

   • Iniciar BISHENG: bash
docker-compose up -d

   • Após a conclusão da inicialização, visite seu navegadorhttp://IP:3001Vá para a página de login e registre os usuários. Por padrão, o primeiro usuário registrado será o administrador do sistema.

Guia de operação de funções

1. Fluxos de trabalho de IA generativa::
   • Uma vez na plataforma, selecione o módulo Generative AI Workflow.
   • Configure fluxos de trabalho com base nos requisitos, incluindo entrada de dados, seleção de modelos e formatos de saída.
   • Ao clicar no botão "Iniciar", o sistema executará automaticamente o fluxo de trabalho e gerará os resultados.
2. Geração de aumento de recuperação (RAG)::
   • Selecione o módulo "RAG" na tela principal.
   • Digite uma palavra-chave ou pergunta de pesquisa e o sistema recuperará informações relevantes do banco de dados e gerará uma resposta.
   • Os usuários podem ajustar os parâmetros de pesquisa e as configurações de geração conforme necessário.
3. Agentes inteligentes::
   • Selecione o módulo Intelligent Agent para configurar as tarefas e os parâmetros do agente.
   • O sistema oferece suporte à colaboração entre vários agentes; os usuários podem configurar vários agentes para trabalhar simultaneamente para aumentar a eficiência.
   • Após a conclusão da tarefa do agente, o sistema gera relatórios e análises detalhados.
4. Gerenciamento de modelo unificado::
   • Vá para o módulo Model Management para visualizar e gerenciar todos os modelos implantados.
   • Os usuários podem fazer upload de novos modelos, atualizar modelos existentes ou excluir modelos indesejados.
   • O sistema oferece avaliação de modelos e funções de ajuste fino para ajudar os usuários a otimizar o desempenho do modelo.
5. Análise de documentos altamente precisa::
   • Selecione o módulo "Document Parsing" (Análise de documentos) e carregue os documentos a serem analisados.
   • O sistema suporta uma ampla variedade de formatos de documentos, incluindo PDF, Word, imagens e outros.
   • Após a conclusão da análise, os usuários podem visualizar os resultados e exportá-los para o formato desejado.

problemas comuns

• Como atualizar o BISHENG?
  • Entre no diretório de instalação do BISHENG e execute o seguinte comando:

  git pull
  docker-compose down
  docker-compose up -d
  

  • O sistema fará o download automático da versão mais recente e será reiniciado.
• Como faço para lidar com problemas encontrados durante a instalação ou o uso?
  • Os usuários podem visitar a página do GitHub do BISHENG para obter perguntas frequentes e suporte da comunidade.
  • Você também pode participar do grupo de discussão do BISHENG para trocar experiências e soluções com outros usuários.