Laminar: plataforma de engenharia de produtos de IA de código aberto para fácil visualização, rastreamento e avaliação de dados

Introdução geral

A Laminar é uma plataforma de otimização de engenharia de IA de código aberto focada na engenharia de IA desde os primeiros princípios. Ele ajuda os usuários a coletar, entender e usar dados para melhorar a qualidade dos aplicativos LLM (Large Language Model). O Laminar oferece recursos abrangentes de observabilidade, análise de texto, avaliação e gerenciamento de cadeia de dicas para ajudar os usuários a criar e otimizar produtos complexos de IA. Seja no rastreamento de dados, na avaliação on-line ou na criação de conjuntos de dados, a Laminar oferece um suporte poderoso para ajudar os usuários a obter desenvolvimento e implantação eficientes de IA.

Sua moderna pilha de tecnologia de código aberto inclui Rust, RabbitMQ, Postgres, Clickhouse e muito mais, garantindo alto desempenho e baixa sobrecarga. Os usuários podem implementar rapidamente com o Docker Compose ou aproveitar a funcionalidade completa usando uma plataforma hospedada.

DEMO: https://www.lmnr.ai/

Lista de funções

• Rastreamento de dadosDocumentar cada etapa da execução do aplicativo LLM e coletar dados valiosos para melhor avaliação e ajuste fino.
• Avaliação on-lineConfigure o LLM como um avaliador ou use um avaliador de script Python para cada intervalo recebido.
• Construção do conjunto de dadosConstrução de conjuntos de dados a partir de dados de rastreamento para avaliação, ajuste fino e engenharia de estímulo.
• Gerenciamento da cadeia de tacosSuporte para criar e hospedar cadeias de dicas complexas, incluindo pipelines LLM híbridos ou autorreflexivos de agentes.
• Código aberto e auto-hospedadoCódigo-fonte totalmente aberto, facilmente auto-hospedado e pronto para uso com apenas alguns comandos.

Usando a Ajuda

Processo de instalação

1. Clonagem de repositórios do GitHub:

   git clone https://github.com/lmnr-ai/lmnr
   

2. Vá para o catálogo de projetos:

   cd lmnr
   

3. Iniciado com o Docker Compose:

   docker compose up -d
   

Guia de operação de funções

Rastreamento de dados

• inicializaçãoImportar o Laminar no código e inicializar a chave de API do projeto.

  from lmnr import Laminar, observe
  Laminar.initialize(project_api_key="...")
  

• função de comentário: Uso@observeAnote as funções que precisam ser rastreadas.

  @observe()
  def my_function():
  ...
  

Avaliação on-line

• Configuração do AvaliadorO LLM pode ser configurado para atuar como juiz ou usar um avaliador de script Python para avaliar e marcar cada intervalo recebido.

  # Exemplo de código
  avaliador = LLMJudge()
  evaluator.evaluate(span)
  

Construção do conjunto de dados

• Criação de um conjunto de dadosConstrução de conjuntos de dados a partir de dados de rastreamento para avaliação e ajuste subsequentes.

  dataset = create_dataset_from_traces(traces)
  

Gerenciamento da cadeia de tacos

• Criar uma cadeia de dicasSuporte para a criação de cadeias de dicas complexas, incluindo mistura de agentes ou pipelines LLM autorreflexivos.

  chain = PromptChain()
  chain.add_prompt(prompt)
  

auto-hospedado

• Etapas auto-hospedadasPara iniciar a auto-hospedagem com apenas alguns comandos, certifique-se de que o Docker e o Docker Compose estejam instalados em seu ambiente.

  git clone https://github.com/lmnr-ai/lmnr
  cd lmnr
  docker compose up -d
  

O guia do leigo para começar a usar a IA

Ajuda você a aprender a utilizar as ferramentas de IA com baixo custo e a partir de uma base zero.A IA, assim como o software de escritório, é uma habilidade essencial para todos. Dominar a IA lhe dará uma vantagem em sua busca de emprego e metade do esforço em seu trabalho e estudos futuros.

Ver detalhes>