AgentIQ: uma ferramenta de código aberto para conexão e gerenciamento flexíveis de inteligências de IA

Introdução geral

O AgentIQ é uma ferramenta de código aberto da NVIDIA projetada para ajudar os desenvolvedores a conectar e gerenciar eficientemente as inteligências de IA. Ela permite que as inteligências de diferentes estruturas colaborem perfeitamente, conectem dados e ferramentas corporativas e criem fluxos de trabalho como funções de chamada. Os melhores recursos da ferramenta são a flexibilidade e a reutilização, permitindo que os desenvolvedores desenvolvam, otimizem e reutilizem rapidamente as tarefas de IA. O agentIQ fornece análises de desempenho e uma interface de visualização para que as empresas criem sistemas de IA confiáveis. A partir de março de 2025, a documentação oficial e a página do GitHub são as fontes mais recentes de informações.

Lista de funções

• Suporte a qualquer estrutura: compatível com LangChain, LlamaIndex, etc., sem necessidade de alterar a pilha de tecnologia.
• Design reutilizável: Intelligentsia, ferramentas e fluxos de trabalho podem ser reutilizados, economizando tempo de desenvolvimento.
• Desenvolvimento rápido: são fornecidos módulos pré-construídos, que podem ser modificados e usados diretamente pelos desenvolvedores.
• Análise de desempenho: rastreamento do tempo de execução de cada smartbody e token consumo e otimizar a eficiência.
• Observabilidade: suporte a ferramentas OpenTelemetry para facilitar o monitoramento e a depuração.
• Sistema de avaliação: ferramentas integradas para validar a precisão do fluxo de trabalho.
• Interface de bate-papo: interaja com as inteligências por meio da interface do usuário para visualizar os resultados.
• MCP Suporte: compatível com o protocolo de contexto de modelo, pode chamar ferramentas externas.

Usando a Ajuda

O AgentIQ é baseado em ferramentas de código aberto Python, fácil de instalar e adequado para uso por desenvolvedores. A seguir, uma descrição detalhada da instalação e da operação.

Processo de instalação

Antes de instalar, certifique-se de que seu computador tenha as ferramentas Git, Git LFS e uv. Aqui estão as etapas:

1. Clonagem da base de código
   Digite-o no terminal:

git clone git@github.com:NVIDIA/AgentIQ.git agentiq
cd agentiq

Isso fará o download do AgentIQ localmente.

2. Atualização de submódulos
   Entrada:

git submodule update --init --recursive

Obter módulos externos dependentes.

3. Baixar conjunto de dados
   Se forem necessários dados de exemplo, execute:

git lfs install
git lfs fetch
git lfs pull

4. Criando um ambiente Python
   Use o uv para criar um ambiente virtual:

uv venv --seed .venv
source .venv/bin/activate  # Linux/Mac
.venv\Scripts\activate     # Windows

5. Instalação das bibliotecas principais
   Instale o AgentIQ e todas as dependências opcionais:

uv sync --all-groups --all-extras

Se apenas os recursos principais estiverem instalados:

uv sync

Deseja carregar plug-ins específicos (por exemplo, LangChain):

uv pip install -e '.[langchain]'

Dependências de análise de desempenho:

uv pip install -e '.[profiling]'

6. Verificar a instalação
   Verifique a versão:

aiq --version

A exibição do número da versão foi bem-sucedida.

Como usar os principais recursos

Após a instalação, você pode começar a usar o AgentIQ. A seguir, um guia passo a passo da funcionalidade principal:

Criação de fluxos de trabalho

O AgentIQ chama as inteligências e ferramentas de funções. Defina tarefas com arquivos YAML. Por exemplo:

• estabelecer workflow.yaml::

functions:
wikipedia_search:
_type: wiki_search
max_results: 2
llms:
nim_llm:
_type: nim
model_name: meta/llama-3.1-70b-instruct
temperature: 0.0
workflow:
_type: react_agent
tool_names: [wikipedia_search]
llm_name: nim_llm
verbose: true
retry_parsing_errors: true
max_retries: 3

• Em execução:

aiq run --config_file workflow.yaml --input "列出五种土豚亚种"

O resultado listará as respostas.

Análise de desempenho

Monitore o desempenho do fluxo de trabalho:

aiq run --config_file workflow.yaml --profile

Os resultados mostram o tempo decorrido e o uso de tokens para cada corpo inteligente para ajudar na otimização.

interface de visualização

Inicie a interface do usuário:

aiq ui

Abra o site http://localhost:8000 em seu navegador, digite sua pergunta e o corpo inteligente a responderá em tempo real.

integração de dados

Conecte-se à fonte de dados na seção workflow.yaml Adicionar em:

data_sources:
- type: "csv"
path: "data/sales.csv"

Após a execução, o corpo inteligente pode processar os dados do arquivo.

Fluxo de trabalho de avaliação

Verificar a precisão:

aiq evaluate --config_file workflow.yaml

O sistema verifica se a saída está de acordo com o esperado.

Operação da função em destaque

Os destaques do AgentIQ são a flexibilidade e a possibilidade de observação. Por exemplo:

• colaboração de inteligência múltiplaConfigure uma inteligência para gerar código, outra para testá-lo e ajuste-o automaticamente até que seja aprovado.
• ajustar os componentes durante o testeUse a ferramenta OpenTelemetry para ver o desempenho de cada etapa e identificar problemas.

Para experimentar a funcionalidade completa, é recomendável consultar o exemplo oficial:

cd examples/simple
uv pip install -e '.[langchain]'
aiq run --config_file workflow.yaml

cenário do aplicativo

1. Desenvolvimento de automação
   Gerar e testar código com o AgentIQ para prototipagem rápida.
   Uma inteligência escreve o código, a outra executa os testes e os resultados são emitidos diretamente.
2. Processamento de dados corporativos
   Conecta dados de vendas e gera automaticamente relatórios analíticos.
   O Intelligentsia lê arquivos CSV e gera gráficos.
3. Suporte ao cliente
   Configure as inteligências para responder a perguntas comuns e aumentar a eficiência.
   Os usuários inserem perguntas por meio da interface do usuário e o corpo inteligente responde em tempo real.

QA

1. Precisa de uma chave de API?
   Sim, é necessária uma chave de API NVIDIA para executar os exemplos; registre-se em https://build.nvidia.com.
2. Quais modelos de idioma são compatíveis?
   Há suporte para vários modelos de NIM, que podem ser especificados por meio de um arquivo de configuração, por exemplo, Llama-3.1-70b.
3. Como faço para dar feedback sobre um problema?
   Envie a edição em https://github.com/NVIDIA/AgentIQ/issues.