Implementação de um agente local com Ollama+LangChain

breve

O ReAct (Reasoning and Acting) é uma estrutura que combina raciocínio e ação para aprimorar o desempenho das inteligências em tarefas complexas. A estrutura permite que as inteligências realizem tarefas de forma mais eficaz em ambientes dinâmicos, integrando fortemente o raciocínio lógico com a ação prática.

Fonte:ReAct: raciocínio e ação trabalhando juntos em um modelo de linguagem grande

Este documento descreve como usar o ReAct A estrutura está em Ollama O agente local (Agent) é implementado no Ollama. Ao combinar o poder do Ollama com a flexibilidade do ReAct, os usuários podem criar um agente interativo eficiente em seu ambiente local. Essa implementação é capaz de lidar com tarefas complexas, suporta vários modos de interação e otimiza a automação de tarefas e a experiência do usuário para aplicativos locais que exigem alto desempenho em tempo real.

Observação: este documento contém trechos do código principal e explicações detalhadas. O código completo pode ser encontrado em notebook .

1. importação de dependências

from langchain_core.tools import tool  
from langchain.pydantic_v1 import BaseModel, Field
from langchain_core.tools import render_text_description
from langchain.agents import AgentExecutor, create_react_agent
from langchain import hub
from langchain_community.chat_models import ChatOllama

2) Inicializar a ferramenta Agente

definir SearchInput herança de classe BaseModelque é usado para definir o modo dos dados de entrada.

@tool(args_schema=SearchInput) Decoração com decoradores de ferramentas weather_forecast e especifique seu modo de entrada como SearchInput.

class SearchInput(BaseModel):
location: str = Field(description="location to search for")  # 定义一个 Pydantic 模型，用于描述输入模式，并提供描述信息
@tool(args_schema=SearchInput)
def weather_forecast(location: str):
"""天气预报工具。"""
print(f"Weather for {location}")  # 打印要预报天气的位置
return f"A dummy forecast for {location}"  # 返回给定位置的虚拟天气预报

3. operações locais

Neste exemplo, use gemma:2b o resultado pode ser muito diferente para diferentes tipos de modelos (mais aleatoriedade).

llm = ChatOllama(model="gemma:2b")  # 初始化 ChatOllama 模型，使用 "gemma:2b"
tools = [weather_forecast]  # 使用 weather_forecast 工具
prompt = hub.pull("hwchase17/react-json")  # 从 hub 拉取特定提示
prompt = prompt.partial(
tools=render_text_description(tools),  # 为提示呈现工具的文本描述
tool_names=", ".join([t.name for t in tools]),  # 将工具名称连接成一个以逗号分隔的字符串
)
agent = create_react_agent(llm, tools, prompt)  # 使用 llm、工具和自定义提示创建代理
agent_executor = AgentExecutor(agent=agent, tools=tools, handle_parsing_errors=True, verbose=False, format="json")  # 使用指定参数初始化 AgentExecutor
print(agent_executor.invoke({"input":"What is the weather in Paris?"}))  # 使用测试输入调用代理并打印结果

Uso do histórico de diálogos

Ao usar o histórico de diálogo, você precisa usar a opção react-chat Modelo de prompt. No momento da invocação, adicione o chat_history.

# 拉去特定提示，注意此处使用的是 react-chat
prompt = hub.pull("hwchase17/react-chat")
# 构建 ReAct agent
agent_history = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent_history, tools=tools, verbose=False)
agent_executor.invoke(
{
"input": "what's my name? Only use a tool if needed, otherwise respond with Final Answer",
"chat_history": "Human: Hi! My name is Bob\nAI: Hello Bob! Nice to meet you",
}
)

bibliografia

https://react-lm.github.io/

https://python.langchain.com/v0.1/docs/modules/agents/agent_types/react/