LlamaIndexによるローカルエージェントの実装

簡単

この文書では、LlamaIndex の使用方法について説明します。 リアクトエージェント 合体 オーラマ シンプルなローカルエージェントを実装します。

この文書で使用しているLLMはqwen2:0.5bモデルです。 モデルによってツールを呼び出す機能が異なるため、異なるモデルでAgentを実装してみることができます。

注：この文書には、核となるコードの断片と詳細な説明が含まれています。完全なコードは ノート .

1.依存関係のインポート

from llama_index.core.tools.import FunctionTool
from llama_index.core.agent import ReActAgent
from llama_index.llms.ollama import Ollama

2.エージェントツールの初期化

# ツールの定義
def multiply(a: float, b: float) -> float.
"""2つの整数を掛け算して結果の整数を返す"""
return a * b
# FunctionToolインスタンスの作成
multiply_tool = FunctionTool.from_defaults(
fn=multiply、
name="MultiplyTool", description="乗算するツール
fn=multiply, name="MultiplyTool", description="2つの浮動小数点数を乗算するツール", return_direct=True
return_direct=True
)

3.LLMとエージェントの初期化

# LLMの初期化
llm = Ollama(model="qwen2:0.5b", request_timeout=360.0)
# 初期化 リ・アクト ツール付きエージェント
agent = ReActAgent.from_tools([multiply_tool], llm=llm, verbose=True)

4.対話の実施

• LLMダイアログを直接使用する。

#直接応答
res_llm = llm.complete("2.3×4.8は？ ステップ・バイ・ステップで計算")
print(res_llm)

出力結果：

を計算するには、次のようにします。
1.かけ算をする：** 小数をかけるときは、分子（上の数字）をかけるだけで、積の分子になります。
\[
2.3倍 4.8倍 = 9.44
\をかけます。
2.分母（下の数）を掛けます。
(4.8)の分母は、値に影響したり結果を決めたりする因子を含まないので、掛け算の影響を受けません。
積とその値の間に共通因子がないので、結果を決定することはできません。
分子と分母の間には共通因子がないので、計算する。
**分子と分母の間に共通因数がないので、計算する。
9.44 = 2.3 ㎟2.3
\]
この掛け算は、既に[2.3]と[2.3]を掛けて5.6になっているので、新しい数にはなりません。
だから、[2.3]×[4.8]＝[9.44]。

• LLMはエージェント・ダイアログを呼び出す。

#使用エージェント
response = agent.chat("2.3×4.8は何ですか？ ステップバイステップで計算してください")
レスポンス

出力結果：

> ステップ入力： 2.3 × 4.8 は何ですか？ ステップごとに計算する
タスクは、2.3と4.8という2つの数を掛け算し、この掛け算をステップ・バイ・ステップで計算するよう求めている。
アクション：MultiplyTool
アクション入力: {'a': 2.3, 'b': 4.8}.
観測: 11.04

参考：https://docs.llamaindex.ai/en/stable/examples/agent/react_agent/