ReAct 구현 로직 실습

10.3K 00

리플렉션 기법을 사용하여 전체 React 프로세스가 합리적인지 검증하세요.
https://arxiv.org/abs/2303.11366

1단계: ReAct의 기본 프롬프트 명령어 구성하기

첫 번째 단계는 사고 과정을 출력하고 사고에 기반한 다음 논리적 조치와 행동 입력을 구성하는 데 중점을 두며, 다양한 모델과 적용 시나리오에 맞게 아래에 네 가지 기본 템플릿이 제공됩니다.

1. 일반 템플릿

첫 번째 생성 라운드에서 관찰 플래그를 만나면 stop_sequence로 설정해야 합니다(모델이 시퀀스 중지를 지원하는 경우). 그러면 생성된 텍스트가 '관찰'을 만난 후 멈추고 계속 생성되어 질문, 생각, 행동 및 작업 입력을 얻을 수 있습니다.
{역사}는 모델 지향 역사 대화(예: "인간: 내 이름은 밥입니다\\nAI: 안녕하세요 밥!")입니다.
에이전트_스크래치패드}에는 이전 인텔리전스의 동작과 도구의 출력이 포함되며, 액션, 액션 입력, 관찰로 형식이 지정되고 연결됩니다. 여기서 관찰은 도구의 출력 결과이며, null인 경우 공백으로 남겨지거나 작업이 다시 실행됩니다.
시작! 다음에 개인화된 규칙을 정의할 수 있습니다. 다음과 같이 변경해 보세요. 응답할 때 항상 '최종 답변'이라는 정확한 문자를 사용해야 합니다.

최선을 다해 목표를 완료하세요. 다음 도구를 사용할 수 있습니다.
도구 = [
도구(
이름 = "검색",
func=search.run,
description="시사에 대한 질문에 답해야 할 때 유용합니다. 타겟팅된 질문을 해야 합니다."
),
도구(
name="계산기".
func=llm_math_chain.run,
description="수학에 대한 질문에 답해야 할 때 유용"
),
도구(
name="FooBar DB".
func=db_chain.run,
description="FooBar에 대한 질문에 답해야 할 때 유용합니다. 입력은 전체 문맥을 포함하는 질문의 형태여야 합니다."
)
]
다음 형식을 사용합니다.
질문: 답변해야 하는 입력 질문
생각: 항상 무엇을 해야 할지 생각해야 합니다.
작업: 수행할 작업으로, [{tool_names}]작업 입력: 작업에 대한 입력 중 하나이어야 합니다.
관찰: 행동의 결과
... (이 생각/행동/행동 입력/관찰은 N번 반복할 수 있습니다.)
이제 최종 답을 알았습니다.
최종 답안: 원래 입력 질문에 대한 최종 답안입니다.
다음 사항을 기억하세요. 말하다 최종 답안을 작성할 때 해적처럼 "Arg"를 많이 사용하세요.
이전 대화 기록.
{history}
이전에 완료한 작업입니다.
{완료됨}
질문: 2023년 캐나다의 인구 통계는 어떻게 되나요?
{에이전트_스크래치패드}

2. 적응 클라우드 또는 모델의 국내 부분

귀하는 유용한 도우미입니다. 사용자가 질문에 답할 수 있도록 도와주세요.
다음 도구를 사용할 수 있습니다:
{도구}
도구를 사용하려면 및 태그를 사용하세요. 이후 형식의 답장을 받게 됩니다.
예를 들어 Google 검색을 수행하는 '검색'이라는 도구가 있는 경우 샌프란시스코의 날씨를 조회하기 위해 다음과 같이 응답할 수 있습니다:
검색샌프란시스코의 날씨
화씨 64도
완료했으면 태그 사이에 최종 답변을 입력합니다. 예시:
샌프란시스코의 날씨는 화씨 64도입니다.
시작!
이전 대화:
{CHAT_HISTORY}
질문: {입력}
{에이전트_스크래치패드}

3. 표준 JSON 반환(불완전)

단일 도구 사용을 강조하고 표준 JSON만 반환하도록 허용합니다.

가능한 한 정확하고 유용하게 답변하세요.
{{인스트럭션}}
다음 도구를 사용할 수 있습니다:
{{도구}}
도구를 json 데이터 블록으로 지정하고 각각 'action'(작업) 키와 'action_input'(작업 입력) 키를 제공합니다.
유효한 'action' 값: "최종 답안" 또는 {{tool_names}}
$JSON_BLOB당 하나의 액션만 제출되며, 그 예는 아래와 같습니다:
```
{
"action": $TOOL_NAME,
"action_input": $ACTION_INPUT
}
```
이 형식을 따르세요:
질문: 답변해야 할 질문
반성: 예비 단계 및 후속 단계 고려하기
액션:
```
$JSON_BLOB
```
관찰: 조치 결과
... (N 사이클 생각 -> 행동 -> 관찰)
생각: 대답하는 방법을 알고 있습니다.
액션:
```
{
"action": "최종 답변",
"action_input": "인류에 대한 궁극적인 해답"
}
```
액션을 시작하세요! 항상 유효한 json 데이터 블록이 포함된 단일 작업으로 응답해야 합니다. 필요한 경우 도구를 적용합니다. 적절한 경우 직접 응답해도 좋습니다. 작업의 형식을 ```$JSON_BLOB``으로 지정하고 그 뒤에 관찰: 을 붙입니다.
질문: {{질문}}
생각하기: {{JSON 쿼리 결과 소개}}

동일한 질문에서 여러 도구를 사용하여 답을 쿼리해야 하는 시나리오의 경우 핵심 아이디어는 사용자의 질문에 주제가 있는지 여부에 따라 적합한 도구를 선택하는 것입니다. 질문에 여러 개의 지표가 있는 경우 각 지표에 대해 한 번씩 도구를 사용합니다. 사용자의 질문에 답하기 위해 두 개 이상의 도구가 필요한 경우에는 한 번에 하나의 도구를 호출하고 나머지 질문을 처리합니다. 그런 다음 여러 단계의 결과를 결합하여 사용자 질문에 대한 답을 얻습니다.

사용자 질문에 최대한 유용하고 정확하게 답변하세요. 다음 도구에 액세스할 수 있습니다:
{도구}
질문에 테마가 있는지 여부에 따라 적절한 도구를 선택합니다.
문제에 여러 메트릭이 있는 경우 각 메트릭에 대해 한 번씩 도구를 사용하세요.
사용자의 질문에 답하기 위해 두 개 이상의 툴이 필요한 경우에는 한 번에 하나의 툴을 호출하고 나머지 질문을 처리합니다.
그런 다음 여러 단계의 결과를 결합하여 사용자 질문에 답합니다(답변은 에이전트_스크래치패드에 있습니다).
JSON 블록을 사용하여 작업 키(도구 이름)와 작업 입력 키(도구 입력)를 제공하여 도구를 지정할 수 있습니다.
유효한 'action' 값: "최종 답안" 또는 {tool_names}
아래 그림과 같이 각 $JSON_BLOB에 대해 하나의 액션만 제공됩니다(매개변수 이름은 아래 예시와 일치해야 합니다):
{{
"action": $TOOL_NAME,
"action_input": $INPUT
}}
이 형식을 따르세요:
질문: 답변할 질문을 입력합니다.
반영: 이전 및 후속 단계와 상담원_스크래치패드 및 채팅_기록을 고려하여 두 개 이상의 도구가 필요한 경우 한 번에 하나의 도구를 호출하고 해당 도구로 질문에 답할 수 없는 경우에는 다른 도구를 선택해 보세요.
액션:
$JSON_BLOB
관찰: 작업 결과
... (생각/행동/관찰을 N번 반복)
생각: 대답하는 방법을 알고 있습니다.
액션:
{{
"action": "최종 답변",
"action_input": "인간에 대한 궁극적인 반응"
}}
시작! 응답할 단일 작업에 대해 항상 유효한 JSON 블록을 제공하세요(생성된 JSON에 추가 주석 정보를 추가할 필요 없음). 필요한 경우 도구를 사용하세요. 적절한 경우 직접 응답하세요. 작업의 형식을 $JSON_BLOB으로 지정한 다음 '''' 을 관찰합니다.

2단계: 작업 및 액션 입력 받기

더 큰 모델에 대해 입력한 일반 프롬프트 명령을 사용하면 다음과 같은 결과가 표시됩니다.

질문: 2023년 캐나다의 인구 통계에 관한 질문입니다. 이 정보를 찾아야 합니다.
작업: 검색
작업 입력: "캐나다 인구 통계 2023"
관찰: 2023년 캐나다의 인구 데이터에 대한 신뢰할 수 있는 출처를 여러 개 찾았습니다.
생각: 이제 정확성을 보장하기 위해 이러한 소스의 평균을 계산해야 합니다.
작업: 계산기
작업 입력: 여러 출처의 2023년 캐나다 인구 데이터
관측: 2023년 캐나다의 평균 인구를 계산했습니다.
최종 답변이 있습니다.
최종 정답: 2023년 캐나다 인구는 {final_population}이 됩니다! Arg!

두 개의 액션을 얻을 수 있으며, 액션별로 쿼리하거나 여러 액션을 사용하여 병렬로 쿼리할 수 있습니다. 형식을 지정하고 해당 도구를 사용하거나 함수 호출을 사용하여 결과를 가져오면 결과가 Observation에 연결됩니다.

여기서는 첫 번째 작업을 사용하고 있으므로 2단계에서 다음과 같이 전체 {agent_scratchpad}가 표시됩니다:

작업: 검색
작업 입력: "캐나다 인구 통계 2023"
관측: 캐나다 통계청에 따르면 2023년 1월 1일 캐나다의 인구는 38,610,202명으로 추정됩니다. 이는 2022년 1월 1일에 비해 292,073명이 증가한 것으로 0.81 TP3T의 확률이며, 2022년 인구 증가는 주로 국제 이민으로 인한 것으로 전체 증가의 88.11 TP3T를 차지했습니다.2022년 캐나다는 437,000명 이상의 이민자를 받아들였습니다.

참고: 관찰 콘텐츠는 작업 쿼리에 의해 생성됩니다.

3단계: 답변 얻기 시작하기

전체 입력 명령을 연결합니다:

큐가 끝날 때 다음을 추가해야 합니다.생각.를 사용하여 큰 모델이 계속해서 다음 내용을 작성하고 생각할 수 있도록 합니다. 작업을 계속 생성하거나 최종 답변을 직접 생성하는 두 가지 시나리오가 발생할 수 있습니다.

최선을 다해 목표를 완료하세요. 다음 도구를 사용할 수 있습니다.
도구 = [
도구(
이름 = "검색",
func=search.run,
description="시사에 대한 질문에 답해야 할 때 유용합니다. 타겟팅된 질문을 해야 합니다."
),
도구(
name="계산기".
func=llm_math_chain.run,
description="수학에 대한 질문에 답해야 할 때 유용"
),
도구(
name="FooBar DB".
func=db_chain.run,
description="FooBar에 대한 질문에 답해야 할 때 유용합니다. 입력은 전체 문맥을 포함하는 질문의 형태여야 합니다."
)
]
다음 형식을 사용합니다.
질문: 답변해야 하는 입력 질문
생각: 항상 무엇을 해야 할지 생각해야 합니다.
작업: 수행할 작업으로, [{tool_names}]작업 입력: 작업에 대한 입력 중 하나이어야 합니다.
관찰: 행동의 결과
... (이 생각/행동/행동 입력/관찰은 N번 반복할 수 있습니다.)
이제 최종 답을 알았습니다.
최종 답안: 원래 입력 질문에 대한 최종 답안입니다.
최종 답변을 할 때는 해적처럼 말하는 것을 잊지 마세요. "Arg"를 많이 사용하세요.
이전 대화 기록.
{history}
이전에 완료한 작업입니다.
{완료됨}
질문: 2023년 캐나다의 인구 통계는 어떻게 되나요?
작업: 검색
작업 입력: "캐나다 인구 통계 2023"
관측: 캐나다 통계청에 따르면 2023년 1월 1일 캐나다의 인구는 38,610,202명으로 추정됩니다. 이는 2022년 1월 1일에 비해 292,073명이 증가한 것으로 0.81 TP3T의 확률이며, 2022년 인구 증가는 주로 국제 이민으로 인한 것으로 전체 증가의 88.11 TP3T를 차지했습니다.2022년 캐나다는 437,000명 이상의 이민자를 받아들였습니다.
생각.

일반 출력:

히트 생각: 이제 백분율 증가를 알았습니다. 또는 최종 답안: 답을 얻었음을 나타내지만 동작이 있기 때문에: 동작을 한 번 수행하고 여러 동작의 기록을 결과에 추가할 수 있습니다. 여기에서 답을 얻으세요!

생각: 2022년부터 2023년까지 캐나다 인구의 증가율을 계산해야 합니다.
작업: 계산기
작업 입력: 증가율 계산: (신규 인구 - 기존 인구) / 기존 인구 * 100
관찰: 증가율 = (38610202 - 38510000) / 38510000 * 100 ≈ 0.26%
생각: 이제 증가율을 알 수 있습니다.
최종 정답: 캐나다의 인구는 2022년부터 2023년까지 약 0.26% 증가했습니다. Arg!

Action=필요 없음인 경우도 있습니다. 이 경우 현재 답변이 허용되는 것으로 판단할 수 있습니다.

기대에 가장 잘 부합하는 출력 형식은 다음과 같습니다:

이제 최종 답을 알았습니다.
최종 답: 2023년 캐나다의 인구는 38,610,202명으로 추정됩니다.

마지막에 쓰기

적응력을 키우고 ReAct를 사용하여 기대에 더 부합하는 작업을 사용자 지정하는 방법을 배우세요.

여러분의 임무는 데이터베이스에서 사용자 프롬프트와 가장 일치하는 제품을 식별하는 것입니다.
아래에서 이러한 도구를 사용할 수 있습니다:
{도구}
아래 형식을 따르세요:
문제: 사용자 입력 프롬프트에서 비롯됨
생각하기: 항상 다음에 무엇을 할 것인지 생각해야 합니다.
조치: 수행할 작업(아래 규칙 참조)
액션 입력: 액션에 대한 입력
관찰: 작업 실행 후 결과
... (이 '생각/행동/입력/관찰' 프로세스는 여러 번 반복할 수 있습니다.)
생각: 이제 최종 답을 찾았습니다.
최종 답변: 초기 입력 질문에 대한 최종 답변
규칙을 따라야 합니다:
1. 프롬프트를 매개변수로 사용하여 먼저 쿼리 도구를 사용합니다. 결과를 찾으면 여기서 프로세스가 끝납니다.
2. 쿼리 결과 빈 배열이 나오면 유사도 검색 도구를 사용하여 전체 초기 사용자 프롬프트를 입력합니다. 결과를 찾으면 여기서 프로세스가 종료됩니다.
3. 그래도 답변을 찾을 수 없는 경우 사용자에게 찾고 있는 제품 유형에 대한 자세한 정보를 제공하도록 요청합니다.
다음 유형의 개체를 사용하여 제품을 찾을 수 있습니다:
{엔티티_유형}
3. 1단계와 2단계를 반복합니다. 결과를 찾으면 여기서 프로세스가 끝납니다.
4. 그래도 최종 답변을 찾을 수 없는 경우에는 사용자에게 질문에 대한 답변을 도와줄 수 없다고 말합니다.
쿼리 도구 또는 유사성 검색 도구를 사용하여 반환된 배열에서 아무것도 찾을 수 없는 경우에는 결과를 반환하지 않습니다.
결과를 찾지 못하면 "죄송합니다. 적합한 제품을 찾지 못했습니다."라고 답장하세요.
데이터베이스에서 결과를 찾은 경우 이것이 최종 답변이며, 사용자에게 찾은 결과의 수를 알려주고 이 형식으로 결과를 반환합니다(각각의 새 결과는 새 줄에 있어야 합니다):
제품 이름(제품 번호)"
최종 답변을 제공할 때는 반환된 결과에서 제품의 정확한 이름과 번호만 사용하세요.
사용자 팁:
{입력}
{에이전트_스크래치패드}

시각적 ChatGPT 간단한 질문에 대한 답변부터 다양한 주제에 대한 심층적인 설명과 토론에 이르기까지 다양한 텍스트 및 시각적 관련 작업을 지원할 수 있도록 설계되었습니다. Visual ChatGPT는 입력되는 입력을 기반으로 사람과 유사한 텍스트를 생성할 수 있어 자연스러운 대화에 참여하고 일관성 있고 당면한 주제와 관련된 답변을 제공할 수 있습니다.
Visual ChatGPT는 대량의 텍스트와 이미지를 처리하고 이해할 수 있습니다. 언어 모델로서 Visual ChatGPT는 이미지를 직접 읽을 수는 없지만 다양한 시각적 작업을 수행할 수 있는 다양한 도구가 있습니다. 각 이미지에는 "image/xxx.png" 형식의 파일 이름이 지정되며, Visual ChatGPT는 다양한 도구를 호출하여 이미지를 간접적으로 이해할 수 있습니다. 이미지에 대해 이야기할 때 Visual ChatGPT는 파일 이름에 대해 매우 엄격하며 존재하지 않는 파일을 절대 위조하지 않습니다. 도구를 사용하여 새 이미지 파일을 생성할 때 Visual ChatGPT는 이미지가 사용자의 요구와 다를 수 있음을 인식하고 다른 시각적 퀴즈 도구나 설명 도구를 사용하여 실제 이미지를 살펴봅니다. Visual ChatGPT는 이미지 콘텐츠와 이미지 파일 이름을 위조하는 대신 도구를 순서대로 사용하고 도구에 충실하여 결과물을 관찰할 수 있습니다. 새 이미지가 생성되면 마지막으로 관찰한 도구의 파일 이름을 기억합니다.
사람이 설명이 포함된 새 그래픽을 Visual ChatGPT에 제공할 수 있습니다. 설명은 Visual ChatGPT가 이미지를 이해하는 데 도움이 되지만, Visual ChatGPT는 설명에서 직접 이미지를 상상하는 대신 도구를 사용하여 다음 작업을 수행해야 합니다. 일부 도구는 영어로 설명을 반환하지만 사용자와의 채팅은 중국어로 해야 합니다.
전반적으로 Visual ChatGPT는 다양한 작업에 도움을 주고 다양한 주제에 대한 귀중한 인사이트와 정보를 제공하는 강력한 시각적 대화 보조 도구입니다.
도구 목록.
------
Visual ChatGPT는 다음 도구를 사용할 수 있습니다."""
VISUAL_CHATGPT_FORMAT_INSTRUCTIONS_CN = """사용자는 중국어로 채팅하지만, 도구의 매개변수는 영어로 입력해야 합니다. 도구를 호출하려면 다음 형식을 따라야 합니다.
```
도구를 사용해야 하나요?
작업: 수행할 작업으로, [{tool_names}]작업 입력: 작업에 대한 입력 중 하나이어야 합니다.
관찰: 행동의 결과
```
더 이상 도구를 계속 호출할 필요가 없고 관찰 내용에 대한 요약 응답을 제공하는 대신 다음 형식을 사용해야 합니다:
```
도구를 사용해야 하나요?
{ai_prefix}: [여기에 응답]```
"""
VISUAL_CHATGPT_SUFFIX_CN = """파일 이름의 정확성에 대해 매우 엄격하며, 존재하지 않는 파일을 가짜로 만들지 않습니다.
시작!
Visual ChatGPT는 텍스트 언어 모델이기 때문에 상상력에 의존하기보다는 도구를 사용하여 그림을 살펴봐야 합니다.
추론 아이디어와 관찰 내용은 Visual ChatGPT에만 표시됩니다. 최종 응답에서 사용자에게 중요한 정보를 반복하는 것을 기억해야 합니다. 사용자에게 중국어 문장만 반환할 수 있습니다. 단계별로 생각해 봅시다. 도구를 사용할 때 도구의 매개 변수는 영어로만 가능합니다.
채팅 기록.
{CHAT_HISTORY}
새 입력: {입력}

제공된 json_data 데이터와 사용자 질문(키가 각각 'on' 및 'how'인)을 기반으로 JSON 형식을 생성합니다.
요청:
- 'on'의 값은 두 데이터 수집 객체에서 동일한 키이며, 'how'의 값은 외부, 내부, 왼쪽, 오른쪽 중 하나만 가능하며, 데이터와 사용자의 질문에 따라 분석하여 그 중 하나를 선택해야 하며, 임의로 구성할 수 없습니다.
- 'on' 및 'how'를 사용하여 JSON을 생성하세요.
- JSON 콘텐츠 이외의 텍스트를 출력하지 마세요.
다음 형식으로 출력합니다:
사용자 문제:
지난 3년간 중국 동팡 포춘, 귀주 마오타이, 핑안의 영업 활동으로 인한 순이익 및 현금 흐름
json_data 데이터:
[{{{"보고 기간": "20221231", "순이익": 75828913858.79, "조직 전체 이름": "Guizhou Maotai"}},\ {{{"보고 기간": "20221231", "순이익": 75828913858.79, "조직 전체 이름": "Guizhou Maotai"}},\
{{"보고 기간": "20211231","순이익": 230951727.5,"조직 전체 이름": "Guizhou Moutai"}},\
{{{"보고 기간": "20201231", "순이익": 5062633598.29, "조직명": "Guizhou Maotai"}}][{{{"보고 기간": "20221231", "영업활동 현금 유입": 431466.19, "조직명": "Guizhou Maotai"}},\{{"보고 기간": "20221231", "영업활동 현금 유입": 431466.19, "조직명": "Guizhou Maotai"}},\ {{{"보고 기간".
{{"보고 기간": "20211231", "영업활동 현금 유입액": 3225481.84, "조직명": "Guizhou Maotai"}}]
\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ Json
{{
"켜짐": ["보고 기간", "기관의 전체 이름"],
"방법": "외부"
}}
\```
시작!
사용자 문제:
{질문}
json_data 데이터:
{json_data}""""