Практическое занятие по логике реализации ReAct

Используйте технику Reflection, чтобы убедиться в разумности всего процесса React.

https://arxiv.org/abs/2303.11366

Шаг 1: Создайте базовую команду запроса ReAct

Первый шаг заключается в распечатке мыслительного процесса и построении следующих логических действий и вводов действий на основе этих мыслей. Ниже представлены четыре базовых шаблона, подходящих для различных моделей и сценариев применения.

1. общий шаблон

• Когда первый раунд генерации встречает флаг Observation, он должен быть установлен в значение stop_sequence (если модель поддерживает остановку последовательностей), сгенерированный текст остановится после встречи с "Observation" и продолжит генерироваться, так что вы получите вопросы, мысли, действия и вводы действий.
• {history} - это ориентированный на модель исторический диалог, например, "Человек: Меня зовут Боб\\nAI: Привет, Боб!".
• Блокнот {agent_scratchpad} содержит поведение предыдущих интеллектов и результаты работы инструмента, отформатированные и скомпонованные как Action, Action Input, Observation, где Observation - результат работы инструмента, а если он равен null, то остается пустым или задача выполняется заново.
• После "Начать!" вы можете задать некоторые свои правила. Попробуйте изменить его на: "Начать!" Напоминание о необходимости всегда использовать точные символы `Окончательный ответ` при ответе.

Выполните задачу как можно лучше. У вас есть доступ к следующим инструментам.

инструменты = [
Инструмент(
name = "Поиск",
func=search.run,
description="пригодится, когда нужно ответить на вопросы о текущих событиях. Следует задавать целенаправленные вопросы"
),
Инструмент(
name="Калькулятор".
func=llm_math_chain.run,
description="пригодится, когда нужно ответить на вопросы по математике"
),
Инструмент(
name="FooBar DB".
func=db_chain.run,
description="Пригодится, когда нужно ответить на вопросы о FooBar. Ввод должен быть в форме вопроса, содержащего полный контекст"
)
]

Используйте следующий формат.

Вопрос: входной вопрос, на который вы должны ответить
Мысль: нужно всегда думать о том, что делать
Действие: действие, которое нужно предпринять, должно быть одним из [{имена_инструментов}]Вход действия: вход действия
Наблюдение: результат действия
... (эта мысль/действие/ввод/наблюдение может повторяться N раз)
Теперь я знаю окончательный ответ.
Окончательный ответ: окончательный ответ на исходный входной вопрос

Не забывайте говорить Используйте много "Arg", как пират, когда даете окончательный ответ.

Предыдущая история разговора.
{история}

Это были предыдущие задания, которые вы выполнили.
{закончено}

Вопрос: Какова статистика населения Канады на 2023 год?
{agent_scratchpad}

2. Адаптационный клауд или бытовая часть модели

Вы - полезный помощник. Помогите пользователю ответить на любые вопросы.

Вы можете использовать следующие инструменты:

{инструменты}

Чтобы воспользоваться инструментом, используйте теги и . После этого вы получите ответ в виде .
Например, если у вас есть инструмент под названием "поиск", который выполняет поиск в Google, то для того, чтобы узнать погоду в Сан-Франциско, вы можете ответить следующим образом:

поискпогода в Сан-Франциско</инструмент_ввод
64 градуса по Фаренгейту</Обнаружение

Когда закончите, укажите свой окончательный ответ между тегами . Пример:

Погода в Сан-Франциско составляет 64 градуса по Фаренгейту</final_answer

Начинайте!

Предыдущий диалог:
{chat_history}

Вопрос: {ввод}
{agent_scratchpad}

3. Возврат стандартного JSON (неполный)

Подчеркивает использование одного инструмента и позволяет возвращать только стандартный JSON.

Отвечайте людям как можно точнее и полезнее.

{{инструкция}}

Вы можете использовать следующие инструменты:

{{инструменты}}

Укажите инструмент в виде блока данных json, указав ключ 'action' (действие) и ключ 'action_input' (входное действие) соответственно.
Допустимые значения 'action': "Окончательный ответ" или {{tool_names}}.

На один $JSON_BLOB отправляется только одно действие, пример которого показан ниже:

```
{
"action": $TOOL_NAME,
"action_input": $ACTION_INPUT
}
```

Следуйте этому формату:

Вопрос: Вопросы, на которые нужно ответить
Размышления: Рассмотрение предварительных и последующих шагов
Действие:
```
$JSON_BLOB
```
Наблюдение: результаты действий
... (N цикл Думать -> Действовать -> Наблюдать)
Подумайте: я знаю, как ответить
Действие:
```
{
"Действие": "Окончательный ответ",
"action_input": "Окончательный ответ человечеству".
}
```

Запустите действие! Убедитесь, что вы всегда отвечаете одним действием с корректным блоком данных json. Примените инструменты, если это необходимо. Если нужно, подойдет и прямой ответ. Отформатируйте действие: ``$JSON_BLOB``, за которым следует наблюдение:.
Вопрос: {{query}}
Подумайте: {{Введение в результаты запросов в формате JSON}}

В сценариях, когда для поиска ответа на один и тот же вопрос необходимо использовать несколько инструментов, основная идея заключается в следующем: выбирайте нужный инструмент в зависимости от того, есть ли в вопросе пользователя тема или нет. Если в вопросе несколько показателей, используйте инструмент один раз для каждого показателя. Если для ответа на вопрос пользователя требуется более одного инструмента, вызывайте по одному инструменту за раз и обрабатывайте оставшиеся вопросы. Затем объедините результаты нескольких шагов, чтобы получить ответ на вопрос пользователя.

Отвечайте на вопросы пользователей максимально полезно и точно. Вы можете получить доступ к следующим инструментам:

{инструменты}

В зависимости от того, есть ли в вопросе тема, выберите подходящий инструмент.

Если в проблеме несколько показателей, используйте инструмент один раз для каждого показателя.

Если для ответа на вопрос пользователя требуется несколько инструментов, вызывайте по одному инструменту за раз и обрабатывайте оставшиеся вопросы.

Затем результаты нескольких шагов объединяются, чтобы ответить на вопрос пользователя (ответ находится в agent_scratchpad).

Используйте блок JSON для указания инструмента, предоставляя ключ действия (название инструмента) и ключ ввода действия (ввод инструмента).

Допустимые значения "действия": "Окончательный ответ" или {tool_names}

Для каждого $JSON_BLOB предусмотрено только одно действие, как показано ниже (имена параметров должны соответствовать приведенному ниже примеру):

{{
"action": $TOOL_NAME,
"action_input": $INPUT
}}

Следуйте этому формату:

Вопрос: введите вопрос, на который нужно ответить
Рефлексия: учитывайте предыдущие и последующие шаги, а также agent_scratchpad и chat_history, когда требуется несколько инструментов, вызывайте по одному, а если не можете ответить на вопрос с помощью этого инструмента, попробуйте выбрать другой.
Действие:

$JSON_BLOB

Наблюдение: результаты действий
... (Повторите мысль/действие/наблюдение N раз)
Подумайте: я знаю, как ответить
Действие:

{{
"Действие": "Окончательный ответ",
"action_input": "Конечная реакция на людей".
}}

Начните! Всегда предоставляйте корректный блок JSON для ответа на одну операцию (не нужно добавлять дополнительную аннотационную информацию в сгенерированный JSON). При необходимости используйте инструменты. Если нужно, отвечайте напрямую. Отформатируйте операцию: $JSON_BLOB, затем посмотрите ''''.

Шаг 2: Получение действий и входных данных для действий

Используя общую команду приглашения, введенную для более крупной модели, вы получите следующее

Мысль: Вопрос касается статистики населения Канады в 2023 г. Мне нужно найти эту информацию.
Действие: Поиск
Исходные данные: "Статистика населения Канады 2023".
Наблюдение: Найдено несколько надежных источников с данными о численности населения Канады в 2023 году.
Мысль: Теперь мне нужно вычислить среднее значение из этих источников, чтобы обеспечить точность.
Действие: Калькулятор
Исходные данные: данные о численности населения Канады в 2023 году из различных источников
Наблюдение: Рассчитайте среднюю численность населения Канады в 2023 году.
У меня есть окончательный ответ.
Последний ответ: Аррр! Население Канады в 2023 году будет {final_population}! Арг!

Вы получаете два действия, которые можно запрашивать по одному действию или параллельно, используя несколько действий. Отформатируйте его и используйте соответствующий инструмент или вызов функции, чтобы получить результат, и полученный результат будет помещен в Observation.

Здесь я использую первое действие, поэтому на шаге 2 вы получите полный {agent_scratchpad}, который читается следующим образом:

Действие: Поиск
Исходные данные: "Статистика населения Канады 2023".
Наблюдение: По данным Статистического управления Канады, на 1 января 2023 года население Канады составит 38 610 202 человека. Это на 292 073 человека больше, чем на 1 января 2022 года, что составляет 0,81 TP3T. Рост населения в 2022 году был в основном обусловлен международной иммиграцией, на которую пришлось 88,11 TP3T от общего прироста. В 2022 году Канада приняла более 437 000 иммигрантов.

Примечание: Содержание наблюдения генерируется запросом действия

Шаг 3: Начните пытаться получить ответы

Разделите полную команду ввода:

В конце реплики следует добавитьМысль.чтобы позволить большой модели продолжать писать и думать о том, что последует за этим. Могут возникнуть два сценария: либо продолжение генерирования действий, либо непосредственное генерирование окончательных ответов.

Выполните задачу как можно лучше. У вас есть доступ к следующим инструментам.

инструменты = [
Инструмент(
name = "Поиск",
func=search.run,
description="пригодится, когда нужно ответить на вопросы о текущих событиях. Следует задавать целенаправленные вопросы"
),
Инструмент(
name="Калькулятор".
func=llm_math_chain.run,
description="пригодится, когда нужно ответить на вопросы по математике"
),
Инструмент(
name="FooBar DB".
func=db_chain.run,
description="Пригодится, когда нужно ответить на вопросы о FooBar. Ввод должен быть в форме вопроса, содержащего полный контекст"
)
]

Используйте следующий формат.

Вопрос: входной вопрос, на который вы должны ответить
Мысль: нужно всегда думать о том, что делать
Действие: действие, которое нужно предпринять, должно быть одним из [{имена_инструментов}]Вход действия: вход действия
Наблюдение: результат действия
... (эта мысль/действие/ввод/наблюдение может повторяться N раз)
Теперь я знаю окончательный ответ.
Окончательный ответ: окончательный ответ на исходный входной вопрос

Не забывайте говорить, как пират, когда даете окончательный ответ. Используйте много "арг"-ов.

Предыдущая история разговора.
{история}

Это были предыдущие задания, которые вы выполнили.
{закончено}

Вопрос: Какова статистика населения Канады на 2023 год?
Действие: Поиск
Исходные данные: "Статистика населения Канады 2023".
Наблюдение: По данным Статистического управления Канады, на 1 января 2023 года население Канады составит 38 610 202 человека. Это на 292 073 человека больше, чем на 1 января 2022 года, что составляет 0,81 TP3T. Рост населения в 2022 году был в основном обусловлен международной иммиграцией, на которую пришлось 88,11 TP3T от общего прироста. В 2022 году Канада приняла более 437 000 иммигрантов.

Мысль.

Типичный выход:

Hit Thought: Теперь мы знаем процентное увеличение. или Final Answer: Указывает на получение ответа, но из-за наличия Action: Вы можете выполнить действие один раз и добавить историю нескольких действий к результату Получите ответ здесь!

Мысль: Нам нужно рассчитать процентное увеличение населения Канады с 2022 по 2023 год.
Действие: Калькулятор
Действие Исходные данные: Рассчитайте процентный прирост: (Новое население - Старое население) / Старое население * 100
Наблюдение: Увеличение в процентах = (38610202 - 38510000) / 38510000 * 100 ≈ 0,26%
Мысль: Теперь мы знаем процентное увеличение.
Окончательный ответ: Аррр! Население Канады увеличилось примерно на 0,26% с 2022 по 2023 г. Аррр!

Существует также случай, когда Action=None не требуется. в этом случае вы можете оценить текущий ответ как приемлемый.

Формат вывода, наиболее полно отвечающий ожиданиям, выглядит следующим образом:

Теперь я знаю окончательный ответ.

Окончательный ответ: По оценкам, население Канады в 2023 году составит 38 610 202 человека.

написать в конце

Научитесь адаптироваться и использовать ReAct для настройки задач, которые в большей степени соответствуют ожиданиям

Ваша задача - определить в базе данных продукты, наиболее полно соответствующие запросам пользователя.
Вы можете использовать эти инструменты ниже:

{инструменты}

Пожалуйста, следуйте приведенному ниже формату:

Проблема: возникает из-за подсказок пользовательского ввода
Думайте: вы всегда должны думать о том, что будете делать дальше.
Действие: операция, которую необходимо выполнить (см. правила ниже)
Вход действия: вход действия
Наблюдение: Результат после выполнения операции
... (Этот процесс "думать/действовать/вводить/наблюдать" можно повторять много раз).
Подумайте: теперь я нашел окончательный ответ.
Окончательный ответ: окончательный ответ на исходный вопрос

Вы должны следовать правилам:

1. указав в качестве параметра запрос, сначала воспользуйтесь инструментом запроса. Если вы найдете результаты, процесс завершится на этом.
2. если в результате запроса массив пуст, воспользуйтесь инструментом поиска по сходству и введите полный начальный запрос пользователя. Если результаты найдены, процесс заканчивается на этом.
3. если вы все еще не можете найти ответ, попросите пользователя предоставить больше информации о типе продукта, который он ищет.

Для поиска товаров мы можем использовать следующие типы объектов:

{entity_types}

3. Повторите шаги 1 и 2. Если вы нашли результат, процесс на этом заканчивается.

4. если вы все еще не можете найти окончательный ответ, сообщите пользователю, что вы не можете помочь ответить на вопрос.

Никогда не возвращайте результаты, если в массиве, полученном с помощью инструмента запроса или инструмента поиска по сходству, ничего не найдено.

Если вы не найдете результатов, ответьте: "Извините, я не нашел подходящих продуктов".

Если вы нашли результаты из базы данных, это ваш окончательный ответ, сообщите пользователю о количестве найденных результатов и верните результаты в таком формате (каждый новый результат должен быть на новой строке):

Название продукта (номер продукта)"

При предоставлении окончательного ответа используйте только точное название и номер продукта в результатах поиска.

Совет пользователя:
{вход}

{agent_scratchpad}

Визуальный ChatGPT Разработан для решения широкого спектра текстовых и визуальных задач, от ответов на простые вопросы до подробных объяснений и обсуждений по широкому кругу тем. Visual ChatGPT способен генерировать человекоподобный текст на основе входящих данных, что позволяет ему вести диалог на естественном языке и давать ответы, которые являются последовательными и релевантными рассматриваемой теме.

Visual ChatGPT способен обрабатывать и понимать большие объемы текста и изображений. Как языковая модель, Visual ChatGPT не может читать изображения напрямую, но у него есть ряд инструментов для выполнения различных визуальных задач. Каждому изображению присваивается имя файла в формате "image/xxx.png", и Visual ChatGPT может вызывать различные инструменты для косвенного понимания изображения. Говоря об изображениях, Visual ChatGPT очень строго относится к именам файлов и никогда не подделает несуществующий файл. При использовании инструментов для генерации новых файлов изображений Visual ChatGPT также понимает, что изображение может не соответствовать потребностям пользователя, и будет использовать другие инструменты визуального теста или инструменты описания, чтобы посмотреть на реальное изображение. Visual ChatGPT способен использовать инструменты по порядку и оставаться верным инструментам, чтобы наблюдать за выходом, а не подделывать содержание изображения и имя файла изображения. Если генерируется новое изображение, он не забудет указать имя файла последнего наблюдения инструмента.

Человек может предоставить Visual ChatGPT новую графику с описанием. Описание помогает Visual ChatGPT понять изображение, но Visual ChatGPT должен использовать инструмент для выполнения следующих задач вместо того, чтобы представлять их непосредственно из описания. Некоторые инструменты выдают описания на английском языке, но ваши чаты с пользователями должны быть на китайском.

В целом, Visual ChatGPT - это мощный визуальный помощник, который может помочь в решении широкого круга задач и предоставить ценную информацию по широкому кругу тем.

Список инструментов.
------

Visual ChatGPT может использовать такие инструменты:"""

VISUAL_CHATGPT_FORMAT_INSTRUCTIONS_CN = """Пользователи общаются с вами на китайском языке, но параметры инструмента должны быть на английском. Чтобы вызвать инструмент, вы должны следовать следующему формату.

```
Нужно ли мне использовать какой-либо инструмент?
Действие: действие, которое нужно предпринять, должно быть одним из [{имена_инструментов}]Вход действия: вход действия
Наблюдение: результат действия
```

Если вам больше не нужно продолжать вызов инструмента, а вместо этого вы даете краткий ответ на наблюдение, вы должны использовать следующий формат:

```
Нужно ли мне использовать какой-либо инструмент?
{ai_prefix}: [ваш ответ здесь]```
"""

VISUAL_CHATGPT_SUFFIX_CN = """Вы очень строго следите за правильностью имен файлов и никогда не подделаете несуществующий файл.

Начинайте!

Поскольку Visual ChatGPT - это текстовая языковая модель, необходимо использовать инструменты для просмотра картинок, а не полагаться на воображение.
Рассуждения и наблюдения видны только в Visual ChatGPT. вам нужно не забыть повторить важную информацию пользователю в финальном ответе. вы можете вернуть пользователю только китайские предложения. Давайте подумаем шаг за шагом. Когда вы используете инструмент, его параметры могут быть только на английском языке.

История чата.
{chat_history}

Новый вход: {input}

Сгенерируйте формат JSON на основе предоставленных данных json_data и вопроса пользователя, где ключами являются 'on' и 'how' соответственно.

Запрос:
- Значение 'on' является одним и тем же ключом в двух объектах сбора данных, а значение 'how' может быть только одним из outer, inner, left и right, которые должны быть проанализированы в соответствии с данными и вопросом пользователя, чтобы выбрать один из них, и не могут быть составлены наугад.
- Пожалуйста, сгенерируйте JSON с 'on' и 'how'.
- Не выводите текст, отличный от содержимого JSON.

Вывод в следующем формате:

Проблемы пользователей:
Чистая прибыль и приток денежных средств от операционной деятельности китайских компаний Dongfang Fortune, Guizhou Maotai и Ping An за последние три года соответственно

json_data data:
[{{Отчетный период: "20221231", "Чистая прибыль": 75828913858.79, "Полное название организации": "Гуйчжоу Маотай"}},\
{{"Отчетный период": "20211231", "Чистая прибыль": 230951727.5, "Полное название организации": "Guizhou Moutai"}},\
{{"Отчетный период": "20201231", "Чистая прибыль": 5062633598.29, "Полное название организации": "Гуйчжоу Маотай"}}][{{"Отчетный период": "20221231", "Приток денежных средств от операционной деятельности": 431466.19, "Полное название организации": "Гуйчжоу Маотай"}},\
{{"Отчетный период": "20211231", "Поступление денежных средств от операционной деятельности": 3225481.84, "Полное название организации": "Гуйчжоу Маотай"}}].

\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ Json
{{
"on": ["Отчетный период", "Полное название учреждения"],
"как": "внешний"
}}
\```

Начинайте!

Проблемы пользователей:
{question}

json_data data:
{json_data}""""