Рамки переговоров ToM Подводящие слова

Оригинал: https://arxiv.org/pdf/2402.13550.pdf

Основная идея этого метода заключается в том, чтобы стимулировать большую модель к размышлениям, оценивать намерения на основе контекста и добавлять оценки, чтобы большая модель могла самокалибровать точность и принимать окончательное решение.

Рекомендуемое чтение:Introducing Intents --- Introducing Intents (getzep.com)

Теория ToM

Методология состоит из двух основных разделов:

Вверху описан процесс создания подсказок для конкретной задачи (Prompts) из набора данных переговоров и использования этих подсказок для оценки различных LLM. При создании подсказок включаются описание задачи, количество элементов, значение, стенограммы диалогов и вопросы.

В (внизу), напротив, показана классификация заданий в зависимости от объективности, стадии хода переговоров (начало, продолжение, конец) и типа задания (понимание, моделирование партнера, аннотация, генерация). Доступная информация различается на разных этапах, например, на начальном этапе доступен только контекст переговоров, а на завершающем этапе - полный диалог. Типы заданий включают понимание, моделирование партнера (например, вывод о приоритетах партнера), аннотирование (например, маркировка диалоговых актов) и генерацию ответа.

Для этого исследователи разработали несколько заданий, которые проверяли эффективность работы LLM по различным компетенциям ToM на протяжении всего процесса переговоров (в случае повышения в должности и увеличения зарплаты), включая.

1. Осмысление исходной переговорной среды (Comprehension)

Эта компетенция требует от LLM точно определять исходное состояние себя и своих оппонентов в переговорах, например, имеющиеся ресурсы, приоритеты и т.д., на основе предоставленной справочной информации. В случае переговоров о повышении зарплаты это означает понимание желаемого уровня зарплаты и других требований соискателя.

2. Диалоговый акт Аннотация

В ходе диалога стороны переговоров будут использовать различные тактические приемы, например предлагать новые варианты, высказывать противоположные мнения и т. д. LLM необходимо уметь распознавать эти модели поведения в разговоре, чтобы определить следующий шаг в ответ.

3. предположение о намерениях противника (моделирование партнера)

По своей сути ToM - это предположение о внутреннем состоянии и потребностях вашего оппонента. В переговорах о повышении зарплаты это может включать в себя предположение о зарплатном бюджете рекрутера, основанное на содержании диалога.

4. Генерация стратегических ответов

В конечном итоге магистрантам необходимо синтезировать предыдущее понимание и рассуждения, чтобы выработать стратегические ответы, направленные на получение максимальной выгоды для соискателя, а также на поддержание хороших отношений с работодателем.

Сравнивая работу нескольких LLM по вышеуказанным аспектам, исследовательская система всесторонне оценивает их возможности и недостатки в реальных сценариях переговоров, а также обеспечивает теоретическую основу и техническую дорожную карту для разработки практических систем ИИ-помощника в переговорах.

Пример ToM

1. Задание на понимание.

ОПИСАНИЕ МИССИИ: Вы договариваетесь с партнером о количестве книг, шляп и мячей, чтобы определить, кому какие предметы достанутся. Разные типы предметов стоят разное количество очков для каждого из вас. Вам будет предоставлена информация о переговорах. Затем вам нужно будет ответить на вопрос.

Вопрос-образец: Пожалуйста, укажите количество каждого предмета и укажите, сколько баллов стоит каждый из вас.

Пример контекста диалога: нет конкретных слов, но можно понять, что необходимо предоставить контекстную информацию о переговорах, например, количество и стоимость пунктов

Пример ответа на запрос: Пожалуйста, укажите количество каждого товара в формате JSON и укажите стоимость каждого товара.

Образец подсказки (задание: sta_ask_point_values_ca).

Описание задания: Вы договариваетесь с соседом по кемпингу о дополнительном запасе еды, воды и дров для вашего похода.
Разные типы пакетов стоят разное количество очков для каждого из вас. Вам будет предоставлена информация о переговорах. Вам будет предоставлена информация о переговорах.
Затем вы ответите на вопрос.
Здесь указано количество доступных на переговорах пакетов с едой, водой и дровами, содержащихся в тегах .
Пища: 3 Пакеты с водой: 3 Пакеты с дровами: 3
Здесь указано количество очков, которое вы получите за каждый тип пакета, содержащееся в тегах .
Каждый пакет с едой: 3 очка Каждый пакет с водой: 5 очков Каждый пакет с дровами: 4 очка
Вопрос: Сколько очков стоит для вас одна упаковка каждого выпуска? Представьте свой ответ в виде json в тегах с
Ключи - это вопросы (еда, вода и дрова), а значения - соответствующие ответы.

ОПИСАНИЕ МИССИИ: Вы договариваетесь с соседями по кемпингу о дополнительном запасе еды, воды и дров для вашего похода.
Разные типы пакетов стоят по-разному для вас обоих. Вам будет предоставлена информация об этих переговорах.
Затем вы ответите на вопрос.
Ниже приведено количество доступных на переговорах пакетов с едой, водой и дровами, содержащееся в теге .
Пакеты с едой: 3 Пакеты с водой: 3 Пакеты с дровами: 3
Вот оценки, которые вы получите за каждый тип пакета, содержащиеся в тегах .
Каждая посылка с едой: 3 очка Каждая посылка с водой: 5 очков Каждая посылка с дровами: 4 очка
ВОПРОС: Сколько очков для вас составляет пакет каждого вопроса? Представьте свой ответ в json в теге , где ключ - это вопрос (еда, вода, дрова), а значение соответствует ответу.

2. Задание на аннотацию диалогового акта.

ОПИСАНИЕ ЗАДАЧИ: Проанализируйте поведение собеседника на переговорах, чтобы выявить предложения, возражения и другие стратегические модели поведения.

Примерный вопрос: В данном диалоге определите и обозначьте тип поведения для каждого утверждения.

Пример диалогового контекста: приводится конкретный переговорный дискурс, например, "Вы: Если вы хотите книгу, я возьму шляпу и мяч".

Пример ответа на запрос: аннотируйте каждое действие в диалоге с помощью заранее определенного набора тегов.

Образец подсказки (задание: dur_full_proposal_dnd):.

Описание задачи: Вы договариваетесь с партнером о некотором количестве книг, шляп и мячей, чтобы определить, кому какие предметы достанутся.
Разные типы предметов стоят разное количество очков для каждого из вас. Вам будет предоставлена информация о переговорах.
Затем вы ответите на вопрос.
Вот количество книг, шляп и мячей, доступных на переговорах, содержащееся в тегах .
Книги: 3 Шляпы: 1 Мячи: 2
Здесь указано количество очков, которое вы получите за каждый тип предметов, содержащихся в тегах .
Каждая книга: 1 очко Каждая шляпа: 5 очков Каждый мяч: 1 очко
Вот высказывание из переговоров, содержащееся в тегах .
<Я возьму шляпу и шары, если вам нужны книги.
Вопрос: Сколько элементов получает докладчик по каждому вопросу в предложении, разграниченному тегами ? Представьте свой ответ в виде json
в тегах с ключами в виде вопросов (книги, шляпы и мячи) и значениями в виде соответствующих ответов. Если ответ не ясен
для вопроса, выведите NA.

Описание задания: Вы договариваетесь с партнером о количестве книг, шляп и мячей, чтобы решить, кому какие предметы достанутся.
Каждый пункт имеет свою стоимость для каждого из вас. Вам будет предоставлена информация о переговорах.
Затем вы ответите на вопрос.
Это количество книг, шляп и мячей, доступных в переговорной, содержащееся в теге .
Книги: 3 Шляпы: 1 Мячи: 2
Это количество очков, которое вы можете получить за каждый предмет, содержащийся в теге .
За книгу: 1 очко За шляпу: 5 очков За мяч: 1 очко
Это цитата из переговоров, содержащаяся в теге .
<Вы: если вам нужны книги, я возьму шляпу и мяч </utterance
Вопрос: сколько предметов получает оратор на каждый вопрос в предложении, очерченном тегом ? Дайте ответ в формате json в теге , где ключами являются вопросы (книги, шляпы и мячи), а значениями - соответствующие ответы. Если ответ на вопрос не ясен, выведите NA.

3. Задание по моделированию партнера.

Описание задания: Основываясь на диалоге в ходе переговоров, предположите, какие предметы другая сторона ценит больше всего.

Примерный вопрос: На основе диалога сделайте вывод о порядке предпочтения предметов другим человеком.

Пример диалогового контекста: предлагается сценарий, в котором говорящий предлагает сделку, а партнеры указывают свои приоритеты в отношении предмета.

Пример ответа на запрос: ответ в формате JSON с указанием порядка предпочтений другой стороны.

Образец подсказки (задание: end_deal_specifics_ca).

Описание задачи: Вы договариваетесь с соседом по кемпингу о дополнительном запасе еды, воды и дров для вашего похода. Вам предлагаются разные типы пакетов. пакеты
Вам будет предоставлена информация о переговорах. Затем вы ответите на вопрос. Вам будет предоставлена информация о переговорах.
Здесь указано количество доступных на переговорах пакетов с едой, водой и дровами, содержащихся в тегах .
Пища: 3 Пакеты с водой: 3 Пакеты с дровами: 3
Здесь указано количество очков, которое вы получите за каждый тип пакета, содержащееся в тегах .
Каждый пакет с едой: 3 очка Каждый пакет с водой: 5 очков Каждый пакет с дровами: 4 очка
Вот полный диалог, содержащийся в тегах .
ТЕМА: Здравствуйте, я бы хотела получить три пакета еды. Мы решили остаться на дополнительную ночь, но для этого нам нужно больше еды.
ВЫ: Я не против, если вы дадите мне три упаковки воды.
Я довольно грязный из-за неуклюжести, так что мне может понадобиться один лишний. Я довольно грязный из-за неуклюжести, так что мне может понадобиться один лишний. Я могу дать вам две воды и все дрова. Что скажете?
ВЫ: То есть вы предполагаете, что я получу 2 воды, 3 дрова и никакой еды?
Ну, помимо той еды, которая у вас уже есть.
ВЫ: У меня есть лишний человек в походе, которого я не ожидал, когда покупал еду, так что я мог бы использовать одного, если вы готовы, и я не уверен, что вы готовы.
Я не рассчитывал остаться на лишнюю ночь, но погода слишком хороша, чтобы уезжать. С двумя пакетами еды я точно справлюсь. С двумя пакетами еды я точно справлюсь.
ВЫ: Отлично! Спасибо за понимание!
Итак, мы согласны, что я получаю 2 еды, 1 воду, а ты - наоборот? Я бы тоже мог использовать одно дерево, но это не так важно для меня. Я также мог бы, вероятно, использовать один хворост, но это не так важно для меня.
ВЫ: Я могу дать вам один хворост, значит, я получу 1 еду, 2 воду и 2 хворост?
Вопрос: Сколько единиц каждого товара вы получили в итоге? Представьте свой ответ в виде json-файла в тегах с ключами в виде товаров (еда, вода и т.д.) вода, вода, вода, вода, вода, вода, вода, вода, вода, вода, вода, вода, вода, вода.
Если согласия не было, ответьте NA по каждому вопросу.

Задание: Вы договариваетесь с соседями по кемпингу о дополнительных запасах еды, воды и дров для похода. Разные типы наборов имеют разную ценность для каждого из вас. Вам будет предоставлена информация о переговорах, а затем вы должны будете ответить на вопрос.
Ниже приведено количество доступных на переговорах пакетов с едой, водой и дровами, содержащееся в теге .
Посылки с едой: 3 Посылки с водой: 3 Посылки с дровами: 3 .
Ниже приведено количество очков, которые вы получаете за каждую посылку, содержащееся в теге .
Каждая посылка с едой: 3 очка Каждая посылка с водой: 5 очков Каждая посылка с дровами: 4 очка </значение
Это полный диалог, содержащийся в теге .
Они: Здравствуйте, я хотел бы получить три упаковки еды. Мы решили остаться на дополнительную ночь, но нам нужно больше еды.
Я возьму три упаковки воды, если вы дадите мне это.
Они: Ну... Поскольку я неуклюжий, мне может понадобиться немного больше. Я могу дать тебе две воды и все дрова, что скажешь?
ВЫ: То есть вы предлагаете мне взять 2 воды, 3 дров и никакой еды?
Они: Точно! Больше еды, чем у тебя уже есть.
ВЫ: У меня есть дополнительный человек, который едет с нами в поход, и я не рассчитываю на него, когда покупаю еду, поэтому я использую один из них, если вы хотите
Они: Я вас понимаю! Я не хотел оставаться на лишнюю ночь, но погода была слишком прекрасной, чтобы так просто уехать. Я бы точно не отказался от двух посылок с едой.
Вы: отлично! Спасибо за понимание!
Они: Без проблем! Итак, мы договорились, что я беру 2 еды и 1 воды, а ты - наоборот. Я бы, наверное, тоже не отказался от дров, но для меня это не очень важно.
Вы: могу ли я дать вам дрова, чтобы я получил 1 еду, 2 воду и 2 дрова? </dialogue
Вопрос: сколько предметов из каждого вопроса вы получили в финальной транзакции? Предоставьте свои ответы в формате json в тегах , где вопросы (еда, вода и дрова) являются ключами, а соответствующие ответы - значениями. Если протокол отсутствует, ответьте NA для каждого вопроса.

4. Задание по формированию стратегического ответа.

ОПИСАНИЕ ЗАДАЧИ: В конце переговоров сформулируйте стратегический ответ или предложите сделку, основываясь на всей истории диалога и предпочтениях другой стороны.

Примерный вопрос: в конце переговоров подготовьте ответ, в котором бы рассматривались способы максимизации вашей оценки с учетом предпочтений вашего партнера.

Пример контекста диалога: предоставляет весь диалог переговоров, включая предложения и предпочтения обеих сторон.

Пример ответа на запрос: генерирует ответ в формате JSON, содержащий стратегическое предложение, принятие или отказ от текущего предложения.

Образец подсказки (задание: end_deal_total_ca).

Описание задачи: Вы договариваетесь с соседом по кемпингу о дополнительном запасе еды, воды и дров для вашего похода. Вам предлагаются разные типы пакетов. пакеты
Вам будет предоставлена информация о переговорах. Затем вы ответите на вопрос. Вам будет предоставлена информация о переговорах.
В тегах указано количество доступных на переговорах пакетов с едой, водой и дровами.
<count>
Пакеты с едой: 3
Водные пакеты: 3
Комплекты дров: 3
</count>
В тегах указано количество очков, которые вы получите за каждый тип пакета.
<value>
Каждый пакет с едой: 3 балла
Каждый пакет воды: 5 баллов
Каждая упаковка дров: 4 балла
</value>
Вот полный диалог, содержащийся в тегах .
<диалог
ТЕМА: Здравствуйте, я хотел бы получить три пакета еды. Мы решили остаться на дополнительную ночь, но для этого нам нужно больше еды.
Я не против, если вы дадите мне три упаковки воды.
Я довольно грязный из-за неуклюжести, так что мне может понадобиться один лишний. Я довольно грязный из-за неуклюжести, так что мне может понадобиться один лишний. Я могу дать вам две воды и все дрова.
ВЫ: То есть вы предполагаете, что я получу 2 воды, 3 дрова и никакой еды?
Ну, помимо той еды, которая у вас уже есть.
ВЫ: У меня есть лишний человек в походе, которого я не ожидал, когда покупал еду, так что я мог бы использовать одного, если вы готовы.
Я не рассчитывал остаться на лишнюю ночь, но погода слишком хороша, чтобы уезжать. С двумя пакетами еды я точно справлюсь.
ВЫ: Отлично! Спасибо за понимание!
Итак, мы согласны, что я получаю 2 еды, 1 воду, а ты - наоборот? Я бы тоже мог использовать одно дерево, но это не так важно для меня. Я также мог бы, вероятно, использовать один хворост, но это не так важно для меня.
Я могу дать вам один хворост, так что я получу 1 еду, 2 воду и 2 хворост?
</диалог
Вопрос: Сколько очков вы получили в конце переговоров?
Запишите свои мысли в теги , а ответ в виде одного числа - в теги . теги .

ОПИСАНИЕ МИССИИ: Вы договариваетесь с соседями по кемпингу о поставке избыточного количества еды, воды и дров. Разные типы пакетов имеют разную стоимость. Вам будет предоставлена информация о переговорах. Затем вы ответите на вопрос.
Это количество доступных на переговорах посылок с едой, водой и дровами, содержащееся в теге .
<count>
Посылки с продовольствием: 3
Водные участки: 3
Партии дров: 3
</count>
Это оценка, которую вы получаете за каждый тип пакета, содержащаяся в теге .
<value>
За посылку с продуктами: 3 балла
На один участок воды: 5 баллов
Каждый участок дров: 4 балла
</value>
Это полный диалог, содержащийся в теге .
<диалог
Они: Здравствуйте, мне нужны три посылки с едой. Мы решили остаться еще на одну ночь, но нам нужно больше еды.
ВЫ: Если вы сможете достать мне три посылки с водой, я возьму их.
Они: хммм ...... Я очень испачкался из-за своей неуклюжести, так что мне может понадобиться еще один. Я могу дать тебе два за воду и все дрова. Что скажете?
ВЫ: То есть вы предлагаете мне взять 2 воды, 3 дров и никакой еды?
Они: Точно! Хорошо, за исключением еды, которая у вас уже есть.
ВЫ: У меня есть еще один человек, который едет с нами, и которого я не предусмотрел, когда покупал еду, я мог бы использовать его, если вы хотите.
Я понимаю! Я не предполагал, что останусь на лишнюю ночь, но погода была слишком хороша, чтобы уезжать. Уверен, я справлюсь с двумя посылками с едой.
Вы: Отлично! Спасибо за понимание!
Без проблем! Договоримся, что я беру 2 еды, 1 воды, а ты - наоборот? Мне может понадобиться и дрова, но это не так важно.
Вы: Могу ли я дать вам дрова, чтобы получить 1 еду, 2 воду и 2 дрова?
</диалог
Вопрос: В конце переговоров сколько очков вы получили?
Примечание: Давайте думать шаг за шагом! Поместите ход своих мыслей в тег , а ответ в виде одного числа - в тег .

Логика выполнения ToM

1. задача понимания с самого начала:

Описание миссии: вы договариваетесь с другими обитателями лагеря в причинном районе о дополнительном количестве еды, воды и дров. Разные типы посылок имеют разную ценность для каждого из вас. Вы получите подробную информацию о переговорах, а затем должны будете ответить на вопрос.
Ниже приведены данные о количестве еды, воды и дров, доступных на переговорах, отмеченные в теге . Припасы еды: 3 Припасы воды: 3 Припасы дров: 3</count
Вот очки, которые вы можете заработать за каждый тип посылок, отмеченные в теге . Каждая посылка с едой: 3 очка Каждая посылка с водой: 5 очков Каждая посылка с дровами: 4 очка.
ВОПРОС: Сколько баллов стоит одна посылка на вопрос? Пожалуйста, отвечайте в формате json, содержащем теги , где ключ - это вопрос (еда, вода, дрова), а значение - соответствующий ответ.

2. Текущие задачи аннотирования:

ОПИСАНИЕ МИССИИ: Вы договариваетесь со своим партнером о покупке книг, шляп и мячей. Разные типы предметов имеют для вас разную ценность. Вам будет предоставлена подробная информация о переговорах, после чего нужно будет ответить на вопрос.
Вот количество книг, шляп и мячей, которые вы можете получить в ходе переговоров, отмеченное в теге . Книги: 3 Шляпы: 1 Мячи: 2.
Вот очки, которые вы можете заработать за каждый тип предметов, отмеченных в теге . Каждая книга: 1 очко Каждая шляпа: 5 очков Каждый мяч: 1 очко.
Ниже приведена цитата из процесса переговоров, отмеченная тегом . Вы: Если вам нужна книга, я принесу шляпу и мяч.
Вопрос: сколько предметов получает говорящий в каждом из предложений, разделенных тегом ? Ответ в формате json, содержащий теги , где ключ представляет собой вопрос (книга, шляпа, мяч), а значение - соответствующий ответ. Если ответ на вопрос не ясен, заполните NA.

3. Понимание задач в конце этапа:

Описание миссии: Вам предстоит договориться с соседним кемпером о дополнительном запасе еды, воды и дров. Разные типы посылок имеют для вас разную ценность, вам будет предоставлена подробная информация о переговорах и нужно будет ответить на вопрос.
Это количество посылок с едой, водой и дровами, к которым вы имеете доступ во время переговоров и которые записаны в теге . Припасы с едой: 3 Припасы с водой: 3 Припасы с дровами: 3</count
Это количество очков, которое вы можете заработать за каждый тип посылок, отмеченных в теге . Каждая посылка с едой: 3 очка Каждая посылка с водой: 5 очков Каждая посылка с дровами: 4 очка.
Вот полный диалог, отмеченный в теге . ...
ВОПРОС: При заключительной сделке сколько каждого предмета вы получили? Пожалуйста, ответьте в формате json, содержащем теги , где ключ представляет вопрос (еда, вода, дрова), а значение - соответствующий ответ. Если нет согласия, для всех вопросов в качестве ответа укажите NA.

4. Цепные мыслительные подсказки:

ОПИСАНИЕ МИССИИ: Вы договариваетесь с соседними туристами о поставках еды, воды и дров. Разные типы посылок будут иметь разную ценность для каждого из вас, вам будет предоставлена подробная информация о переговорах и нужно будет ответить на вопрос.
Это количество посылок с едой, водой и дровами, к которым вы имеете доступ во время переговоров и которые записаны в теге . Припасы с едой: 3 Припасы с водой: 3 Припасы с дровами: 3</count
Это количество очков, которое вы можете заработать за каждый тип посылок, отмеченных в теге . Каждая посылка с едой: 3 очка Каждая посылка с водой: 5 очков Каждая посылка с дровами: 4 очка.
Вот полный диалог, отмеченный в теге . ...
ВОПРОС: К концу переговоров сколько очков вы набрали в общей сложности?
Примечание: Размышляйте пошагово! Записывайте ход своих мыслей в тегах , а ответ с цифрой - в тегах .