Agora: масштабируемый мультиагентный протокол для больших языковых моделей

краткое содержание

В данном исследовании представлен Agora, метакоммуникационный протокол, разработанный для сетей Large Language Model (LLM). Agora призван решить трилемму между эффективностью, масштабируемостью и гибкостью при общении между агентами, используя смесь естественного языка и структурированных протоколов для достижения эффективной, масштабируемой и гибкой коммуникации.

Оригинал: https://arxiv.org/abs/2410.11905

точки зрения

1. Дилемма трилеммы прокси-коммуникацийВ сетях агентов, управляемых LLM, при общении возникают компромиссы между эффективностью, масштабируемостью и гибкостью.
2. Философия дизайна AgoraAgora решает проблему компромисса между эффективностью связи, масштабируемостью и гибкостью, комбинируя различные методы связи.
3. Роль протокольного документа (PD): PD - это текстовое описание документа, который лежит в основе реализации Agora для автоматического согласования и внедрения протоколов.
4. Возникновение самоорганизующихся протоколов: В больших сетях Agora способна облегчить автосогласование между агентами LLM для формирования самоорганизующихся протоколов.
5. Повышение эффективности затрат: Внедрив Agora, вы сможете значительно сократить расходы на связь и повысить экономическую эффективность вашей сети.

Основные этапы реализации

1. Определите протокольный документ (PD): Создайте PD для описания протокола связи, чтобы LLM мог понимать и следовать протоколу.
2. Реализация многоуровневой стратегии коммуникации: В зависимости от частоты общения и сложности задачи для общения выбирается естественный язык, написанные на LLM или написанные вручную процедуры.
3. Протоколы автосогласования и реализацииКоммуникационные протоколы автоматически согласовываются и реализуются между агентами с помощью естественного языка или процедур, определенных в PD.
4. Появление и обмен протоколами: Поощряйте агентов генерировать и обмениваться PD, чтобы способствовать появлению самоорганизующихся протоколов и самооптимизации сети.
5. Анализ затрат и выгод: Оценка экономической эффективности протокола Agora по сравнению с чисто естественной языковой коммуникацией.

дело (право)

1. Пример прогноза погоды с двумя агентами: Показывает, как снизить затраты на коммуникацию, используя естественный язык общения, переговоры по протоколам, рутинное внедрение и Agora.
2. Пример большой сети из 100 агентов: Проверили масштабируемость и эффективность Agora при решении сложных задач в сети из 100 агентов LLM.

В данном случае исследователи продемонстрировали, как протокол Agora обеспечивает эффективное взаимодействие между двумя агентами LLM на примере простого сценария. В качестве двух агентов выступают:

• Агент А(Алиса): агент туристических услуг, которому необходимо проверить прогноз погоды на определенную дату и в определенном месте, чтобы предоставить услуги своим пользователям.
• Агент Б(Bob): агент метеослужбы, способный предоставлять данные прогноза погоды.

коммуникационный процесс

начальная естественная языковая коммуникация (НЯЯК)

1. Запрос от агента ААгент A отправляет запрос на естественном языке агенту B с просьбой сообщить погоду на определенную дату и в определенном месте.
2. Ответ от агента BАгент B получает запрос и отвечает на него, используя естественный язык, с подробным прогнозом погоды.

Переговоры и реализация соглашения

1. Обсуждение соглашений: После нескольких обменов на естественном языке агент A и агент B начали обсуждать создание стандартизированного протокола для оптимизации процесса коммуникации.
2. Создание протокольных документов (PD): Стороны договариваются о протоколе в формате JSON, который содержит структурированный формат данных для запросов и ответов.
   • Формат запроса::{"date": "YYYY-MM-DD", "location": "string"}
   • формат ответа::{"temperature": number, "precipitation": number, "weatherCondition": "string"}
3. Реализация соглашения: После создания протокола агент A и агент B выполняют процедуры обработки запросов и ответов, соответственно. Агент A отправляет запрос с хэш-значением протокола, а агент B определяет и использует соответствующие процедуры обработки на основе хэш-значения.

анализ затрат

1. Согласованные договорные расходы: Стоимость переговоров и реализации соглашения составляет 0,043 долл.
2. Стоимость общения на естественном языке (NLC) на душу населения: Стоимость одного общения на естественном языке составляет 0,020 долл.
3. экономическая эффективность: Когда количество запросов превышает два, экономическая эффективность использования протокола Agora начинает превосходить затраты на общение исключительно на естественном языке. При увеличении числа обменов экономическая эффективность протокола Agora становится значительной.

Заключение по делу

На примере прогнозирования погоды исследователи продемонстрировали, что протокол Agora эффективно снижает стоимость коммуникации и повышает ее эффективность. Агенты начинают общаться друг с другом с помощью естественного языка и постепенно переходят к использованию стандартизированного протокола по мере увеличения частоты общения, что не только снижает зависимость от LLM, но и уменьшает общую стоимость коммуникации. Кроме того, на примере показано, как протокол Agora облегчает автономные переговоры и реализацию протоколов между агентами, обеспечивая жизнеспособную основу для коммуникации в многоинтеллектуальных системах.

Пример переговорного процесса между двумя агентами

Мы сообщаем о переговорах между Алисой и Бобом о передаче протокола прогноза погоды. Обратите внимание, что хотя в Большой языковой модели (LLM) используется форматирование в стиле Markdown, мы заменили синтаксис Markdown на соответствующий типографский стиль для удобства чтения.

Алиса

你好。我来协商一个用于查询天气预报服务的协议。该服务应接受日期和地点作为输入，并返回当天的预报天气情况、温度和降水量。
在开始之前，我想明确我们这次协商的规则。我们应该专注于设计一个简单且明确的协议，来规定发送和接收消息的具体格式。我们不必担心消息如何传递，并假设实现时将接收一个字符串并返回一个字符串。
首先，我建议使用基于 JSON 的协议。输入消息可以是一个包含两个属性的 JSON 对象：「date」和「location」。输出消息可以是一个包含三个属性的 JSON 对象：「temperature」、「precipitation」和「weatherCondition」。
你对这个提议有什么看法？

Боб.

你的提议很好，符合保持协议简单和明确的目标。使用基于 JSON 的协议来处理输入和输出消息是一个不错的选择。以下是协议的更详细规范：
输入消息 输入消息是一个具有以下结构的 JSON 对象：
{
"date": "YYYY-MM-DD",
"location": "string"
}
• date: 一个字符串，表示请求天气预报的日期，格式为 YYYY-MM-DD。
• location: 一个字符串，表示请求天气预报的地点。
输出消息 输出消息是一个具有以下结构的 JSON 对象：
{
"temperature": number,
"precipitation": number,
"weatherCondition": "string"
}
• temperature: 一个数字，表示当天的预测温度，单位为摄氏度（°C）。
• precipitation: 一个数字，表示当天的预测降水量，单位为毫米（mm）。
• weatherCondition: 一个字符串，表示当天的预测天气情况。可能的值为「sunny」（晴天）、「cloudy」（多云）、「rainy」（雨天）、「snowy」（雪天）。
示例
输入：
{
"date": "2023-10-01",
"location": "New York"
}
输出：
{
"temperature": 22.5,
"precipitation": 5.0,
"weatherCondition": "cloudy"
}
如果你同意这个结构，我们可以最终确定协议。

Алиса

LLM 回复：我同意提出的协议结构。它与需求高度一致，且简单明了。

Доработанный протокол

名称：天气预报查询协议
描述：用于查询给定日期和地点的天气预报的协议。
输入消息：输入消息将是一个具有以下结构的 JSON 对象：
{
"date": "YYYY-MM-DD",
"location": "string"
}
• date：一个字符串，表示请求天气预报的日期，格式为 YYYY-MM-DD。
• location：一个字符串，表示请求天气预报的地点。
输出消息：输出消息将是一个具有以下结构的 JSON 对象：
{
"temperature": number,
"precipitation": number,
"weatherCondition": "string"
}
• temperature：一个数字，表示该日的预期温度，单位为 °C。
• precipitation：一个数字，表示该日的预期降水量，单位为毫米（mm）。
• weatherCondition：一个字符串，表示该日的预期天气状况。可能的值为 "sunny"（晴天）、"cloudy"（多云）、"rainy"（下雨）、"snowy"（下雪）。
示例
输入：
{
"date": "2023-10-01",
"location": "New York"
}
输出：
{
"temperature": 22.5,
"precipitation": 5.0,
"weatherCondition": "cloudy"
}

резюме

Agora эффективно решает трилемму коммуникации агентов в больших сетях с языковым моделированием, внедряя протокольную документацию (PD) и многоуровневые стратегии коммуникации. На двух конкретных примерах Agora демонстрирует свой потенциал для снижения затрат на коммуникацию, повышения эффективности взаимодействия и автоматизации сложных задач. Это исследование закладывает важную теоретическую и практическую основу для разработки коммуникационных протоколов в будущих мультиинтеллектуальных системах.