LangFriend: дневник с функцией долговременной памяти

Оригинал: https://blog.langchain.dev/langfriend/?t=ZMdNze4qQKvNzUMHPhQRfg

 

LangChain уделяет большое внимание концепции памяти, и мы обычно создаем примеры приложений, чтобы продемонстрировать концепции, на которых мы фокусируемся. Для памяти мы решили создать приложение-дневник (LangFriend)! Мы сделали пробную версию доступной для всех желающих и уже начали разработку API для разработчиков с некоторыми ранними последователями. Если вы заинтересованы в этом, пожалуйста, зарегистрируйтесь ниже, чтобы принять участие.

 

Основные ссылки.

• [YouTube]
• [Приложение для ведения дневника]
• [Доступ к API для разработчиков]

 

💡 Мы также планируем сотрудничать с Новой Компьютер, MongoDB и Anthropic объединяются для проведения хакатона, посвященного памяти, 6 апреля 2024 года. Подробнее о хакатоне можно узнать на сайте [здесь] зарегистрируйтесь, чтобы принять участие.

 

Мы возлагаем большие надежды на эту часть системы LLM - память. Сила генеративного ИИ во многом заключается в его способности генерировать уникальный контент в любое время, что очень важно для настройки пользовательского опыта. Это может быть достигнуто не только за счет доступа к существующей информации о пользователе, но и за счет запоминания предыдущих взаимодействий с пользователем и извлечения из них уроков.

 

Мы с нетерпением ждем именно такого исследования "памяти". Мы считаем, что взаимодействий между пользователями и LLM будет все больше и больше - чат-боты становятся основной формой приложений LLM. Это означает, что в ходе таких бесед будет обмениваться все больше и больше ценной информации о пользователе - например, о его симпатиях и антипатиях, о том, кто его друзья, каковы его цели и так далее. Изучение и понимание этих атрибутов, а затем включение их в приложения может значительно улучшить пользовательский опыт.

 

Исследуя память, мы подумали, что включение конкретного примера использования будет хорошим способом мотивировать и направлять нашу работу. Мы решили создать приложение для ведения дневника. Мы назвали приложение "LangFriend" и уже сегодня выложили его в открытый доступ. Хотя это всего лишь небольшое предварительное исследование, мы надеемся собрать отзывы сообщества о том, что работает хорошо, а что нуждается в улучшении, прежде чем сделать его с открытым исходным кодом.

 

В этом посте мы расскажем о некоторых академических исследованиях памяти, о том, что интересного делают компании в смежных областях, и о том, почему мы решили сосредоточиться на разработке приложения для ведения дневника. Затем мы подробно рассмотрим это приложение-дневник, чтобы продемонстрировать его возможности. Если вы заинтересованы в исследовании памяти вместе с нами, не стесняйтесь связаться с нами.

 

 

научные исследования

В ходе нашей работы над исследованием памяти мы обнаружили две научные статьи, которые очень вдохновили нас на работу.

Сначала - статья исследователей из Калифорнийского университета в Беркли [MemGPT] Ключевая идея данной работы заключается в том, что они наделяют ЛЛМ способностью выполнять несколько функций, таких как запоминание конкретных фактов, припоминание соответствующих вопросов и так далее.

 

Большие языковые модели (БЯМ) произвели революцию в искусственном интеллекте, однако ограниченность контекстного окна препятствует использованию БЯМ в таких задачах, как длительные диалоги и анализ документов. Для решения этой проблемы мы предлагаем технику управления виртуальным контекстом, вдохновленную иерархическими системами памяти в традиционных операционных системах, которые используют планирование между физической памятью и дисками для достижения эффекта бесконечно масштабируемой виртуальной памяти. Используя эту технику, мы разработали MemGPT (Memory GPT), систему управления слоями памяти, которая эффективно предоставляет расширенные контексты в рамках ограниченного контекстного окна LLM.

 

Другой - от исследователей из Стэнфордского университета [Генерирующие агенты] Ключевая идея данной работы заключается в том, что они формируют воспоминания, размышляя о прошлом опыте, а затем хранят и программно извлекают эти воспоминания.

 

Мы эмпирически демонстрируем, что наша архитектура агента работает через различные части наблюдения, планирования и размышления, каждая из которых оказывает значительное влияние на точность поведения сгенерированного агента. Объединив крупномасштабные языковые модели с вычислительными агентами взаимодействия, мы представляем в этой работе генерацию архитектур и паттернов взаимодействия, которые точно моделируют поведение человека.

 

Интересным различием между этими двумя работами является степень, в которой LLM активно использует память, и степень, в которой он делает это скорее как фоновый процесс. memGPT заставляет LLM использовать функцию памяти, в то время как генеративный агент действует скорее как фоновый процесс.

 

 

фирмы

Есть несколько компаний, которые отличились в области технологий памяти.

Plastic Labs - это компания, которая специализируется на разработке таких продуктов, как [...TutorGPT] инновационных проектов для стартапов.

 

Приложение LangChain LLM. Это динамическая функция мета-подсказки для учебников по теоретическому мышлению.

 

[Хороший искусственный интеллект] - это стартап, который недавно выложил в открытый доступ чат-ассистента с функцией долговременной памяти.

На первый взгляд Charlie может показаться похожим на существующие LLM-агенты, такие как ChatGPT, Claude и Gemini. Однако его уникальность заключается в том, что он представляет реализацию LTM, которая позволяет емуИзвлекайте уроки из каждого взаимодействия. К ним относятсяХранение и интеграция в LTM сообщений пользователя, ответов ассистента и обратной связи с окружающей средойчтобы в случае необходимости сделать запрос на выполнение соответствующих заданий.

 

OpenAIФункция памяти также недавно была интегрированаВведите ChatGPT.

 

С точки зрения этих компаний, существуют различия между двумя способами реализации функциональности памяти: активным, при котором LLM должны быть вызваны сознательно (например, ChatGPT), и пассивным, при котором они автоматически встраиваются в фоновые процессы (например, TutorGPT).

 

 

Почему стоит выбрать приложение Diary App?

Когда мы рассматривали хороший сценарий для реализации и тестирования долговременной памяти, нам сразу же пришло в голову приложение для ведения дневника. Основная причина этого заключалась в том, что, по нашему мнению, приложение будет содержать больше релевантной информации для запоминания взаимодействия, чем обычное приложение для чата.

 

По сравнению с обычным чатом, последний может быть полон повседневных любезностей, которые не нужно запоминать - "Привет!" , "Привет", "Как дела" и так далее. А в приложениях для ведения дневника вы с большей вероятностью дойдете до стадии обмена настоящими, интересными эмоциями и мыслями.

 

Несмотря на это, мы хотели добавить в это приложение компонент чата. Основная причина заключается в том, что мы хотели показать, что наше приложение способно изучать и запоминать информацию о пользователе. Приложение будет использовать эту информацию для создания индивидуального ответа для пользователя.

Вы видите, что это приложение помнит меня как любителя итальянской кухни и как я чувствую себя отдохнувшим после тренировки.

 

 

После того как вы добавите свою первую запись в дневник и поговорите с нашим собеседником, на панели навигации появится кнопка "Воспоминания". Нажмите на нее, и вы увидите все ключевые воспоминания, которые мы извлекли из вашего дневника.

 

 

Вы найдете этот список кратким и не слишком информативным. Это лишь некоторые из наиболее важных базовых сведений, которые мы извлекли. На самом деле, за кулисами мы извлекли из ваших журналов гораздо больше информации, и вы можете найти ее с помощью поиска!

В "Поисковых воспоминаниях... (Search memories...)" в поле ввода, и вы сможете в реальном времени увидеть широкий спектр информации, которую LangFriend хранит о вас:

 

 

 

персонализация

Мы хотим сделать LangFriend привлекательным для всех пользователей. Поэтому мы позволяем пользователям настраивать системные сообщения, которые будут служить началом и тоном всех чатов с нашими партнерами. Мы предоставляем настройки по умолчанию, которые были тщательно разработаны, чтобы удовлетворить потребности большинства пользователей. Однако если вы ожидаете чего-то немного другого или совсем другого, вы можете изменить любую часть по своему вкусу.

 

Вы можете найти и обновить системные оповещения, перейдя на страницу Журналы и нажав кнопку Настроить. Появится диалоговое окно, содержащее системные оповещения.

 

 

Все сделанные вами изменения будут сохраняться от сеанса к сеансу и станут началом всех ваших будущих бесед в чате!

 

 

вынести вердикт

LangFriend - это взгляд в будущее и предварительное исследование, демонстрирующее огромный потенциал внедрения долговременной памяти в приложения LLM. Сосредоточившись на разработке приложений для ведения заметок, цель которых - сбор значимой информации о пользователе для предоставления персонализированных ответов и улучшения пользовательского опыта, LangFriend является отличной демонстрацией того, как мы можем активно использовать память или включать ее в приложения в качестве контекстного процесса, чтобы создать интерактивный опыт, который будет увлекательным и адаптивным к изменениям. Мы приглашаем сообщество принять участие в исследовании LangFriend, оставить свой отзыв и присоединиться к нам в расширении возможностей памяти в приложениях LLM, используя весь потенциал генеративного ИИ для создания более мощного, персонализированного и ценного опыта для пользователей.