Поиск o1: расширение возможностей моделей вывода для активного поиска, позволяющее большим моделям искать внешние знания в процессе мышления

Общее введение

Search-o1 - это проект с открытым исходным кодом, направленный на повышение производительности крупномасштабных моделей рассуждений (LRM) за счет интеграции продвинутых механизмов поиска. Его основная идея заключается в решении проблемы дефицита знаний, возникающей в процессе рассуждений, с помощью динамического поиска и интеграции знаний. Проект разработан командой sunnynexus, предоставляет механизм пакетной генерации и альтернативные методы поиска, может быть вставлен в процесс рассуждения в реальном времени соответствующих документов для повышения точности и надежности процесса вывода. search-o1 подходит для сложных научных, математических и программистских вопросов, поддерживает различные языковые среды, в основном используя Python для разработки и развертывания.

Список функций

• Механизм пакетной генерации: Одновременная генерация нескольких последовательностей выводов для повышения эффективности.
• альтернативный поискДинамический поиск релевантной информации при обнаружении недостатка знаний в процессе рассуждений.
• Интеграция документовУточнение и беспрепятственная интеграция найденных документов в цепочку рассуждений.
• Мультидисциплинарная поддержка: Применяется для ответов на вопросы в сложных областях, таких как наука, математика и кодирование.
• Обновление знаний в режиме реального времени: Убедитесь, что модель имеет доступ к актуальным знаниям в процессе рассуждений.

Использование помощи

Процесс установки

Проект Search-o1 в основном размещается и распространяется через GitHub. Процесс установки выглядит следующим образом:

1.склад клонов::

git clone https://github.com/sunnynexus/Search-o1.git

2. Создание виртуальной среды::

   conda create -n search_o1 python=3.9
   conda activate search_o1
   

3. Установка зависимостей::

   cd Search-o1
   pip install -r requirements.txt
   

4. Предварительная обработка данных::
   • Используйте код в файле data/data_pre_process.ipynb для предварительной обработки набора данных в стандартный формат JSON.

Использование

Инициализация последовательности выводов

Search-o1 инициализирует последовательность умозаключений, комбинируя инструкции к заданию и входные вопросы. Например:

from search_o1 import initialize_reasoning
init_sequence = initialize_reasoning("请计算质数的数量", "在1到100之间")

Пакетная генерация и поиск

Функция поиска запускается, когда модель сталкивается с необходимостью получения внешних знаний:

from search_o1 import batch_generate_and_search
results = batch_generate_and_search(init_sequence, max_tokens=500)

• Пакетная генерация: через пакетное_генерирование_и_поиск Функция генерирует несколько путей вывода одновременно и определяет необходимость дальнейших запросов знаний в каждом из них.
• Интеграция поиска: После обнаружения необходимости поиска система использует предопределенную поисковую систему (например, Google или пользовательскую базу данных) для получения релевантных документов, которые впоследствии уточняются и включаются в цепочку умозаключений.

итеративный вывод

Рассуждения - это итеративный процесс, который может потребовать новых поисков и интеграции документов после каждого поколения:

from search_o1 import iterate_reasoning
final_answer = iterate_reasoning(results, iterations=5)

• Количество итераций: В зависимости от сложности задачи, количество итераций может быть изменено для обеспечения точности рассуждений.

Применение к практическим проблемам

Search-o1 особенно подходит для решения задач, требующих большого количества фоновых знаний, таких как сложные вычисления в научных исследованиях или оптимизация алгоритмов в программировании. Пример:

• математическая задача: Задачи типа "решение дифференциальных уравнений методом Эйлера" могут быть решены с помощью Search-o1, где модель автоматически ищет информацию о методе Эйлера и применяет ее к рассуждениям.
• Вопросы программирования: Для решения таких проблем программирования, как "как оптимизировать алгоритм быстрой сортировки", Search-o1 может рассуждать о предложениях по улучшению алгоритмов, находящихся в поиске.

С помощью вышеописанного метода пользователь может использовать Search-o1 Выполнение сложных наукоемких задач, гарантируя, что каждый шаг рассуждений основан на самых актуальных и значимых знаниях.