Набор инструментов инженера по моделированию больших языков: подборка из 120+ полезных библиотечных ресурсов

В области искусственного интеллекта технология моделирования больших языков (Large Language Modelling, LLM) быстро меняется, и появляются различные библиотеки инструментов. Чтобы помочь разработчикам лучше справляться с задачами разработки LLM, в этой статье собран набор инструментов, содержащий более 120 полезных библиотек LLM, разделенных по функциональным категориям, чтобы инженеры могли быстро находить и применять их.

Быстрая навигация

Чтобы читателям было проще быстро найти нужные им ресурсы, здесь приведены быстрые ссылки на библиотеки инструментов для каждой категории:

Обучение и доработка LLM

Разработка приложений для LLM

рисунок

Многократный доступ к API

Маршрутизатор (вычислительная техника)

запоминание

интерфейсы

низкий код

(вычислительный) кэш

LLM RAG

Рассуждения LLM

Развертывание службы LLM

Извлечение данных LLM

Генерация данных LLM

LLM Интеллектуальное тело

Оценка LLM

Мониторинг LLM

LLM Cue word engineering

Структурированный вывод LLM

LLM Безопасность

Встроенная модель LLM

остальное