Первое крупное обновление API ChatGPT для 2024 года

Сейчас OpenAI интересуется ChatGPT API был значительно обновлен, и мы привели 8 важных моментов. Стоит отметить, что появилась новая модель "GPT-4-0125-preview", которая позволяет лучше справляться с задачами.

1. Выпуск новых моделей:

• Две новые модели встраивания:
  • Компактный и эффективный "text-embedding-3-small"
  • Большой и мощный "text-embedding-3-large"
• Обновленная предварительная модель GPT-4 Turbo
• Обновленная модель "GPT-3.5 Turbo"
• Обновленная модель рецензирования текста

2. Производительность и цена новой встраиваемой модели:

• Встраивание текста-3-Small:
  • Средний показатель бенчмарка MIRACL вырос с 31,4% до 44,0%.
  • Средний балл по эталону MTEB вырос с 61,0% до 62,3%
  • Цена снизилась с $0,0001 за 1 тыс. токенов до $0,00002 за 1 тыс. токенов, то есть в 5 раз.
• text-embedding-3-large:
  • Средний балл MIRACL увеличился с 31,41 TP3T до 54,91 TP3T, а средний балл MTEB - с 61,01 TP3T до 64,61 TP3T.
  • Цена составляет $0,00013 за 1 тыс. токенов

3. сократить встраивание:

• Вставка text-embedding-3-large создает до 3072 размеров
• Сокращение аббревиатур (некоторые цифры убраны), но сохраняется представление понятий

4. Обновления и снижение цен на модель GPT-3.5 Turbo:

• Запуск новой модели "GPT-3.5-Turbo-0125".
• Входная цена снижена на 50% до $0.0005/1K жетонов, выходная цена снижена на 25% до $0.0015/1K жетонов

5. Обновление GPT-4 Turbo:

• Новая модель "GPT-4-0125-preview" позволяет более тщательно подходить к решению таких задач, как генерация кода.
• Уменьшение "лени" (проблема невыполнения заданий)
• Включает исправления ошибок при генерации неанглийских UTF-8

6. обзор обновлений модели:

• Выпущена новая модель "text-moderation-007"
• Бесплатный API для выявления потенциально опасных текстов

7. улучшенное управление использованием API и ключами API:

• Возможность назначать разрешения для ключей API
• Панель управления использованием и экспорт использования показывают метрики на уровне ключей API

8. Другое:

• Полное развертывание GPT-4 Turbo с поддержкой технического зрения запланировано на ближайшие месяцы
• Дальнейшее улучшение видимости использования API и управления ключами API, особенно для крупных организаций.