ИИ-поиск компании Exa CEO reo3 после запуска: мысли в преддверии AGI

преамбула

Недавно я обсуждал O3 (OpenAI o3) с несколькими друзьями, и их реакцию можно выразить так: "Боже мой, неужели это происходит?".

Да, это действительно происходит. Следующие несколько лет будут сумасшедшими. Это момент исторического значения, если не галактического.

Невероятно, но глубокого обсуждения происходящего нет: лаборатории не могут говорить об этом, СМИ почти не пишут об этом, а правительство ничего не понимает.

Иронично, что мы обсуждаем будущее человечества в наших социальных сетях, это похоже на антиутопический ситком, но такова реальность.

Вот несколько моих мыслей по поводу текущей ситуации - мой вклад в бездну X-Platform мысли. Важно отметить, что эти мысли являются интересными предположениями, которые не были до конца продуманы. У меня не было достаточно времени, чтобы глубоко обдумать и изучить все идеи, многие из которых могут быть ошибочными. Но я надеюсь, что эти идеи помогут тем, кто пытается разобраться в текущей ситуации.

Воздействие O3 и тенденции

Скорость технологических прорывов

• Появление O3 не должно было шокировать. OpenAI показал нам тестовые графики замедления времени два месяца назад, и история развития компьютеров учит нас доверять этим линиям тренда, какими бы невероятными они ни казались.
• Что действительно шокирует, так это то, что все это произошло за два месяца. Мы перешли от университетского уровня ИИ к уровню доктора философии ИИ. Изменения волнуют людей, но такие быстрые изменения шокируют.

Прогнозы на будущее развитие

• Модель уровня O3 хорошо справляется с оптимизацией любой задачи, для которой можно определить функцию вознаграждения.
• В краткосрочной перспективе (1 год) мы получим модель дисбаланса мощностей:
  • Уровень AGI по математике, программированию и общему мышлению
  • По-прежнему посредственен в таких областях, как написание романов
• В долгосрочной перспективе (1-3 года) "слепые пятна" в модели будут постепенно исправляться по мере того, как будут добавляться тренировки по обучению с применением подкрепления в новых доменах (данные о настроениях, перцептивные данные и т. д.).

Воздействие на различные области

Будущее математиков

• Математики могут быть одной из групп, наиболее уязвимых для замены ИИ
• Математическая работа в основном ведется в символическом пространстве с меньшим контактом с физическим миром
• По прогнозам, через 700 дней люди перестанут быть лучшими математиками в известной Вселенной.

Судьба инженера-программиста

краткосрочное воздействие

• Каждый инженер-программист равноценен получению повышения
• К концу 2025 года кодирование будет больше похоже на координацию действий небольших агентов для выполнения различных задач
• Четко регламентированные задачи PR будут под силу системе O4

Долгосрочная перспектива

• Суть программной инженерии по-прежнему заключается в переводе требований в чистую логику
• Уровень абстракции языка программирования будет повышен с двоичного до английского
• Нетехнический персонал также сможет участвовать в программировании
• Лучшими разработчиками по-прежнему являются те, кому удобно переключаться между различными уровнями абстракции

Физический труд и робототехника

• ИИ относительно медленно воздействует на работников ручного труда
• Основными узкими местами являются усовершенствование аппаратного обеспечения и быстрое и надежное моделирование перцептивных действий.
• Прорыв в робототехнике может произойти только тогда, когда роботы смогут создавать роботов, а ИИ - проводить исследования ИИ

Вычислительная мощность и конкурентная среда

конкуренция за вычислительные ресурсы

• Крупнейшие лаборатории создают суперкомпьютерные кластеры
• Вычислительная мощность может быть важнее, чем преимущество модели
• Мобильность талантов и обмен информацией между лабораториями затрудняют сохранение технологического преимущества в течение более чем одного года

Специальные эффекты моделирования уровня O

• Стимулирование строительства крупных вычислительных комплексов
• Может изменить положение NVIDIA на рынке
• Проекты с открытым исходным кодом могут получить преимущество благодаря объединению глобальных вычислительных ресурсов

Революция в научных исследованиях

Теоретические науки

• Теоретическая физика пострадает первой
• ИИ может ускорить создание и проверку научных теорий
• Физические эксперименты и доступ к материалам могут стать узкими местами на пути прогресса

Риски и проблемы

Основные риски

1. Человеческое злоупотребление искусственным интеллектом
2. социальные волнения
3. ИИ вышел из-под контроля
4. Обострение международных конфликтов

Регулирование и социальное воздействие

• Государственное регулирование станет важным фактором развития ИИ
• Возможный риск терроризма и социальных потрясений
• 2025 год может стать последним годом, когда ИИ все еще будет находиться на относительно свободной стадии развития

прогноз на будущее

оптимистичные ожидания

• Прорывное открытие в области физики
• Базы на Марсе и Луне, построенные роботами
• Идеальная интеллектуальная обучающая система
• Биодобавки с нулевыми побочными эффектами
• Эффективные и чистые энергетические системы
• Еще больше неизвестных революционных открытий

конечная цель

• Реализация суперинтеллекта
• Все возможности, допускаемые законами физики
• Продление жизни и межзвездные путешествия
• Исследование происхождения Вселенной

Рекомендации к действию

Рекомендации для отдельных людей

1. Развивайте навыки эффективного решения проблем
2. Улучшение навыков работы в команде
3. Адаптация к быстро меняющемуся миру
4. Переход от индивидуального успеха к коллективному прогрессу

Вклад в развитие общества

1. Разработка продуктов, способствующих социальной стабильности
2. Распространение качественной информации
3. Участие в местном управлении
4. Помощь миру в плавном переходе к эпохе искусственного интеллекта

заключительные замечания

В преддверии AGI на каждого из нас возложена ответственность за формирование будущего. Это не только задача лабораторий ИИ, но и коллективная миссия всего человеческого сообщества. Будущее может быть полным неопределенности, но оно также полно беспрецедентных возможностей. Давайте вместе работать над тем, чтобы эта технологическая революция принесла прогресс, а не катастрофу.