Генеральный директор OpenAI смотрит в будущее AGI Economics: три наблюдения, которые показывают разрушительные изменения в течение следующего десятилетия

Сэм Альтман, исполнительный директор OpenAI

Миссия OpenAI заключается в том, чтобы обобщенный искусственный интеллект (AGI) приносил пользу всему человечеству.

OpenAI считает, что системы, указывающие на AGI, уже появляются, поэтому очень важно понять, в какой момент мы находимся. AGI - это термин, который определяет слабо, но в целом OpenAI рассматривает AGI как систему, способную справляться с возрастающей сложностью в различных областях до уровня человеческого существа.

Комментарии: Тот факт, что определение AGI остается расплывчатым, отражает передовой характер и неопределенность современных разработок в области ИИ. Признание OpenAI расплывчатости своего определения также говорит о том, что концепция AGI продолжает развиваться.

Люди - строители инструментов, с врожденным стремлением понимать и создавать, что делает мир лучше для всех нас. Каждое поколение, опираясь на открытия своих предшественников, создавало более мощные инструменты - электричество, транзисторы, компьютеры, Интернет, а вскоре и AGI.

С течением времени неуклонный марш человеческих инноваций периодически приносил беспрецедентное процветание и улучшение практически всех аспектов жизни людей.

В одном смысле AGI - это еще один инструмент в постоянно растущей системе прогресса, которую человечество строит вместе. В другом смысле AGI - это начало, и трудно не сказать: "На этот раз все по-другому"; экономический рост перед нами выглядит ошеломляющим, и теперь мы можем представить себе мир, в котором мы сможем вылечить все болезни, проводить больше времени с семьей и полностью реализовать свой творческий потенциал. потенциал.

Комментарии: Сэм Альтман рисует оптимистичное будущее, обусловленное AGI, включая прорывы в медицине и повышение производительности труда. Однако это радужное видение контрастирует с потенциальными рисками и этическими проблемами, которые может принести AGI, такими как перемещение рабочих мест и концентрация власти.

Возможно, через десять лет каждый человек на планете будет способен добиться большего, чем самые влиятельные люди сегодня.

OpenAI продолжает наблюдать стремительный прогресс в развитии ИИ. Вот три наблюдения об экономике ИИ:

1. Уровень интеллекта модели ИИ примерно равен логарифму количества ресурсов, затраченных на ее обучение и запуск. Эти ресурсы - прежде всего обучающие вычисления, данные и вычисления для выводов. Похоже, что вы можете потратить любую сумму денег и получить последовательную и предсказуемую прибыль; законы масштабирования, предсказывающие это, точны на несколько порядков.
2. Стоимость использования данного уровня ИИ снижается в 10 раз примерно каждые 12 месяцев, а снижение цен приводит к увеличению числа пользователей. Вы можете начать свой GPT-4 в начале 2023 года. Токен Это видно по стоимости токена GPT-4o в середине 2024 года, за это время цена каждого токена падает примерно в 150 раз. Закон Мура менял мир со скоростью 2 раза каждые 18 месяцев; это невероятно мощнее, чем закон Мура.
3. Социально-экономическая ценность "умного" линейного роста по своей сути является сверхэкспоненциальной. Одним из результатов этого является то, что OpenAI не видит причин для прекращения экспоненциального роста инвестиций в ближайшем будущем.

Комментарии: Эти три наблюдения раскрывают основные экономические факторы развития ИИ: положительную корреляцию между арифметическими инвестициями и повышением интеллекта, повсеместное распространение, вызванное быстрым снижением стоимости, и огромные социально-экономические выгоды от повышения интеллекта. Однако устойчивость этого экспоненциального роста и воздействие на экологические и социальные ресурсы заслуживают более глубокого рассмотрения.

Если эти три наблюдения останутся верными, влияние на общество будет огромным.

OpenAI начинает внедрять ИИ-агента, который в итоге будет чувствовать себя как виртуальный коллега.

Представим себе случай агента по разработке программного обеспечения, который, по мнению OpenAI, будет особенно важен. Представьте, что такой агент со временем сможет выполнять большую часть работы, которую может делать инженер-программист с несколькими годами опыта работы в ведущей компании, причем задания будут длиться не более нескольких дней. У него не будет величайших новых идей, ему потребуется много человеческого контроля и руководства, и он будет очень хорош в одних вещах, но удивительно плох в других.

Тем не менее, считайте, что это реальный, но относительно элементарный виртуальный коллега. Теперь представьте себе 1000 таких агентов или миллион. А теперь представьте такого агента для каждой рабочей области знаний.

Комментарии: Появление ИИ-агента предвещает глубокие изменения в структуре работы, и Сэм Альтман подчеркивает его потенциал в качестве "виртуального коллеги", особенно в наукоемких областях, таких как разработка программного обеспечения. Однако еще предстоит выяснить, каковы ограничения ИИ-агентов в плане креативности, решения сложных задач и межличностного взаимодействия, а также их потенциальное влияние на существующие рабочие места.

В некотором смысле ИИ может оказаться в экономическом плане похожим на транзисторы - масштабное научное открытие, которое хорошо масштабируется и проникает практически во все сферы экономики. Мы не особо задумываемся о транзисторах и компаниях, производящих транзисторы; их преимущества очень широко распространены. Но мы хотим, чтобы наши компьютеры, телевизоры, автомобили, игрушки и т. д. творили чудеса.

Мир не изменится сразу, он никогда не менялся. В краткосрочной перспективе жизнь в основном будет идти своим чередом, и люди в 2025 году будут проводить свое время в основном так же, как и в 2024-м. Мы по-прежнему будем влюбляться, создавать семьи, спорить в Интернете, ездить на природу и так далее.

Но будущее придет к нам таким образом, что его нельзя будет игнорировать, и долгосрочные изменения в наших обществах и экономике будут огромными. Мы найдем новые занятия, новые способы быть полезными друг другу и новые способы конкурировать, но они могут сильно отличаться от того, что мы делаем сегодня.

Мотивация, сила воли и решительность могут оказаться бесценными. Принятие правильных решений и умение ориентироваться в постоянно меняющемся мире будут иметь огромное значение. Устойчивость и способность к адаптации станут теми навыками, которые помогут развить. AGI станет величайшим рычагом для человеческой силы воли и даст людям больше влияния, чем когда-либо прежде, а не меньше.

OpenAI ожидает, что влияние AGI будет неравномерным. В то время как в некоторых отраслях произойдут незначительные изменения, научный прогресс может развиваться гораздо быстрее, чем сегодня; это влияние AGI может перевесить все остальное.

Цены на многие товары в конечном итоге сильно упадут (в настоящее время стоимость смартфонов и энергии ограничивает многие вещи), в то время как цены на предметы роскоши и некоторые изначально дефицитные ресурсы (например, землю), вероятно, вырастут еще сильнее.

Технически путь OpenAI выглядит достаточно ясным. Но общественная политика и коллективное мнение о том, как мы должны интегрировать AGI в общество, очень важны; одна из причин, по которой OpenAI выходит на рынок рано и часто, - дать обществу и технологии время развиваться вместе.

Комментарии: OpenAI подчеркивает синхронность технологического развития и социальной адаптации. Запуск продуктов как можно раньше, чтобы дать обществу время адаптироваться и сформировать направление развития AGI, является позитивной стратегией. Однако как сбалансировать скорость инноваций, этические соображения и социальную справедливость в этом процессе "коэволюции", остается сложным вопросом.

ИИ проникнет во все сферы экономики и общества; мы будем ожидать, что все станет умным. Многие в OpenAI считают, что людям нужно будет предоставить больше контроля над технологиями, чем когда-либо прежде, включая более открытый исходный код, и признают, что необходимо найти баланс между безопасностью и расширением личных возможностей.

Хотя OpenAI никогда не хочет быть безрассудной, и некоторые важные решения и ограничения, связанные с безопасностью AGI, могут быть нежелательными, в целом OpenAI видит сильное предпочтение в расширении индивидуальных возможностей по мере того, как OpenAI приближается к достижению AGI; другой возможный путь, который OpenAI может увидеть, это использование AI использование ИИ авторитарными правительствами для контроля над своим населением посредством массовой слежки и потери автономии.

Обеспечение широкого распространения преимуществ AGI имеет решающее значение. Историческое влияние технологического прогресса говорит о том, что подавляющее большинство показателей, которые нас волнуют (состояние здоровья, экономическое процветание и т. д.), становятся лучше в среднем и в долгосрочной перспективе, но улучшение равенства, похоже, не зависит от технологий, и для того, чтобы сделать это правильно, может потребоваться новое мышление.

Комментарии: Сэм Альтман выразил обеспокоенность по поводу потенциально негативных сценариев развития AGI, например, авторитарных правительств, использующих ИИ для социального контроля. В то же время он подчеркнул важность баланса между безопасностью и расширением индивидуальных возможностей, а также необходимость обеспечить, чтобы AGI приносил пользу всем. Такое понимание обоюдоострого меча технологий заслуживает одобрения.

В частности, баланс сил между капиталом и трудом, похоже, легко испортить, что может потребовать раннего вмешательства. OpenAI открыта к некоторым странно звучащим идеям, таким как предоставление некоторого "вычислительного бюджета", чтобы каждый человек на планете мог использовать много ИИ, но OpenAI также видит много способов достичь желаемого эффекта, просто безжалостно снижая стоимость интеллекта.

Любой человек в 2035 году должен иметь возможность мобилизовать интеллектуальный потенциал, эквивалентный потенциалу каждого человека в 2025 году; каждый должен иметь право на неограниченный талант и на то, чтобы направлять его в нужное русло. Творческие результаты мира, в котором огромное количество талантов не имеет возможности проявить себя в полной мере, станут огромным благом для всех нас, если мы изменим эту ситуацию.

Особая благодарность Джошу Ачиаму, Боазу Бараку и Александру Мадри за рецензирование черновиков.

*Использование терминологии AGI в настоящем документе предназначено OpenAI для ясного общения, и OpenAI не намерен изменять или интерпретировать определения и процессы, определяющие отношения OpenAI с Microsoft. OpenAI намерен сотрудничать с Microsoft в долгосрочной перспективе. Эта сноска может показаться глупой, но, с другой стороны, OpenAI знает, что некоторые журналисты будут пытаться получить клики, написав глупость, поэтому OpenAI упреждает подобные глупости здесь .......

Комментарии: В сноске в конце статьи OpenAI подчеркивает свои давние отношения с Microsoft и заранее опровергает возможные интерпретации "шумихи", что отражает осторожный подход OpenAI к развитию технологий и деловому партнерству.