Сэм Альтман: OpenAI подтверждает выпуск агентов искусственного интеллекта для повышения эффективности работы предприятий

Вчера генеральный директор и соучредитель OpenAI Сэм Альтман опубликовал в личном блоге свою последнюю подробную статью "Размышления".

Основной обзор создания OpenAI за эти 9 лет: от первоначального не выхода за пределы внешнего мира, до релиза ChatGPT в 2022 году, положившего начало глобальной революции ИИ, пользователей на всем пути взлетело более 300 миллионов, а затем до его внезапного увольнения, превратившего всю OpenAI в состояние хаоса.

Это также заставило его осознать, что его менеджмент был довольно неудачным, но ему повезло, что у него было много людей, которые помогли ему в процессе восстановления, и впоследствии он изменил состав совета директоров OpenAI, чтобы разнообразить управление.

Говоря о перспективах развития технологий, Сэм пишет: "Теперь мы уверены, что AGI можно построить в традиционном понимании.В 2025 году OpenAI выведет в сеть первых агентов искусственного интеллекта, которые пополнят ряды "рабочей силы" и существенно изменят эффективность работы компаний.. Мы твердо верим, что постоянное вложение мощных инструментов в руки людей приводит к отличным, широко распространенным результатам".

Кроме того, Agents - это один из важнейших инструментов OpenAI для разработки и применения AGI, позволяющий с интуитивной легкостью автоматизировать множество повторяющихся, сложных и громоздких бизнес-процессов от начала и до конца.

Ведь суть AGI заключается в автоматизации различных бизнес-процессов, освобождении людей от скучных и бессмысленных дел и использовании их времени и энергии на делах, имеющих большую ценность для бизнеса.

Многие из вас, читающих эту статью-размышление, также крайне заинтересованы в упомянутых в ней агентах искусственного интеллекта, которые окажут огромное влияние на рабочую силу в 2025 году!

Люди не понимают, что Большая модель не может быть общим искусственным интеллектом (ОИИ). Она просто не может им быть; она связана с вероятностью и математическими операциями. Она логически не может обладать способностью к восприятию. Это потребовало бы стохастичности и способности быть индивидуальностью, а это не то, чего можно достичь на основе исторических данных.

Агенты искусственного интеллекта, возможно, и обеспечивают присутствие AGI, но как то, что просто вычисляет наиболее вероятное следующее слово в ответе, сможет действовать самостоятельно и воплощать это в реальные действия?

В настоящее время AGI определяется как система Агентов, способных производить на компьютере как минимум столько же экономической продукции, сколько и любой человек. Никто не упоминает о разумности, которая в данном контексте несколько неуместна.

Также обведите кружком часть статьи, посвященную технологическим перспективам.

Удивительные рефлексивные воспоминания. Меня поражает сам факт того, что мы говорим, упоминаем и обсуждаем "сверхразум" и даже стремимся к нему в начале 2025 года - это означает, что общий искусственный интеллект (ОИ) уже реализован.

Я с нетерпением жду, когда агенты искусственного интеллекта станут частью рабочей силы, автоматизируют тяжелую работу и продолжат развиваться.

Значит, OpenAI выпустит AI Agents и AGI в этом году, верно?

Кроме того, при разработке плана выпуска продуктов OpenAI на 2025 год Сэм намеренно поставил Agents после AGI для ИИ общего назначения, что говорит о том, какое значение ему придается.

Размышления Оригинал

Второй день рождения ChatGPT был чуть больше месяца назад, и теперь мы перешли на новый этап создания моделей, способных к сложным рассуждениям. Поскольку Новый год всегда приводит к размышлениям, я хотел бы поделиться некоторыми личными мыслями о том, как все прошло до сих пор, и о том, чему я научился за это время.

По мере того как мы приближаемся к AGI (General Artificial Intelligence), особенно важно взглянуть на процесс разработки компании. Нам еще многое предстоит понять, многое мы не знаем, и все еще находится на ранних стадиях. Но мы знаем гораздо больше, чем когда начинали.

Мы основали OpenAI около 9 лет назад, потому что верили, что AGI возможен и что он может стать самой влиятельной технологией в истории человечества. Мы хотели понять, как ее создать и сделать так, чтобы она принесла широкую пользу человечеству; мы хотели оставить свой след в истории. Наши амбиции чрезвычайно высоки, как и наша убежденность в том, что эта работа может принести обществу огромную пользу.

В то время это почти никого не волновало, а если кого-то и волновало, то в основном потому, что они не считали, что у нас есть шанс на успех.

В 2022 году OpenAI все еще остается тихой исследовательской лабораторией, работающей над проектом под условным названием "Общение с GPT-3.5" (в исследованиях мы разбираемся гораздо лучше, чем в названиях). Мы наблюдали за тем, как люди используют тестовые функции нашего API, и знаем, что разработчикам очень нравится разговаривать с моделями. Мы думаем, что создание демо-продукта на основе этого опыта покажет людям что-то важное для будущего и поможет нам улучшить и доработать модель, сделав ее более безопасной.

В итоге нам посчастливилось назвать его ChatGPT и запустить 30 ноября 2022 года.

Мы всегда знали, что в какой-то момент мы достигнем переломного момента, когда начнется революция ИИ. Но мы не знали, когда наступит этот момент. К нашему удивлению, этот момент настал.

Запуск ChatGPT привел к такому росту, какого мы еще никогда не видели - в нашей компании, в нашей отрасли и в мире в целом. Мы наконец-то видим огромные преимущества, которые мы всегда надеялись получить от искусственного интеллекта, и мы видим, что скоро их станет еще больше.

Это нелегко. Дорога не бывает гладкой, а правильный выбор - неочевидным.

За последние два года мы практически с нуля построили целую компанию на основе этой новой технологии. Нет другого способа обучить персонал, кроме как сделать это, а когда категория технологий совершенно новая, просто нет никого, кто мог бы точно сказать вам, что делать.

Создание компании на высокой скорости при таком недостатке подготовки может быть хаотичным процессом. Обычно это два шага вперед и один шаг назад (иногда даже один шаг вперед и два шага назад). Ошибки исправляются по ходу дела, но на самом деле нет никакого руководства или указателей, которым можно было бы следовать при выполнении оригинальной работы. Быстрое движение по неизведанным водам - это невероятный опыт, но и огромный стресс для всех участников. Конфликты и недоразумения случаются сплошь и рядом.

Эти годы были самыми полезными, интересными, потрясающими, веселыми, изнурительными, стрессовыми, а последние два года - особенно неприятными. Подавляющее чувство - благодарность; я знаю, что однажды я уйду на пенсию на нашем ранчо, буду наблюдать за ростом растений, немного заскучаю, а потом вспомню, как здорово было иметь работу, о которой я мечтал с самого детства. Я стараюсь помнить об этом в любую пятницу, когда к часу дня семь дел идут наперекосяк.

Однажды в пятницу, чуть больше года назад, главное, что произошло в тот день, - это то, что меня неожиданно уволили с работы во время видеозвонка, а затем совет директоров опубликовал об этом сообщение в блоге сразу после того, как мы повесили трубку. Я находился в гостиничном номере в Лас-Вегасе. Это было почти необъяснимое ощущение, как будто сон пошел наперекосяк.

Увольнение на публике без предупреждения вызвало сумасшедшие несколько часов и довольно сумасшедшие несколько дней. Туман войны" - самая странная часть. Никто из нас не может получить удовлетворительного ответа на вопрос, что произошло и почему это случилось.

На мой взгляд, все это было серьезным провалом в управлении страной людьми доброй воли, в том числе и мной. Оглядываясь назад, я, конечно, хотел бы, чтобы тогда все было по-другому, и мне хотелось бы верить, что сейчас я лучший и более вдумчивый руководитель, чем год назад.

Я также признаю важность того, чтобы совет директоров имел различные взгляды и богатый опыт в решении сложных задач. Эффективное управление требует большого доверия и авторитета. Я приветствую тот факт, что так много людей работают вместе над созданием более прочной системы управления OpenAI, которая позволит нам выполнить нашу миссию - обеспечить, чтобы AGI принесла пользу всему человечеству.

Самое главное, что я вынес для себя - это то, как я благодарен и скольким людям я благодарен: всем, кто работает в OpenAI и решил потратить свое время и энергию на осуществление этой мечты, нашим друзьям, которые помогли нам пережить кризисные времена, нашим партнерам и клиентам, которые поддержали нас и доверили нам помочь им добиться успеха, и людям в моей жизни, которые показали мне, что я им небезразличен.

Мы все вернулись к работе гораздо более сплоченными и позитивными, и я очень горжусь тем, что с тех пор мы сосредоточились на работе. Мы провели, пожалуй, лучшее исследование за всю историю компании. Мы увеличили число еженедельных активных пользователей с 100 миллионов до более чем 300 миллионов. Самое главное - мы продолжаем выпускать в мир технологии, которые действительно нравятся людям и которые решают реальные проблемы.

Девять лет назад мы еще не знали, что получится в итоге, да и сейчас имеем лишь общее представление. Искусственный интеллект претерпел множество поворотов, и мы ожидаем, что в будущем их будет еще больше.

Некоторые повороты были приятными, другие - тяжелыми. Было забавно наблюдать за тем, как продолжается череда исследовательских чудес, а многие скептики стали настоящими верующими. Мы также видели, как некоторые коллеги уходят и становятся конкурентами. Текучесть кадров - обычное дело, когда команды становятся больше, а OpenAI растет очень быстро. Я думаю, что это в какой-то степени неизбежно - в стартапах обычно происходит большая текучка кадров на каждом новом крупном уровне, а в OpenAI их число растет в геометрической прогрессии каждые несколько месяцев.

Последние два года были похожи на десять лет работы в обычной компании. Когда любая компания так быстро растет и развивается, интересы, естественно, расходятся. И когда любая компания, являющаяся лидером в важной отрасли, подвергается нападкам со стороны множества людей по самым разным причинам, особенно когда они пытаются конкурировать с ней.

Наше видение не изменится, наша стратегия будет развиваться. Например, в самом начале мы не знали, что нам придется создавать компанию по производству продуктов; мы думали, что просто будем проводить отличные исследования. Мы также не знали, что нам понадобятся такие огромные суммы денег. Сейчас есть новые вещи, которые мы не понимали несколько лет назад, но теперь вынуждены строить, а в будущем появятся новые вещи, которые мы сейчас едва можем себе представить.

Мы гордимся своими достижениями в области исследований и внедрения технологий и намерены и дальше совершенствовать наши представления о безопасности и распределении выгод. Мы по-прежнему считаем, что лучший способ сделать системы ИИ безопасными - это выпускать их в мир итеративно и постепенно, давая обществу время адаптироваться и развиваться вместе с технологией, учиться на опыте и продолжать делать технологию более безопасной. Мы верим в то, что важно быть мировым лидером в исследованиях безопасности и согласования, а также направлять эти исследования с учетом отзывов реальных приложений.

Мы уверены, что AGI создается в традиционном понимании, и считаем, что к 2025 году мы сможем увидеть, как первые агенты искусственного интеллекта "присоединятся к рабочей силе" и существенно изменят эффективность производства компании. Мы твердо верим, что вложение мощных инструментов в руки людей приведет к отличным, широко распространенным результатам.

Мы начинаем смотреть вдаль, в сторону настоящего супер-интеллекта. Нам нравятся наши нынешние продукты, но мы стремимся к славному будущему. С суперинтеллектом мы сможем делать все, что угодно. Инструменты сверхинтеллекта могут значительно ускорить научные открытия и инновации, намного превышающие то, что мы можем сделать самостоятельно, и, в свою очередь, значительно увеличить изобилие и процветание.

Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно. Но это не страшно - мы уже проходили через это и не против оказаться в такой ситуации снова. Мы уверены, что в ближайшие несколько лет все увидят то же, что и мы, и так важно действовать осторожно, но при этом максимально использовать преимущества и возможности. Учитывая возможности нашей работы, OpenAI не может быть обычной компанией.

Как удачно и унизительно, что мы можем сыграть свою роль в этом начинании.

Спасибо Джошу Тирангиэлю за то, что побудил меня написать это. Жаль, что у меня нет больше времени.

В те дни многие люди проделали невероятную работу, чтобы помочь OpenAI и мне лично, но два человека выделялись среди них.

Рон Конвей и Брайан Чески настолько превзошли все ожидания, что я даже не знаю, как это описать. Я, конечно, слышал о способностях и упорстве Рона на протяжении многих лет, а с Брайаном я провел много времени за последние несколько лет и получил огромное количество помощи и советов.

Но нет ничего лучше, чем работать бок о бок с людьми, чтобы увидеть, на что они действительно способны. У меня есть основания полагать, что OpenAI мог бы развалиться без их помощи; они работали круглосуточно несколько дней подряд, пока все не было сделано.

Несмотря на исключительно напряженную работу, они всегда были спокойны, имели четкое стратегическое мышление и давали отличные советы. Они уберегли меня от нескольких ошибок, не совершив ни одной. Они использовали свою обширную сеть контактов для всего, что им было нужно, и могли справиться со многими сложными ситуациями. И я уверен, что они сделали многое из того, о чем я не знал.

Но больше всего мне запомнились их забота, сострадание и поддержка.

Изначально я думал, что знаю, что такое поддерживать основателя и компанию, и в какой-то степени так оно и есть. Но я никогда раньше не видел и даже не слышал о том, чем занимаются такие люди, как они, и теперь я лучше понимаю, почему они имеют легендарный статус. Они разные, но оба полностью заслужили свою поистине уникальную репутацию, и они схожи в своем исключительном решении проблем и способности помогать другим, а также в своей непоколебимой приверженности в трудные времена. С ними обеими технологическая индустрия станет намного лучше.

Есть и другие, подобные им; это нечто особенное в нашей индустрии, и они делают больше, чем люди думают, чтобы все шло гладко. Я с нетерпением жду возможности помочь другим.

От себя лично хочу поблагодарить Олли за те выходные и за его постоянную поддержку; он был невероятен во всех отношениях, и никто не мог бы попросить лучшего товарища.