Интервью с Сатьей Наделлой: экономический рост приоритетнее AGI, план Microsoft по развитию ИИ и скачок к квантовым вычислениям

В недавнем подкаст-интервью с Дваркешем Пателем генеральный директор Microsoft Сатья Наделла рассказал о последних достижениях Microsoft в области искусственного интеллекта (ИИ) и квантовых вычислений, а также о своих взглядах на будущее отрасли. В интервью Наделла не только рассказал о значительных достижениях Microsoft в области топологических квантовых битов и моделирования игрового мира, но и подчеркнул, что цель стимулирования глобального экономического роста 10% гораздо важнее достижения общего искусственного интеллекта (AGI).

метка времени

• (0:00:00) - Вступление
• (0:05:04) - ИИ не будет победителем.
• (0:15:18) - Мировой экономический рост 10%
• (0:21:39) - Снижение цен на смартфоны
• (0:30:19) - Прорывы в квантовых вычислениях
• (0:42:51) - Как Muse изменила игровую индустрию
• (0:49:51) - Юридические барьеры для ИИ
• (0:55:46) - Правильное понимание безопасности AGI
• (1:04:59) - 34 года в Microsoft
• (1:10:46) - Верит ли Сатья Наделла в AGI?

стенограмма интервью

0:00:00 - Вступительное слово

Дваркеш Патель

Сатья, большое спасибо за участие в подкасте. Сейчас мы рассмотрим два крупных открытия, которые Microsoft сделала недавно и, поздравляю, которые в один и тот же день попали в журнал Nature: чип Majorana Zero, который находится у нас перед глазами, и Мировая модель человеческого поведения. Однако не могли бы мы сначала продолжить диалог, который только что состоялся? Вы упомянули, что некоторые из явлений, которые мы наблюдали в 1980-х и 1990-х годах, вновь проявились сегодня.

Сатья Наделла

Самое интересное для меня - ...... Дваркеш, во-первых, для меня большая честь быть участником вашего подкаста. Я большой слушатель, мне очень нравится ваш стиль интервью и широкий спектр тем, которые вы рассматриваете.

Меня восхищает то, что я вижу нечто, напоминающее мне мои первые годы работы в технологической индустрии, вероятно, в 90-е годы, когда было много споров о том, что лучше или хуже - RISC (Reduced Instruction Set Computer) или CISC (Complex Instruction Set Computer), и вопросов: "Действительно ли мы можем создавать серверы на архитектуре x86? и "Можем ли мы действительно строить серверы на x86?

Когда я пришел в Microsoft, я был на заре становления Windows NT. Каждый аспект технологического стека, от основной кремниевой платформы до операционной системы и прикладного уровня, был полон переменных.

Справедливости ради стоит сказать, что облачные вычисления в какой-то степени изменили все это, а распределенные вычисления и облачные вычисления, безусловно, изменили модель клиент-сервер, да и сам Web сильно изменился. Но эта волна кажется более разрушительной, чем все, с чем я сталкивался в прошлом.

Дваркеш Патель

Когда вы оглядываетесь на 80-е и 90-е годы, какие решения в итоге оказались долгосрочными победителями, а какие оказались неудачными? Особенно если учесть, что вы работали в Sun Microsystems, которая пережила интернет-пузырь 90-х годов. Часто говорят, что строительство центров обработки данных было пузырем, но в то же время сегодняшний Интернет построен на инфраструктуре того времени.

Какие уроки мы можем извлечь из того, что выдержит испытание временем, какие долгосрочные тенденции нам присущи, а какие - "вспышка на сковородке"? Какие уроки мы можем извлечь из них?

Сатья Наделла

Если оглянуться на четыре основных перехода, через которые я прошел, то первым был подъем клиента и клиент-серверной модели. Это была эра графических пользовательских интерфейсов и архитектуры x86, которая, по сути, позволила нам создавать серверы.

Тенденция была уже очень очевидна для меня. Я помню, как присутствовал на конференции PDC (Professional Developers Conference) в 1991 году, и на самом деле в то время я еще работал в Sun. В центре Moscone в 1991 году Microsoft впервые обнародовала интерфейс Win32, и мне стало ясно, что будет дальше: серверы тоже перейдут на архитектуру x86. Вы должны сделать ставку на эту долгосрочную тенденцию, когда преимущество в масштабе начнет нарастать. То, что произошло на стороне клиента, произойдет и на стороне сервера, и тогда вы действительно сможете создавать клиент-серверные приложения. В результате модель приложений становится понятной.

Затем Веб стал для нас серьезным вызовом, и мы должны были с ним справиться. Фактически, вскоре после моего прихода в Microsoft появились браузер Netscape или браузер Mosaic, вероятно, в ноябре или декабре 93-го, и Андреессен и его команда запустили их.

Это огромные перемены. Интересно, что волна Web пришла как раз тогда, когда мы начинали волну Client-Server. Но было ясно, что мы победим и в клиент-серверной волне. Нам пришлось подстраиваться под волну Web, и мы неплохо справились с этой задачей, потому что браузер - это совершенно новая модель приложения.

Мы приняли его всем сердцем, будь то поддержка HTML в Word, создание новых браузеров и конкуренция, или создание веб-серверов на нашем серверном стеке и агрессивное расширение рынка. Конечно, мы упустили самую крупную бизнес-модель в Сети, потому что все мы думали, что основа Сети - распределенная, и кто бы мог подумать, что поиск станет крупнейшим победителем в организации веб-контента? Очевидно, мы этого не предвидели, а Google предвидел и реализовал блестяще.

Это урок для меня: нужно не только использовать правильные технологические тенденции, но и понять, где будет генерироваться стоимость. Изменения в бизнес-моделях могут быть более сложными, чем изменения в технологических тенденциях.

0:05:04 - ИИ не будет победителем.

Дваркеш Патель

Где же будет создаваться ценность в пространстве ИИ?

Сатья Наделла

Это очень хороший вопрос. Я думаю, что есть две области, которые я могу предсказать с определенной уверенностью. Первая - это гипермасштабируемые системы, которые будут превосходить других, потому что, по сути, даже если вспомнить, что Сэм (вероятно, Сэм Альтман, генеральный директор OpenAI) и другие говорили об ИИ, если интеллект - это логарифмическая функция вычислительной мощности, то тот, кто сможет вычислять в масштабе, будет большим победителем.

Еще одно интересное наблюдение: даже когда вы смотрите на основу любой ИИ-нагрузки, например ChatGPT, люди радуются не только достижениям в области GPU, хотя это действительно здорово. На самом деле, я даже думаю о своем вычислительном кластере как о соотношении между ускорителями ИИ, хранилищем и вычислениями. И если говорить о масштабе, то его нужно постоянно увеличивать.

Дваркеш Патель

Да.

Сатья Наделла

Появление рабочих нагрузок, связанных с искусственным интеллектом, стало благословением, потому что знаете что? Они требуют все больше вычислительной мощности, причем не только на этапе обучения, но и на этапе вывода. Когда вы думаете об агенте ИИ, вы видите экспоненциальный рост использования вычислений, поскольку агент ИИ больше не ограничивается вызовами от пользователей-людей, а скорее от программ, вызываемых пользователями-людьми, к другим программам. Это создаст огромный спрос и масштаб для вычислительной инфраструктуры. Поэтому наш гипермасштабный бизнес, бизнес Azure и другие гипермасштабные облачные провайдеры, на мой взгляд, будут иметь огромные возможности для роста.

После мега-бизнеса все становится немного туманнее. Вы можете сказать, что существует модель "победитель - все", но лично я так не считаю. Кстати, это еще один важный урок, который я усвоил: четкое понимание того, какие рынки являются рынками победителей, а какие - нет, в какой-то степени определяет все. Помню, когда я только пришел в Azure, Amazon значительно опередила меня, и люди, включая инвесторов, говорили мне: "Все, игра окончена, у тебя ничего не получится, Amazon будет победителем во всем".

Но из своего опыта конкуренции с Oracle и IBM в сфере клиент-серверов я знаю, что покупатели никогда не потерпят ситуации "победитель-все". Структурно гипермасштабные облачные сервисы никогда не будут рынком победителя, потому что покупатели умны.

Потребительский рынок иногда может быть ситуацией "победитель - все", но на корпоративном рынке любой покупатель, будь то компания, корпорация или ИТ-отдел, хочет иметь несколько поставщиков. Поэтому вы должны быть одним из многих поставщиков.

Я думаю, что нечто подобное произойдет и в области моделирования. Будут и модели с открытым исходным кодом, и частные модели. Как и в случае с Windows, один из главных уроков, который я усвоил, заключается в том, что если у вас есть операционная система с закрытым исходным кодом, то обязательно найдется дополняющая ее альтернатива с открытым исходным кодом.

Так что в какой-то степени это создаст своеобразный контроль и баланс на рынке. Я думаю, что в сфере моделирования могут существовать некоторые модели с закрытым исходным кодом, но, безусловно, будут и альтернативы с открытым исходным кодом, и альтернативы с открытым исходным кодом на самом деле обеспечат, чтобы ситуация с победой закрытого исходного кода не возникла.

Это мое мнение о моделировании. Кроме того, если ИИ действительно настолько мощный, как о нем говорят, то страны не будут стоять в стороне и позволять частным компаниям ...... бесчинствовать в глобальном масштабе. Поэтому я не думаю, что ИИ будет рынком победителей.

Если перейти на следующий уровень, то, на мой взгляд, ситуация будет такой же, как и в прошлом, а в потребительском пространстве в некоторых категориях может возникнуть сетевой эффект победителя. В конце концов, ChatGPT - отличный тому пример.

Это массовое потребительское приложение, которое набрало настоящую скорость бегства. Я постоянно вижу его в топ-5 в App Store, что просто невероятно.

Они способны воспользоваться преимуществами на ранних этапах и превратить их в преимущества при использовании. В потребительском сегменте это может произойти. Но на корпоративном рынке, я думаю, будут разные победители в разных категориях. По крайней мере, таков мой анализ.

Дваркеш Патель

У меня есть много вопросов, которые я хотел бы задать. О квантовых вычислениях мы поговорим позже, но что касается идеи о том, что модели могут стать товарными: возможно, кто-то приводил аналогичный аргумент в отношении облачных вычислений несколько десятилетий назад - разве облачные вычисления в основе своей не связаны с чипами и коробками?

Но в конце концов вы и многие другие нашли способ получать потрясающую прибыль в облаке. Вы нашли способы реализовать эффект масштаба и добавить другие преимущества. По сути, даже если отбросить терминологию, если у вас есть AGI и он помогает вам создавать лучший ИИ - сейчас мы видим синтетические данные и Reinforcement Learning (RL); возможно, в будущем появятся автоматизированные исследователи ИИ - это кажется отличным способом развить свои сильные стороны. Мне интересно, что вы думаете об этом, особенно о важности опережающего развития ИИ.

Сатья Наделла

После масштабирования ничто не является товаром. Когда вы упомянули облачные вычисления, все сказали: "О, облачные вычисления - это товар". Но когда вы масштабируете ......, в этом и заключается хитрость управления гипермасштабным облачным провайдером ...... Вы можете сказать: "Что в этом сложного? Разве я не могу просто сложить серверы?"

Дваркеш Патель

Именно так.

Сатья Наделла

На самом деле, на заре развития гипермасштабных облачных вычислений большинство людей думали: "Существует множество хостинг-провайдеров, но они не являются хорошим бизнесом. Есть ли будущее у гипермасштабных облачных вычислений? Имеет ли это вообще смысл для бизнеса?" Но оказалось, что гипермасштабные облачные вычисления - это реальный бизнес, причем исключительно благодаря операционным ноу-хау, таким как Azure, которая управляет вычислительной инфраструктурой мирового класса в более чем 60 регионах. Это трудно повторить.

Итак, больше всего мне хотелось бы подчеркнуть, какова картина рынка: "один победитель" или "победитель получает все"? Потому что вы должны это понять. Мне нравится работать в тех областях, где есть большой объем рынка (TAM), где вам не придется рисковать в ситуации "победитель - все". В идеале вы находитесь на большом рынке, где есть место для нескольких победителей, и вы - один из них.

Это то, что я называю гипермасштабным уровнем. На уровне моделей модели в конечном итоге должны работать на какой-то гипермасштабной вычислительной инфраструктуре. Поэтому мне кажется, что эта связь будет существовать всегда. Это не только сама модель; модели нужно состояние, а значит, ей нужно хранилище; и ей нужны регулярные вычисления для запуска этих агентов и их агентских сред.

Вот почему я думаю о том, почему сценарий "один человек с одной моделью может сделать все это", вероятно, не произойдет.

Дваркеш Патель

Что касается гипермасштабных облачных провайдеров, то, кстати, интересно, что, будучи гипермасштабным облачным провайдером, вы имеете то преимущество, что, особенно в контексте масштабирования времени вывода, если речь идет об обучении будущих моделей, вы можете амортизировать затраты на центр обработки данных и графические процессоры не только для обучения, но и для повторного вывода. Сайт

Мне интересно, к какому типу гипермасштабных облачных провайдеров вы относите Microsoft и Azure? Занимается ли он предварительным обучением? Предоставляет ли он услуги по вычислению типа O3 (OpenAI o3)? Или вы просто собираетесь размещать и развертывать любые модели, доступные на рынке, и вы нейтральны в этом вопросе?

Сатья Наделла

Это хороший вопрос. То, как мы создаем наши вычислительные кластеры, отчасти является ответом на закон Мура. Я думаю, что это будет похоже на все, что мы делали в прошлом: обновление вычислительных кластеров каждый год, амортизация их стоимости в течение всего срока службы, а затем очень хорошее развертывание кластеров для выполнения различных заданий с высоким коэффициентом использования. Иногда крупные учебные задания требуют высокой концентрации пиковой вычислительной мощности с плавающей запятой (флопсов) и должны работать вместе. Это хорошо. Мы должны располагать достаточным количеством центров обработки данных для удовлетворения этих потребностей.

Но в конце концов эти масштабы становятся настолько большими, что даже при масштабе предварительного обучения, если он должен продолжать расти, то в какой-то момент масштаб предварительного обучения должен пересечь границу центра обработки данных. Все это уже более или менее реальность.

Итак, как только вы начинаете пересекать границу центра обработки данных перед обучением, чем это отличается от всего остального? Я считаю, что распределенные вычисления все равно будут распределенными, поэтому стройте свои вычислительные кластеры так, чтобы они могли обрабатывать большие задания на обучение, вычисления времени вывода и требования, которые может предъявить RL (reinforcement learning). На мой взгляд, это больше похоже на обучение операциям с плавающей запятой, потому что вы хотите создавать эти узкоспециализированные, бережливые модели для различных задач.

Поэтому вам нужен такой вычислительный кластер, а также спрос на услуги. В конце концов, "скорость света - это скорость света", и вы не можете рассчитывать построить центр обработки данных в Техасе и сказать: "Я собираюсь обслуживать весь мир оттуда".

Чтобы обслуживать весь мир, нужно развернуть вычислительные кластеры по всему миру. Таково мое понимание того, что требуется для создания настоящего гипермасштабного вычислительного кластера.

Да, кстати, я также хочу, чтобы мои хранилища и вычислительные мощности находились рядом со всеми этими объектами, потому что не только ускоритель ИИ не имеет статусов. Нужно хранить и сами обучающие данные, и иметь возможность мультиплексировать несколько обучающих заданий, и иметь память, и иметь среду, в которой эти агенты смогут выполнять программы. Таково мое представление о гипермасштабных вычислительных кластерах.

0:15:18 - Мировой экономический рост 10%

Дваркеш Патель

Недавно компания Microsoft сообщила о годовом доходе в 13 миллиардов долларов за счет искусственного интеллекта. Но при нынешних темпах ежегодного роста эта цифра увеличится в десять раз примерно через четыре года. Если тенденция сохранится, доходы от ИИ достигнут 130 миллиардов долларов. Если это так, то как вы собираетесь использовать интеллект в таких больших масштабах для решения задач промышленного масштаба?

Через Office? Или путем предоставления хостинга другим пользователям? Нужно ли вам иметь AGI, чтобы достичь дохода в 130 млрд долл. за счет искусственного интеллекта? Как это будет выглядеть?

Сатья Наделла

Дваркеш, вы подняли очень хороший вопрос, потому что, если вы собираетесь иметь этот взрыв интеллекта, изобилие предложений, даже коммодитизацию, первое, на что мы должны обратить внимание, - это рост ВВП.

Прежде чем говорить о перспективах доходов Microsoft, необходимо прояснить одно ограничение. Вот почему мы часто слишком быстро реагируем на шумиху вокруг AGI. Вспомните, каковы темпы экономического роста в развитых странах мира? 2%? Почти нулевые, если вычесть инфляцию.

Хотя я не экономист и смотрю в будущее до 2025 года, я вижу, что перед нами стоит реальная проблема роста. Поэтому первое, что нам нужно сделать, когда мы говорим, что это сравнимо с промышленной революцией, - это добиться роста в стиле промышленной революции.

Для меня это означает темпы роста в 10%, 7% для развитых стран и еще 5% после инфляции. Это и есть реальный показатель. Нельзя останавливаться только на предложении.

Действительно, меня радует тот факт, что многие люди пишут статьи на эту тему. В статье отмечается, что в выигрыше окажутся не технологические компании, а широкая индустрия, которая воспользуется богатым предложением товаров. Внезапно производительность труда увеличилась, и экономический рост ускорился. Когда это произойдет, мы, представители технологической отрасли, тоже выиграем.

Но вот и настал момент истины. Мы хвастаемся достижением рубежа AGI, который, на мой взгляд, является бессмысленным бенчмаркингом. Настоящий ориентир - это мировой экономический рост 10%.

Дваркеш Патель

Так, если мировая экономика растет на 10%, то размер мировой экономики составляет примерно 100 триллионов долларов Примерно. Если мировая экономика растет на 10%, то это еще 10 триллионов долларов в год на создание стоимости. Если это так, то ваш доход в 80 миллиардов долларов как поставщика гипермасштабных облаков все еще кажется слишком маленьким. Разве не должно быть 800 миллиардов долларов?

Если вы действительно считаете, что в ближайшие несколько лет мы сможем обеспечить мировой экономический рост такими темпами, то ключевым узким местом становится вопрос: есть ли у вас необходимые вычислительные мощности, чтобы развернуть весь этот ИИ для выполнения всей работы?

Сатья Наделла

Вы правы. Но, кстати, классическое мышление со стороны предложения гласит: "Эй, давайте я сначала построю, а они придут сами". Это аргумент, и мы сделали это, мы достаточно рисковали, чтобы применить его на практике.

Но в конечном итоге спрос и предложение должны совпадать. Именно поэтому я уделяю внимание как спросу, так и предложению. Если вы сосредоточитесь на предложении, не понимая, как превратить предложение в реальную ценность для ваших клиентов, вы можете оказаться совершенно оторванным от реальности.

Это одна из причин, по которой я уделяю особое внимание предполагаемому доходу. Это одна из причин, по которой я открыто говорю о предполагаемом доходе ...... Интересно, что не так много людей, похоже, говорят о своих реальных доходах, но для меня это важно как проверка и баланс того, как вы думаете о вещах.

Вы не можете ожидать, что спрос и предложение будут идеально симметричны в любой момент времени, но вам нужно иметь доказательство существования, доказательство того, что вы можете преобразовать вчерашние затраты (капитал) в сегодняшний спрос, чтобы вы могли инвестировать снова, возможно даже в геометрической прогрессии, и быть уверенным, что вы не окажетесь в полном неравновесии.

Дваркеш Патель

Я не уверен, что между этими двумя взглядами есть противоречие, потому что одна из вещей, которую вы сделали очень хорошо, - это смелость делать ранние ставки. Вы Инвестиции в OpenAI в 2019 годуДаже в Второй пилот и до того, как появятся какие-либо приложения.

Вспомните, что во время промышленной революции строительство железных дорог и других объектов инфраструктуры привело к экономическому росту от 6% до 10%, но многие из этих проектов не приносили немедленного дохода в первые годы, например, "Мы получили доход от продажи билетов, теперь мы идем на ....... "

Сатья Наделла

В то время он потерял много денег.

Дваркеш Патель

Именно так. Так что если вы действительно считаете, что здесь есть потенциал для увеличения темпов роста мировой экономики в 10 или даже в 5 раз, но при этом слишком много внимания уделяете вопросу "Каков доход GPT-4?". то это выглядит несколько противоречиво.

Если вы действительно верите, что такой огромный рост возможен на следующем этапе, не следует ли вам принять более радикальную стратегию, например "Давайте сойдем с ума и вложим сотни миллиардов долларов в создание вычислительной инфраструктуры?". В конце концов, здесь открываются огромные возможности, не так ли?

Сатья Наделла

Интересный момент, правда? Вот почему даже сбалансированная стратегия для вычислительных кластеров имеет решающее значение, по крайней мере для меня. Главное - не просто наращивать вычислительные мощности, а наращивать вычислительные мощности, которые действительно помогут мне обучить следующую большую модель и обслужить следующую большую модель. Пока вы не сделаете ни того, ни другого, вы не сможете по-настоящему эффективно использовать свои инвестиции.

Так что главное - это не гонка за построением моделей, а гонка за созданием товара, который может быть использован во всем мире для стимулирования экономического роста ...... Вы должны иметь полную систему мышления, а не фокусироваться только на одном аспекте.

Кстати, один из феноменов заключается в том, что будет происходить перестройка. Как вы уже говорили в эпоху интернет-пузыря, сейчас был послан сигнал: эй, вам нужно больше энергии, вам нужно больше вычислительных мощностей. И слава богу, все потянутся к ней.

На самом деле не только компании, но и правительства вкладывают в это капитал, и это определенно приближается ...... Я счастлив быть арендатором, потому что, кстати, я сам много строю и много арендую. Я буду счастлив арендовать много вычислительных мощностей в 2027, 2028 годах, потому что я вижу масштабы этих строек и говорю: "Это здорово". Единственный результат всех этих наращиваний вычислительных мощностей - снижение цен.

0:21:39 - Снижение цен на смартфоны

Дваркеш Патель

Говоря о падении цен, вы недавно были в DeepSeek После выпуска модели твитнуть Говорили о парадоксе Джевонса. Мне любопытно, можете ли вы рассказать об этом подробнее. Парадокс Джевонса относится к тому факту, что когда эластичность спроса на что-то очень высока, общее потребление увеличивается, даже если повышение эффективности приводит к снижению цен. Так ли чувствителен спрос на умные способности к снижению цен?

Потому что, если подумать, по крайней мере с моей точки зрения как потребителя, смарт стал очень дешевым. На миллион жетон Всего 2 цента. Действительно ли мне нужно, чтобы она уменьшилась до 0,02 цента? Мое узкое место сейчас - стать умнее. Если вам нужно взять с меня в 100 раз больше денег, чтобы тренироваться в 100 раз больше, я буду рад это сделать.

Но, возможно, на корпоративном рынке или в других местах вы видите другую картину. Каковы ключевые сценарии использования smart? Действительно ли нужно опускаться до 0,002 цента за миллион токенов?

Сатья Наделла

Я думаю, что на самом деле важна эффективность жетона. Необходимо принимать во внимание оба фактора: с одной стороны, интеллект должен становиться лучше и дешевле. Каждый раз, когда происходит прорыв, как в случае с DeepSeek, когда меняется граница эффективности токена, кривая изгибается, граница смещается, спрос растет. Так происходит и с облачными вычислениями.

Вот что интересно: раньше мы думали: "Боже, мы распродали все серверы в эпоху клиент-серверных технологий". Но как только мы начали переносить серверы в облако, люди вдруг начали потреблять больше, потому что они могли купить их дешевле, они были эластичными и могли платить по требованию, а не покупать лицензии, что полностью расширило рынок.

Я помню, как мы ездили в такие страны, как Индия, чтобы продавать SQL Server, и мы продали немного, но знаете что? Облачные вычисления в Индии намного больше, чем все, что мы смогли сделать в эпоху серверов. Я думаю, что это произойдет и в сфере ИИ.

Представьте себе, что вы действительно хотите предоставлять очень дешевые жетоны медицинского обслуживания по очень низким ценам на Юге, в развивающихся странах, - это было бы беспрецедентным преобразованием.

Дваркеш Патель

Я думаю, что для такого человека, как я, живущего в Сан-Франциско, вполне разумно слышать от людей: "Они какие-то глупые, они не знают, каково это - внедрять вещи в реальном мире".

Как человек, который работал с компаниями из списка Fortune 500 и помогал им внедрять технологии для сотен миллионов, если не миллиардов людей, как вы думаете, насколько быстро будут внедряться эти возможности?

Даже если у вас есть агенты, даже если у вас есть что-то, что может работать для вас удаленно, будет ли это огромным узким местом, учитывая все требования к соответствию и присущие им узкие места? Или это будет быстро преодолено?

Сатья Наделла

Это будет настоящим вызовом, потому что реальная проблема заключается в управлении изменениями или изменении процессов. Вот интересная аналогия: представьте себе, как многонациональная компания вроде нашей занимается прогнозированием без ПК, электронной почты и электронных таблиц. Повсюду летают факсы, кто-то получает факс, затем пишет внутреннюю служебную записку, которая рассылается по офису, люди заполняют цифры в записке, и в итоге все это попадает в прогнозный отчет, возможно, как раз к следующему кварталу.

Потом кто-то сказал: "Эй, я могу просто использовать таблицу Excel, отправить ее по электронной почте, люди смогут ее редактировать, и тогда я получу отчет о прогнозах". Весь бизнес-процесс прогнозирования изменился, потому что изменился рабочий продукт и рабочий процесс.

Именно это должно произойти при внедрении ИИ в работу со знаниями. На самом деле, если мы подумаем обо всех этих агентах, то в итоге получим новый вид работы и рабочего процесса.

Например, даже готовясь к подкасту, я использую свой Copilot и говорю ему: "Эй, я собираюсь поговорить с Дваркешем о нашем анонсе квантовых вычислений и новой модели, которую мы создаем для генерации игр. Дай мне резюме и скажи, какие материалы я должен прочитать перед этим". Он знал о двух статьях в Nature и извлек информацию. Я даже сказал: "Эй, представь мне это в виде подкаста". Он даже очень хорошо имитировал формат разговора между нами двумя.

Это стало моим новым рабочим процессом - более того, потом я поделился им со своей командой. Я скопировал его в Pages (программа для редактирования документов от Microsoft) как свой рабочий продукт и поделился им. Таким образом, мой новый рабочий процесс заключается в том, чтобы думать с помощью ИИ и работать с моими коллегами.

Это фундаментальный вопрос управления изменениями для всех тех, кто работает со знаниями и должен понять: "Как мне работать со знаниями по-новому?". На это потребуется время. Это затронет все сферы продаж, финансов и цепочки поставок.

Для традиционных организаций, я думаю, это будут изменения, аналогичные внедрению бережливого производства на предприятиях. Мне нравится аналогия с бережливым производством, потому что, если присмотреться, можно увидеть, что бережливое производство становится методологией, которую компании могут использовать для оптимизации своих сквозных производственных процессов и повышения эффективности. Она делает акцент на постоянном совершенствовании, что означает сокращение отходов и увеличение стоимости.

Именно это произойдет в сфере работы со знаниями. Это похоже на бережливое производство в сфере работы со знаниями, особенно в сфере работы со знаниями. И команда менеджеров, и люди, вовлеченные в работу со знаниями, должны работать над этой трансформацией, и это займет время.

Дваркеш Патель

Могу я задать небольшой вопрос об аналогии с бережливым производством? Одна из вещей, которую сделало бережливое производство, - это то, что оно изменило заводской цех на физическом уровне. Оно выявляет узкие места, о которых люди и не подозревали, пока не сосредоточились на процессах и рабочих процессах.

Вы только что вкратце упомянули о своем собственном рабочем процессе - о том, как он изменился благодаря ИИ. Мне интересно, каково это - управлять крупной компанией, когда у вас есть эти агенты ИИ, которые со временем становятся все умнее и умнее.

Сатья Наделла

Интересно, что вы спрашиваете. Например, я как раз сегодня думал о том, что если посмотреть на то, как мы сейчас работаем, то мы так сильно полагаемся на электронную почту. Я прихожу на работу утром и обнаруживаю, что мой почтовый ящик забит письмами, на которые мне нужно ответить. Не могу дождаться, когда смогу использовать агентов Copilot, чтобы они автоматически заполняли мои черновики писем, и я мог просто просмотреть и отправить их.

Но я уже использую в Copilot по меньшей мере десять агентов, задавая им разные запросы для разных задач. У меня такое чувство, что для миллионов агентов, с которыми я работаю, появится новый почтовый ящик, который будет присылать мне исключения, уведомления и запросы на инструкции.

Поэтому, по крайней мере, на мой взгляд, необходимо построить новые строительные леса - менеджер агентов. Это не просто интерфейс чата. Мне нужно было что-то более умное, чем чат-интерфейс, чтобы управлять всеми агентами и их разговорами.

Вот почему я считаю, что Copilot, как пользовательский интерфейс для ИИ, очень важен. Он будет у каждого из нас. В принципе, можно понять, что есть работа со знаниями и есть работники со знаниями. Работу со знаниями может выполнять множество агентов, но все равно нужен работник, который будет управлять всеми этими работниками. И именно такой интерфейс нам нужно создать.

0:30:19 - Прорывы в квантовых вычислениях

Дваркеш Патель

Вы один из немногих людей в мире, которые могут сказать: "У меня есть 200 000 ......, я окружен интеллектуальным кластером, состоящим из Microsoft и всех ее сотрудников". Вы должны управлять им и взаимодействовать с ним, чтобы извлечь из него максимальную пользу. Надеюсь, в будущем такой опыт появится у большего числа людей в мире.

Любопытно, если ваш почтовый ящик оказался таким, значит ли это, что утром все почтовые ящики будут похожи на ваш?

Прежде чем мы погрузимся в эту тему, я хотел бы подробнее расспросить вас об искусственном интеллекте, но на самом деле мне хотелось бы спросить вас о крупных прорывах, которые Microsoft Research совершила в области квантовых вычислений. Можете ли вы объяснить, что происходит на данный момент?

Сатья Наделла

Это еще 30 лет нашего долгого пути. Это невероятно. Я третий генеральный директор Microsoft, который с воодушевлением относится к квантовым вычислениям.

Мы всегда считали, что для создания квантовых компьютеров, которые можно использовать в практических масштабах, необходим прорыв в физике. Мы выбрали путь, на котором думали, что один из способов получить меньший шум или более надежные квантовые биты (кубиты) - это сделать ставку на физическое свойство, которое по своей сути является более надежным, и поэтому мы выбрали нулевые моды Майораны, которые были предложены в 1930-х годах. Вопрос в том, можем ли мы действительно создать эти вещи физически? Можем ли мы действительно их создать?

Так что настоящий прорыв заключается в том, что у нас наконец-то есть доказательство существования и прорыв в физике для нулевой моды Майораны, которая существует в новой форме материи. Поэтому нам нравится сравнивать это с транзисторным моментом в квантовых вычислениях, где у нас фактически есть новая форма, топологическая фаза, которая означает, что теперь мы можем даже надежно спрятать квантовую информацию, измерить ее и сделать ее. Теперь, когда у нас это есть, мы чувствуем, что с прорывом в основных, фундаментальных производственных технологиях мы можем начать создавать чип Майораны.

Мы называем его Majorana One, и я думаю, что это будет первый чип, способный вместить миллион квантовых битов (физических квантовых битов). А затем поверх этого - тысячи логических квантовых битов, чтобы обеспечить коррекцию ошибок. И тогда игра началась. Внезапно у вас появляется возможность создавать действительно практичные квантовые компьютеры, и мне кажется, что сейчас это становится гораздо более осуществимым. Без таких прорывов, как этот, вы все еще можете сделать некоторые вехи, но вы никогда не сможете построить компьютер практического масштаба. Вот что нас радует.

Дваркеш Патель

Потрясающе. Кстати, я полагаю, это оно, верно?

Сатья Наделла

Именно так, именно так.

Дваркеш Патель

Да.

Сатья Наделла

Я уже не помню. Мы называли его Майорана? - Да, верно. Да, именно так, Майорана-1. От его имени. Имя.

Невероятно представить, что мы можем создать квантовый компьютер с миллионом квантовых битов на таком маленьком чипе. И вот что важно: пока мы не сможем этого сделать, нельзя и мечтать о создании квантового компьютера практического масштаба.

Дваркеш Патель

Вы говорите, что в конечном итоге миллион квантовых битов будет интегрирован в чип такого размера? Это потрясающе.

Другие компании, такие как Google, IBM и другие, объявили о создании квантовых компьютеров со 100 физическими квантовыми битами. Когда вы говорите, что объявили о прорыве, вы также говорите, что ваша технология имеет преимущество в масштабе.

Сатья Наделла

Да. Еще одна вещь, которую мы сделали, - это программно-аппаратный подход. Мы создаем свой программный стек и сейчас работаем с экспертами по квантовым компьютерам на нейтральных атомах, экспертами по квантовым компьютерам на ионных ловушках, а также с другими людьми, у которых есть отличные подходы в таких областях, как фотоника, что означает, что будут существовать различные типы квантовых компьютеров. В самом деле, наш последний анонс касался 24 логических квантовых битов. Мы также совершили замечательный прорыв в области коррекции ошибок, что позволило нам создать системы с более чем 20 логическими квантовыми битами, даже на нейтральных атомах и квантовых компьютерах с ионными ячейками, и я думаю, что это будет продолжаться и в этом году; вы увидите, как мы будем расти, расти и расти в этой области.

Но мы также сказали: "Давайте вернемся к первым принципам и построим собственные квантовые компьютеры, сделав ставку на топологические кубиты". Именно в этом и заключается суть прорыва.

Дваркеш Патель

Это замечательно. Миллионы топологических квантовых битов, тысячи логических квантовых битов, каковы прогнозируемые сроки увеличения масштаба до таких значений? Если у вас есть первый транзистор, как здесь выглядит закон Мура?

Сатья Наделла

Очевидно, что мы пашем на этом поле уже 30 лет. Я рад, что сейчас мы совершаем прорывы в физике и технологии производства.

Я бы хотел, чтобы у нас уже были квантовые компьютеры, потому что, кстати, первое, что позволили бы нам сделать квантовые компьютеры, - это построить квантовые компьютеры, потому что было бы гораздо проще построить новые квантовые ворота, которые моделируют атомный уровень.

Но в любом случае, следующая реальная задача - теперь, когда у нас есть технология производства, давайте создадим первый отказоустойчивый квантовый компьютер. компьютер). Это было бы логичным следующим шагом.

Так что, думаю, теперь я могу сказать: "Может быть, в 2027, 2028, 2029 годах мы действительно сможем его построить". Теперь, когда у нас есть эти квантовые ворота, могу ли я поместить их в интегральные схемы, а затем поместить эти интегральные схемы в настоящий компьютер? Это следующий логический шаг.

Дваркеш Патель

Как вы думаете, что будет выглядеть в 2027 или 2028 году, когда вы успешно создадите квантовый компьютер? Будет ли он доступен через API? Или это будет что-то, что вы используете внутри компании для исследований материалов и химии?

Сатья Наделла

Это отличный вопрос. Одна из вещей, которая меня порадовала, - это то, что даже в современном мире ...... уже есть программы для квантовых вычислений, и мы добавили к ним несколько API. Прорыв, который мы совершили около двух лет назад, заключался в том, чтобы думать о стеках высокопроизводительных вычислений (HPC), стеках ИИ и квантовых вычислений вместе.

На самом деле, если вы задумаетесь, то поймете, что ИИ - это симулятор симуляторов. Квантовые вычисления - это как симулятор природы. Что будут делать квантовые вычисления? Кстати, квантовые вычисления не собираются заменять классические вычисления. Квантовые вычисления будут очень хороши в том, что они делают хорошо, а классические вычисления будут продолжать играть свою роль. ......

Квантовые вычисления хорошо подходят для задач, не требующих больших объемов данных, но требовательных к исследованию пространства состояний. Данные должны быть легкими, но вам нужно исследовать экспоненциальные уровни состояний. Хорошим примером этого являются симуляции: химическая физика, биология и так далее.

Одна из вещей, которую мы начали делать, - это использование ИИ в качестве движка для моделирования. Но его можно обучать. Как я понимаю, если объединить ИИ с квантовыми вычислениями, то можно использовать квантовые вычисления для создания синтетических данных, которые ИИ сможет использовать для обучения лучших моделей, чтобы понять, как моделировать химию, физику или другие дисциплины. Эти два метода будут использоваться синергетически.

Уже сегодня мы используем высокопроизводительные вычисления в сочетании с ИИ. Я бы хотел заменить некоторые компоненты высокопроизводительных вычислений квантовыми компьютерами.

Дваркеш Патель

Можете ли вы рассказать мне, как вы принимаете эти исследовательские решения? Действительно ли эти решения окупятся через 20-30 лет, особенно в компании такого размера, как Microsoft? Очевидно, что вы очень хорошо разбираетесь в технических деталях этого проекта. Возможно ли, чтобы вы так поступали со всем, что делает Microsoft Research?

Откуда вы знаете, что ставки, которые вы делаете сегодня, окупятся через 20 лет? Должен ли он просто органично развиваться в рамках организации, или как вы будете отслеживать все это?

Сатья Наделла

Одним из замечательных моментов, на мой взгляд, является то, что Билл Гейтс основал Microsoft Research (MSR) в 1995 году. Я думаю, что за долгую историю всех любопытных исследовательских организаций, которые создавали исследовательский институт только для того, чтобы заниматься фундаментальными исследованиями, MSR за многие годы создала это институциональное преимущество. Поэтому, когда я думаю о распределении капитала или бюджете, первое, что мы делаем, это закладываем деньги и говорим: "Это бюджет Microsoft Research". И мы делаем это каждый год, прекрасно понимая, что большинство этих ставок не окупятся в течение ограниченного периода времени. Может быть, шестой генеральный директор Microsoft извлечет из этого пользу. И в технологической индустрии я воспринимаю это как должное.

Я думаю, что действительно важно, чтобы по мере развития таких технологий, как квантовые вычисления или новые модели, вы смогли воспользоваться этой возможностью? Так что, оглядываясь на историю технологической индустрии, вы, как традиционный бизнес, понимаете, что проблема не в том, что люди не инвестируют, а в том, что вам нужна культура, которая знает, как масштабировать инновации.

Это настоящая проблема для генеральных директоров и управленческих команд, и она очень сложна. Она требует как здравого смысла, так и хорошей культуры. Иногда мы работаем хорошо, а иногда совершаем ошибки. Я могу сказать, что в Microsoft Research есть тысячи проектов, которые мы должны вести, но не ведем. Я всегда спрашиваю себя, почему. Это потому, что у нас нет уверенности в себе и нет системы мышления, чтобы понять, как не только превратить инновации в полезные продукты, но и найти жизнеспособные бизнес-модели и вывести их на рынок.

В этом и заключается работа генерального директора и команды менеджеров: не просто радоваться чему-то, но и быть способным на деле реализовать полный план. Легче сказать, чем сделать.

Дваркеш Патель

Если вспомнить трех последних руководителей Microsoft, то если бы каждый из них увеличил рыночную капитализацию на порядок, то к моменту вашего следующего прорыва рыночная капитализация Microsoft могла бы быть эквивалентна всей мировой экономике.

Сатья Наделла

Или помните, что мировая экономика будет расти со скоростью 10%, так что все будет хорошо.

0:42:51 - Как Muse меняет игровую индустрию

Дваркеш Патель

Давайте окунемся в еще один важный прорыв, который вы только что совершили. Удивительно, но в один и тот же день вы выпустили два крупных достижения, и это ваша модель игрового мира. Я бы с удовольствием послушал вас об этом.

Сатья Наделла

Мы назвали его Muse. Это будет модель поведения мира или модель поведения человека.

Это очень круто. Мы все знаем, что Далл-И и Сора То, что было достигнуто в плане создания моделей, просто невероятно. Одно из направлений, которое мы хотим исследовать, - это использование игровых данных. Можете ли вы создавать игры, которые одновременно последовательны и разнообразны? И можете ли вы поддерживать пользовательские модификации?

Именно такую цель преследует Muse. Исследователи из Microsoft Research сотрудничали с одной из наших игровых студий, чтобы достичь этого результата, который является предметом другой работы, опубликованной в журнале Nature.

Меня радует то, что очень скоро мы запустим серию игр и начнем использовать эти модели или обучим эти модели генерировать игры, а затем начнем в них играть.

На самом деле, когда Фил Спенсер (генеральный директор Microsoft Games) впервые показал мне Muse, он держал в руках контроллер Xbox - модель, которая, по сути, принимает входные данные от контроллера и генерирует выходные данные на основе этих данных. И вывод соответствовал содержанию игры. Для меня это был момент "вау". Это было похоже на то, как мы впервые увидели ChatGPT Заканчивайте предложения, рисуйте Dall-E или создавайте видеоролики Sora. Это важный момент.

Дваркеш Патель

Сегодня утром у меня была возможность посмотреть демонстрационное видео вживую с вашим ведущим исследователем Катей. Только после разговора с ней я понял, насколько это невероятно. Если раньше мы использовали ИИ для моделирования агента, то теперь мы можем генерировать целостный игровой мир в реальном времени, просто используя ту же технологию для моделирования мира вокруг агента - мы будем накладывать демонстрационное видео на подкаст, чтобы у всех была возможность увидеть это своими глазами. Думаю, к тому времени видео уже будет выложено, и вы сможете посмотреть его там же.

Это само по себе невероятно. За время вашего пребывания на посту генерального директора вы вложили десятки миллиардов долларов в развитие игрового бизнеса Microsoft и приобретение IP (интеллектуальной собственности).

Оглядываясь назад, можно сказать, что если вы сможете объединить все эти данные в одну большую модель, которая обеспечит вам доступ к нескольким мирам одновременно, и если игровая индустрия движется именно в этом направлении, то это покажется вам очень мудрым вложением средств. Есть ли у вас какие-то предчувствия на этот счет?

Сатья Наделла

Я бы не сказал, что мы инвестируем в игры, чтобы строить модели. Мы инвестируем в игры, честно говоря, потому что - вот интересный момент нашей истории: мы разработали свою первую игру до того, как создали Windows. Microsoft Flight Simulator был продуктом Microsoft задолго до создания Windows.

Игры имеют долгую историю в Microsoft, и мы хотели заняться играми ради них самих. Я всегда говорил, что не люблю заниматься бизнесом, который является "средством достижения цели". Они должны быть самоцелью.

И потом, да, мы не конгломерат. Мы - компания, и мы должны объединить все эти активы и стать лучшим владельцем, добавив им ценность. Например, облачные игры - это естественная инвестиция для нас, потому что они расширят емкость рынка (TAM) и позволят людям играть в игры в любое время и в любом месте.

То же самое касается ИИ и игр: мы твердо верим, что он может изменить игровую индустрию - это что-то вроде момента CGI (computer-generated imagery) в игровой индустрии. Это замечательно. Как крупнейшему в мире издателю игр, нам это поможет. Но в то же время мы должны делать качественные игры. Я имею в виду, что нельзя быть издателем игр, если не сосредоточиться на этом в первую очередь.

Но то, что эти данные будут очень интересны не только в игровом пространстве, но и станут универсальной моделью поведения и моделью мира, - это фантастика. Я имею в виду, что игровые данные могут стать для Microsoft тем же, чем YouTube является для Google. Так что я очень рад этому.

Дваркеш Патель

Да, именно это я и имел в виду, в том смысле, что вы сможете получить единый опыт в разных типах игр. Как это соотносится с другими работами, которые Microsoft проводила в прошлом за пределами ИИ (например, смешанная реальность)? Может быть, это даст небольшим игровым студиям возможность создавать AAA-экшены? Заглядывая на пять-десять лет в будущее, какие сценарии применения вы можете себе представить?

Сатья Наделла

Пять, шесть, семь лет назад я считал эти три вещи краеугольными камнями. Тогда я сказал, что три большие ставки, которые мы хотим сделать, - это ИИ, квантовые вычисления и смешанная реальность. Я до сих пор верю в них, потому что, в некотором смысле, какие большие вопросы нам нужно решить?

Присутствие. Это мечта о смешанной реальности. Можете ли вы создать реальное ощущение присутствия? Так же, как мы с вами делаем это прямо сейчас с помощью подкаста.

Честно говоря, я считаю, что эта задача остается одной из самых сложных. Я думал, что ее будет легче решить. Но это сложнее, вероятно, из-за социального аспекта: ношение устройства и так далее.

Мы рады предстоящему проекту с компанией Anduril и Палмером Лаки, который будет развивать программу IVAS (Integrated Visual Augmentation System), поскольку это отличный вариант использования. Мы будем продолжать работать над этим.

Но двухмерный интерфейс по-прежнему важен. Оказалось, что такие инструменты, как Teams, благодаря эпидемии действительно обрели способность создавать ощущение присутствия через 2D-интерфейс. Я думаю, это будет развиваться и дальше. Это долгосрочная тенденция.

Мы уже обсуждали квантовые вычисления, а ИИ - еще одна ключевая область. Итак, я рассматриваю эти три области и думаю о том, как мы можем объединить их? В конечном итоге речь идет не о технологиях ради технологий, а об удовлетворении некоторых базовых потребностей, которые необходимы нам как людям в нашей жизни, и, что более важно, они нужны нам в нашей экономике, чтобы быть более продуктивными. Если нам удастся это сделать, то я думаю, что мы действительно достигли прогресса.

Дваркеш Патель

Когда вы будете писать свою следующую книгу, вам придется объяснить, почему эти три области объединились почти одновременно, верно? Например, вы можете подумать, что квантовые вычисления и ИИ должны совершить прорыв в 2028 и 2025 годах соответственно, но это не кажется необходимым.

Сатья Наделла

Именно так. В каком-то смысле я понимаю так: существует ли системный прорыв? Для меня квантовые вычисления - это системный прорыв.

Есть ли прорыв в бизнес-логике? Для меня ИИ - это прорыв в бизнес-логике, т. е. может ли логический слой рассуждать принципиально иначе? Можете ли вы заменить командный код обучающейся системой? Именно в этом и заключается суть ИИ.

В пользовательском интерфейсе ключевым моментом является ощущение присутствия.

0:49:51 - Юридические барьеры на пути ИИ

Дваркеш Патель

Давайте вернемся к искусственному интеллекту. В вашем Публикации 2017 года...... 2019 Вы инвестировали в OpenAI, очень рано, в 2017 году или даже раньше, и вы пишете в своей книге: "Можно также сказать, что мы рождаем новый вид, тот, чей интеллект, возможно, не имеет верхнего предела".

Конечно, в 2017 году об этом говорить еще рано. Мы уже много говорили о прокси, Office Copilot, капитальных затратах и так далее. Но если взглянуть на сказанное более макроскопически и рассмотреть вашу роль как поставщика гипермасштабного облака, как исследователя моделирования и как человека, обеспечивающего обучение, вывод и исследовательскую поддержку при создании новых видов, как вы видите все это вместе?

Считаете ли вы, что за время вашего пребывания на посту генерального директора мы продвинемся к сверхчеловеческому интеллекту?

Сатья Наделла

Я думаю, что даже Мустафа (вероятно, имеется в виду Мустафа Сулейман, глава Inflection AI (CEO) также использует термин "новые виды". В последнее время он использует его все чаще.

Я понимаю, что вам абсолютно необходимо доверие. Прежде чем утверждать, что оно так же важно, как "вид", нужно сначала убедиться, что мы построили настоящее доверие, будь то на индивидуальном или социальном уровне, и интегрировать его. В этом и заключается настоящая дилемма.

Я думаю, что самым большим фактором, ограничивающим мощь ИИ, будет то, как наша правовая ...... инфраструктура будет развиваться, чтобы справиться с ИИ. Наш нынешний мировой порядок построен на том, что люди владеют собственностью, имеют права и несут ответственность. В первую очередь нам нужно подумать о том, что это означает для инструментов, которые используют люди. Если люди будут передавать все больше полномочий этим инструментам, как будет развиваться эта структура? Пока эти вопросы не будут решены, я не думаю, что имеет смысл говорить только о технологических возможностях.

Дваркеш Патель

Вы хотите сказать, что мы не сможем развернуть эти интеллекты, пока не придумаем, как сделать ......?

Сатья Наделла

Именно так. Потому что в конечном счете нет способа обойти юридические проблемы. Сегодня вы не можете развернуть эти интеллекты, если кто-то не гарантирует их во имя человечества.

И, как вы говорите, именно поэтому я считаю, что даже самый мощный ИИ, по сути, работает в рамках делегированных человеком полномочий. Вы можете сказать: о, это выравнивание и все остальные проблемы. Вот почему я считаю, что вы должны заставить эти задания по выравниванию работать и как-то их проверять, но я просто не думаю, что вы можете развернуть интеллект, который не поддается контролю. Например, проблема взлета ИИ может стать реальной проблемой, но прежде чем она станет реальной проблемой, она будет рассмотрена в суде. Ни одно общество не позволит кому-то сказать: "Вот что делает ИИ".

Дваркеш Патель

ДА. В мире много обществ, и мне интересно, есть ли среди них те, в которых правовая система более мягкая. Если вы не можете остановить взлеты, тогда вы можете беспокоиться. Взлет не обязательно должен происходить в Соединенных Штатах, не так ли?

Сатья Наделла

Мы не думаем, что есть общество, которому все равно, верно? Могут быть недобросовестные субъекты, я не говорю, что их не будет; есть киберпреступники и государства-изгои, они всегда были рядом.

Но также нереально думать, что человеческое общество в целом не заботится об этом. Думаю, всем нам не все равно. Сегодня мы знаем, как бороться с государствами-изгоями и акторами-изгоями. Мир не собирается стоять в стороне и говорить: "Мы можем это терпеть". Вот почему я рад, что у нас есть мировой порядок, в котором есть последствия для любого актора-изгоя или государства-изгоя.

Дваркеш Патель

Это верно. Но если вы представляете себе сценарий, в котором мировая экономика вырастет на 10%, я думаю, что это действительно зависит от достижения AGI, потому что стоимость триллионов долларов, что звучит ближе к сумме человеческих зарплат, составляет около 60% экономики. Чтобы достичь таких масштабов, вам нужно автоматизировать труд или помощь в труде очень значительным образом.

Если это возможно, и если мы разберемся с юридическими вопросами, то, скорее всего, мы разберемся с ними еще во время вашего срока. Вы думаете о сверхчеловеческом интеллекте? Является ли это, например, самым важным достижением в вашей карьере?

Сатья Наделла

Вы затронули еще один вопрос. Я знаю, что об этом много говорилось, Дэвид Аутор и другие, о 60% труде ...... Я думаю, что это еще один вопрос, который необходимо решить, по крайней мере, в наших демократических странах. Я думаю, что для того, чтобы иметь стабильную социальную структуру и функционирующую демократию, нельзя иметь только прибыль на капитал и не иметь прибыли на труд. Мы можем говорить об этом, но этот труд 60% должен быть переоценен.

По моему собственному разумению, которое, возможно, можно назвать наивностью, мы начнем ценить различные виды человеческого труда. Человеческий труд, который сегодня считается очень ценным, может стать товаром. Возможно, появятся новые вещи, которые мы будем ценить.

Это касается и людей, которые приходят помочь мне с физиотерапией или чем-то еще, что мы будем ценить, но в конце концов, если мы не получаем отдачи от своего труда и если в нашей работе нет смысла и достоинства, то это будет еще одним сдерживающим фактором для внедрения любых из этих технологий.

0:55:46 - Правильное обеспечение безопасности AGI

Дваркеш Патель

Что касается выравнивания, то два года назад вы выпустили "Сидней Бинг". Если говорить начистоту, то я считаю его очаровательным, милым и несколько комичным примером несогласованности, учитывая состояние искусства на тот момент.

Но это потому, что это был век чат-ботов. Они могли подумать 30 секунд и дать вам какой-нибудь смешной или неуместный ответ. Но если вы подумаете о такой системе - я думаю, о репортере из New York Times, который пытался заставить его уйти от жены, - если вы подумаете о будущем, где у вас есть агенты, которые могут работать часами, неделями и месяцами подряд, как автономные кластеры AGI, и они могут быть несогласованными и портить все одинаковыми способами, возможно, даже координируясь друг с другом, каковы ваши планы на будущее? Чтобы, когда у вас будет действительно сильный AGI, вы могли убедиться, что он безопасен?

Сатья Наделла

Вы правы. Это одна из причин, почему, выделяя вычислительные ресурсы, мы обычно выделяем их для задач выравнивания.

Что еще более важно, какую среду выполнения вы собираетесь использовать для мониторинга этих вещей? Какова наблюдаемость вокруг этого? Сегодня мы имеем дело со многими похожими проблемами в классических вычислениях, такими как кибербезопасность. Мы не просто пишем программное обеспечение и оставляем его в покое. Вы владеете программным обеспечением и следите за ним. Вы отслеживаете его на предмет кибератак, инъекций и так далее.

Поэтому я думаю, что нам придется создать достаточное количество программной инженерии вокруг аспектов развертывания этих технологий и затем, в рамках модели, добиться согласованности. Некоторые из этих вопросов действительно научные, а некоторые - инженерные, и нам придется решать их по очереди.

Это также означает, что мы должны взять на себя ответственность за все эти области. Поэтому я предпочитаю внедрять эти технологии в тех областях, где можно реально контролировать их масштабы. Вы не можете выпустить в мир что-то, что причинит вред, потому что общество этого не допустит.

Дваркеш Патель

Когда у вас есть агент, который может реально выполнять за вас работу неделями, какие минимальные гарантии вы хотите получить, прежде чем позволить ему работать на компанию из списка Fortune 500?

Сатья Наделла

Я думаю, когда я использую такой инструмент, как Deep Research, даже сейчас, минимальная гарантия, которую мы хотим получить, заключается в том, что до того, как у нас появятся физические сущности, и я думаю, что это порог, когда вы пересекаете этот порог, все может измениться. Это может быть ключевым моментом.

Еще одним ключевым моментом являются, например, разрешения среды выполнения, в которой работает агент. Вам может понадобиться убедиться, что он находится в "песочнице" и не выходит за ее пределы.

Дваркеш Патель

У нас уже есть веб-поиск, и он находится за пределами песочницы.

Сатья Наделла

Но даже то, что он делает с помощью веб-поиска и что он пишет - например, как вы сказали, если он просто пишет кучу кода для выполнения некоторых вычислений, где этот код размещается? Является ли этот код временным и используется только для создания результатов, или же он попадает в мир?

Это вещи, которые вы можете реально контролировать в пространстве действий.

Дваркеш Патель

Помимо вопроса безопасности, если подумать о вашем собственном наборе продуктов и принять во внимание, что если у вас действительно есть такой мощный ИИ, то в какой-то момент он становится больше, чем просто Copilot - вы упомянули пример того, как вы готовитесь к этому подкасту. -это больше похоже на то, как вы делегируете работу своим коллегам.

Учитывая ваш текущий набор продуктов, как бы выглядело добавление этой возможности? Я имею в виду, что существует вопрос о том, не будет ли LLM продаваться на другие товары.

Интересно, если LLM является для вас основной точкой доступа ко всем этим вещам, этим базам данных, холстам, листам Excel и так далее - может ли LLM коммерциализировать Office?

Сатья Наделла

Это интересный вопрос. Насколько я понимаю, по крайней мере на первом этапе, LLM поможет мне более эффективно использовать все эти инструменты или полотна для выполнения интеллектуальной работы?

Одна из лучших демонстраций, которую я видел, - это подготовка врача к рабочему процессу в Опухолевом совете. Она собирается на заседание опухолевого совета, и первое, что она делает с помощью Copilot, - это создает повестку дня заседания, потому что LLM помогает ей проанализировать все дела, которые хранятся где-то на сайте SharePoint. Она скажет: "Эй, эти дела - очевидно, что заседание совета по опухолям - это встреча с высокими ставками, и вам нужно знать о различиях между делами, чтобы грамотно распределить свое время".

Даже для такой разумной задачи, как создание повестки дня, здорово, что она умеет распределять время. Поэтому я использую LLM для этой задачи. Затем я посещаю встречи и общаюсь со всеми коллегами в групповых звонках. Я сосредотачиваюсь на деле, а не делаю заметки, потому что теперь AI Copilot выполняет полную транскрипцию. Это не просто расшифровка, это запись в базе данных о содержании встречи, которую можно сохранить и получить доступ к ней в любое время.

Затем она выходит из конференц-зала, обсудив случай и не отвлекаясь на ведение записей. Она - врач-преподаватель; она хочет пойти и подготовиться к своему курсу. Она заходит в Copilot и говорит: "Сделайте слайды PowerPoint о том, что я делала на заседании онкологического комитета, чтобы я могла объяснить это своим студентам".

Это сценарий, о котором я говорю. Пользовательский интерфейс и строительные леса, которые у меня есть, - это холст, который теперь заполняется контентом с помощью LLM. И сам рабочий процесс изобретается заново; выполняется работа со знаниями.

Вот интересный феномен: если бы в конце 80-х мне сказали: "У вас на столе будут лежать миллионы документов". Я бы ответил: "Что, черт возьми, это значит?" Я бы действительно подумал, что мой стол будет завален миллионами бумажных документов. Но на самом деле у нас миллионы электронных таблиц и миллионы электронных документов.

Дваркеш Патель

Не я, а ты.

Сатья Наделла

Они все там. То же самое произойдет и с прокси. Появится слой пользовательского интерфейса. Для меня Office - это не просто Office сегодня; это слой пользовательского интерфейса для работы со знаниями. Он будет развиваться по мере развития рабочего процесса. Это то, что мы хотим создать.

Я думаю, что существующие сегодня приложения SaaS (Software as a Service), эти CRUD-приложения (Create, Read, Update, and Delete), в корне изменятся, поскольку бизнес-логика переместится на агентский уровень. На самом деле, еще одна классная функция в моем сегодняшнем опыте работы с Copilot заключается в том, что когда я говорю: "Эй, я готовлюсь к встрече с клиентом", все, что мне нужно сделать, это сказать: "Дайте мне все заметки о встрече, которые я должен знать". Он возьмет информацию из моей базы данных CRM, возьмет информацию из моего Microsoft Graph, создаст составной рабочий продукт, а затем даже применит к нему логику. Я думаю, это произведет революцию в SaaS-приложениях, какими мы их знаем сегодня".

Дваркеш Патель

SaaS как отрасль может стоить сотни миллиардов или даже триллионы долларов в год, в зависимости от того, как считать. Если ИИ действительно сможет перевернуть индустрию SaaS с ног на голову, возможно ли, что в следующем десятилетии вы, ребята, снова увеличите рыночную стоимость Microsoft в 10 раз? Ведь речь идет о триллионах долларов .......

Сатья Наделла

Это также создаст огромную ценность в пространстве SaaS. Одна из вещей, на которую мы, возможно, не обращаем достаточного внимания, - это огромное отставание в сфере ИТ, которое существует в мире.

Эти инструменты генерации кода в сочетании с возможностью использовать агентов для опроса всех ваших SaaS-приложений и получения от них большей пользы приведут к сильнейшему взрыву приложений, которые будут называться агентами, и внезапно мы получим доступ к услугам в каждой вертикали, в каждой отрасли, в каждой категории.

Так что здесь есть огромная ценность. Вы не можете стоять на месте. Нельзя довольствоваться старой моделью "я схематизировал какой-то узкий бизнес-процесс, у меня есть пользовательский интерфейс в браузере, и это мой продукт". Так больше не будет. Вы должны двигаться выше и думать: "В каких задачах я должен участвовать?"

Вы захотите превратить свое SaaS-приложение в отличного агента, который может участвовать в многоагентном мире. Если вы сможете это сделать, я думаю, вы сможете даже увеличить ценность.

1:04:59 - 34 года в Microsoft

Дваркеш Патель

Могу ли я задать вам несколько вопросов о вашем опыте работы в Microsoft?

Сатья Наделла

Конечно.

Дваркеш Патель

Недооценивают ли вас как "человека компании"? Вы провели большую часть своей карьеры в Microsoft, и, возможно, одна из причин, по которой вы смогли принести столько пользы компании, заключается в том, что вы на собственном опыте познали ее культуру, историю и технологическое развитие. Вы накопили все эти знания, продвигаясь по службе в компании. Должно ли больше людей с такими знаниями руководить компанией?

Сатья Наделла

Хороший вопрос. Я не думал об этом раньше.

Каждый год из 34 лет работы в Microsoft приносил мне больше радости, чем мысли: "О, я просто сотрудник компании" или что-то в этом роде. Я серьезно отношусь к статусу "человек компании", даже для тех, кто приходит в Microsoft. Они присоединяются к Microsoft до тех пор, пока считают, что могут использовать Microsoft в качестве платформы для реализации своих финансовых выгод, а также своих целей и смысла. Таков договор между нами.

Поэтому я считаю, что да, компании должны создавать культуру, в которой люди могут влиться в коллектив и стать такими же "людьми компании", как я. По крайней мере, в моем случае Microsoft проделала довольно хорошую работу в этом направлении, и я надеюсь, что так будет и дальше.

Дваркеш Патель

Вы говорите о шестом генеральном директоре, у которого будет возможность воспользоваться результатами исследований, которые вы начинаете сейчас. Что вы делаете для удержания будущих Сатьи Наделлы, чтобы они могли стать будущими лидерами?

Сатья Наделла

Это интересно. Я много думал о 50-летнем юбилее Microsoft в этом году. Думаю, главное в этом вопросе то, что долголетие - это не цель, а актуальность.

Каждый день я и все 200 000 сотрудников Microsoft должны решать следующую задачу: полезно ли то, что мы делаем, и соответствует ли это тем тенденциям, которые мы наблюдаем в мире не только сегодня, но и завтра?

Мы работаем в отрасли, где нет стоимости франшизы, и это еще одна проблема. Если взять наш бюджет на исследования и разработки на этот год, то можно только гадать, что будет через пять лет. Вы должны принять такое отношение и сказать себе: "Мы делаем то, что, по нашему мнению, будет актуально".

Поэтому вам нужно сосредоточиться на этом. Кроме того, вы должны понимать, что существует проблема среднего коэффициента, и вы не можете добиваться успеха каждый раз - у вас должна быть высокая терпимость к неудачам. Вы должны сделать достаточно попыток, чтобы иметь возможность сказать себе: "Хорошо, мы собираемся пройти через это успешно как компания". Вот что делает эту индустрию такой сложной.

Дваркеш Патель

Кстати, вы уже упоминали, что через два месяца Microsoft исполняется 50 лет. Если вы посмотрите на 10 или 5 крупнейших компаний по рыночной капитализации, то практически все они, кроме Microsoft, моложе Microsoft. Это интересное наблюдение, почему самые успешные компании, как правило, молоды. Средняя продолжительность жизни компании из списка Fortune 500 составляет всего 10-15 лет.

Что сделала Microsoft, чтобы оставаться актуальной на протяжении многих лет? Как вы продолжаете изобретать себя?

Сатья Наделла

Мне нравится, что Рид Хоффман использует термин "рефундирование". Это образ мышления. Люди говорят о режиме основателя, но для нас, смертных генеральных директоров, это больше похоже на режим рефаундинга.

Умение видеть вещи в новом свете - ключевой момент. На ваш вопрос: можем ли мы в культурном плане создать такую среду, в которой переосмысление себя станет привычкой? Каждый день мы идем на работу и говорим себе: "У нас есть акции, которые могут изменить основные представления о том, что мы делаем и как мы относимся к окружающему миру. Позволяем ли мы себе это?" Я думаю, что во многих случаях компании могут чувствовать себя слишком связанными своей бизнес-моделью или другими факторами. Вам просто нужно освободиться от оков.

Дваркеш Патель

Какую компанию вы бы основали, если бы ушли из Microsoft?

Сатья Наделланарисовать

Компания, которую я собираюсь открыть? О, Боже мой. Это "человек компании" во мне думает: "Я никогда не уйду из Microsoft".

Если бы я собирался что-то делать, то, думаю, выбрал бы кого-нибудь с ...... Когда я смотрю на мечту о технологиях, мы всегда говорим, что технологии - это самая большая и великая демократизирующая сила.

Я чувствую, что у нас наконец-то появилась такая возможность. Если вы говорите о количестве токенов на доллар на ватт, которого мы сможем достичь, то я хотел бы найти области, где это можно применить, области, которые сильно недообслуживаются.

Здравоохранение, образование ......, государственный сектор - тоже вариант. Если вы выберете эти недостаточно обслуживаемые области, где я, гражданин этой страны, член этого общества или гражданин любого другого места, смогу ли я жить лучше, если весь этот богатый интеллект будет воплощен в лучшем здравоохранении, лучшем образовании и лучших организациях государственного сектора, которые будут обслуживать меня? Это была бы область, которую стоит изучить.

1:10:46 - Верит ли Сатья Наделла в AGI?

Дваркеш Патель

Слушая ваши ответы на разные вопросы, я не уверен, что вы считаете AGI реальным. Появится ли когда-нибудь что-то, что сможет автоматизировать весь когнитивный труд, как это может сделать любой человек на компьютере?

Сатья Наделла

Именно здесь я путаюсь с людьми, говорящими об определении AGI. Когнитивный труд не статичен. Когнитивный труд существует сегодня. Если у меня есть почтовый ящик для управления всеми моими агентами, разве это новый вид когнитивного труда?

Сегодня когнитивный труд может быть автоматизирован. Но что делать с вновь созданным когнитивным трудом? Необходимо учитывать и то, и другое, и это - сдвиг .......

Именно поэтому я делаю различие, по крайней мере, в моем понимании, чтобы не путать работников знаний и работу со знаниями. Сегодня работа со знаниями может быть автоматизирована. Кто сказал, что моя цель в жизни - сортировать электронную почту? Пусть агент искусственного интеллекта сортирует мою почту.

Но после сортировки писем дайте мне когнитивную задачу более высокого уровня, например "Эй, вот три черновика, которые я очень хочу, чтобы вы просмотрели". Это другой уровень абстракции.

Дваркеш Патель

Но достигнет ли когда-нибудь ИИ второго уровня?

Сатья Наделла

Возможно, но когда он достигнет второго уровня, появится третий. Почему мы думаем, что беспокоимся о том, что весь когнитивный труд исчезнет, когда мы имеем дело с инструментами, которые исторически изменили определение когнитивного труда?

Дваркеш Патель

Уверен, вы уже слышали примеры, например, что лошади все еще могут быть полезны в некоторых областях и что есть местности, по которым не могут проехать автомобили. Но вопрос в том, видите ли вы лошадей на улицах? Будут ли задействованы миллионы лошадей? Этого не произойдет.

Вопрос в том, может ли нечто подобное произойти с людьми?

Сатья Наделла

Но только ли в очень узком измерении? Люди уже 200 лет ценят только то, что мы понимаем как некий узкий "когнитивный труд".

Возьмем в качестве примера химию. Если квантовые вычисления + ИИ действительно помогут нам провести множество новых исследований в области материаловедения и так далее, то наличие ИИ для проведения новых исследований в области материаловедения - это здорово. Но разве это отменяет все остальные вещи, которые могут делать люди?

Почему мы не можем жить в мире, где у нас есть мощная когнитивная машина, и знать, что мы не лишены когнитивного агентства?

Дваркеш Патель

Я задам вопрос, который относится не к вам, а скорее к другому сценарию, чтобы вы могли ответить без страха. Если представить себе заседание совета директоров Microsoft, подумали бы вы о том, чтобы добавить в совет члена с искусственным интеллектом? Достаточно ли у него будет суждений, знаний и общего понимания, чтобы стать полезным советником?

Сатья Наделла

Это хороший пример. Одна из функций, которую мы добавили, - это агент-фасилитатор в Teams. Цель состоит в том, чтобы, хотя это все еще находится на ранних стадиях, этот агент-фасилитатор мог быть хорошим фасилитатором, используя долгосрочную память не только о контексте встречи, но и о контексте проекта, над которым я работаю, о команде и так далее?

Я бы даже хотел, чтобы на заседаниях совета директоров, где легко отвлечься, были такие ведущие агенты. В конце концов, члены совета директоров приходят только раз в квартал и пытаются понять, что происходит в такой сложной компании, как Microsoft. Ведущий агент, который поможет всем членам совета сосредоточиться и сконцентрироваться на важных вопросах, - это просто фантастика.

Это то же самое, что, как вы сказали в предыдущем вопросе, иметь что-то, обладающее бесконечной памятью, что может даже помочь нам. Знаете, какая теория была у Герберта Саймона? Мы все ограничены рациональностью. Так что было бы здорово, если бы человеческая ограниченная рациональность могла быть решена с помощью внешнего когнитивного усилителя.

Дваркеш Патель

Говоря об области материалов и химии, вы, кажется, недавно сказали. Вы хотите, чтобы прогресс следующих 250 лет был реализован в течение следующих 25 лет.Теперь, когда я представляю, что может произойти в ближайшие 250 лет, я думаю о космических путешествиях, космических лифтах, бессмертии и лекарстве от всех болезней. Теперь, когда я представляю, что может произойти в ближайшие 250 лет, я думаю о космических путешествиях, космических лифтах, бессмертии и лекарствах от всех болезней. А что вы думаете о следующих 25 годах?

Сатья Наделла

Я задаю этот вопрос, потому что мне нравится идея о том, что промышленная революция длилась 250 лет. Нам пришлось пройти через весь процесс трансформации от системы, основанной на углероде, к чему-то другому.

Это значит, что вам придется радикально пересмотреть все, что произошло в химии за последние 250 лет. Вот почему я хочу, чтобы у нас были квантовые компьютеры, которые помогут нам получить новые материалы, из которых потом можно будет создавать новые материалы для решения всех проблем, с которыми мы сталкиваемся здесь, на Земле. И потом, я за межзвездные путешествия.

Дваркеш Патель

Фантастика. Сатья, большое спасибо за то, что нашли время для этого интервью.

Сатья Наделла

Большое спасибо. Это интервью было замечательным. Спасибо.

Дваркеш Патель

Хорошо, спасибо.