Em uma recente entrevista de podcast com Dwarkesh Patel, o CEO da Microsoft, Satya Nadella, discutiu as mais recentes descobertas da Microsoft em Inteligência Artificial (IA) e Computação Quântica, bem como suas percepções sobre o futuro do setor. Na entrevista, Nadella não apenas compartilhou os avanços significativos da Microsoft em bits quânticos topológicos e modelagem do mundo dos jogos, mas também enfatizou que a meta de impulsionar o crescimento econômico global é muito mais importante do que alcançar a Inteligência Artificial Geral (AGI).
carimbo de data/hora
- (0:00:00) - Introdução
- (0:05:04) - A IA não será uma escolha de todos os vencedores.
- (0:15:18) - Crescimento econômico mundial 10%
- (0:21:39) - A redução dos preços inteligentes
- (0:30:19) - Avanços na computação quântica
- (0:42:51) - Como o Muse mudou o setor de jogos
- (0:49:51) - Barreiras legais à IA
- (0:55:46) - Um entendimento adequado da segurança da AGI
- (1:04:59) - 34 anos na Microsoft
- (1:10:46) - Satya Nadella acredita em AGI?
transcrição de uma entrevista
0:00:00 - Introdução de abertura
Dwarkesh Patel
Satya, muito obrigado por participar do podcast. Daqui a pouco, vamos nos aprofundar em duas grandes descobertas que a Microsoft fez recentemente, e parabéns, que foram publicadas na revista Nature no mesmo dia: o chip Majorana Zero, que temos diante de nós agora, e o Modelo mundial de comportamento humano. No entanto, podemos primeiro continuar o diálogo que acabamos de ter? Você mencionou que alguns dos fenômenos que vimos nas décadas de 1980 e 1990 ressurgiram hoje.
Satya Nadella
O mais empolgante para mim é ...... Dwarkesh, antes de mais nada, é uma grande honra participar do seu podcast. Sou um grande ouvinte e gosto muito do seu estilo de entrevista e da ampla variedade de tópicos que você explora.
O que é empolgante para mim é que estou vendo algo que me faz lembrar dos meus primeiros anos no setor de tecnologia, provavelmente nos anos 90, quando havia muito debate sobre se o RISC (Reduced Instruction Set Computer) ou o CISC (Complex Instruction Set Computer) era melhor ou pior e a pergunta: "Podemos realmente criar servidores na arquitetura x86? e "Podemos realmente construir servidores na arquitetura x86?
Quando entrei na Microsoft, eu estava nos primórdios do Windows NT. Cada aspecto da pilha de tecnologia, desde a plataforma de silício central até o sistema operacional e a camada de aplicativos, estava repleto de variáveis.
É justo dizer que a computação em nuvem reformulou tudo isso até certo ponto, e a computação distribuída e a computação em nuvem certamente mudaram o modelo cliente-servidor, e a Web mudou radicalmente. Mas essa onda parece mais disruptiva em toda a pilha do que qualquer coisa que eu tenha experimentado no passado.
Dwarkesh Patel
Quando você olha para os anos 80 e 90, quais decisões acabaram sendo vencedoras no longo prazo e quais foram deixadas de lado? Especialmente considerando que você trabalhou para a Sun Microsystems, que viveu a bolha da Internet nos anos 90. Costuma-se dizer que a construção de data centers foi uma bolha, mas, ao mesmo tempo, a Internet atual foi construída com base na infraestrutura daquela época.
Quais são as lições que podemos aprender sobre o que resistirá ao teste do tempo, quais são as tendências inerentes de longo prazo e quais são os flashes na panela? Que lições podemos aprender com eles?
Satya Nadella
Se analisarmos as quatro principais transições pelas quais passei, a primeira foi o surgimento do cliente e do modelo cliente-servidor. Essa foi a era das interfaces gráficas de usuário e da arquitetura x86, que basicamente nos permitiu criar servidores.
A tendência já estava muito clara para mim. Lembro-me de participar da PDC (Professional Developers Conference) de 1991 e, na verdade, eu ainda estava trabalhando na Sun na época. No Moscone Centre, em 1991, a Microsoft tornou pública a interface Win32 pela primeira vez, e ficou claro para mim o que iria acontecer, que os servidores também estavam indo para a arquitetura x86. É preciso apostar nessa tendência de longo prazo quando a vantagem de escala começar a se acumular. O que aconteceu no lado do cliente acontecerá no lado do servidor, e então você poderá realmente criar aplicativos cliente-servidor. Como resultado, o modelo de aplicativo se torna claro.
Então, a Web se tornou um grande desafio para nós, e tivemos que lidar com ela. Na verdade, não foi muito depois de eu entrar na Microsoft que o navegador Netscape ou o navegador Mosaic foram lançados, provavelmente em novembro ou dezembro de 1993, e Andreessen e sua equipe os lançaram.
Essa é uma grande mudança. É interessante que a onda da Web surgiu justamente quando estávamos começando a onda Cliente-Servidor. Mas estava claro que também venceríamos a onda Cliente-Servidor. Tivemos que nos ajustar à onda da Web e fizemos um ótimo trabalho, porque o navegador é um modelo de aplicativo totalmente novo.
Nós a adotamos de todo o coração, seja oferecendo suporte a HTML no Word, criando nós mesmos novos navegadores e competindo, ou criando servidores Web em nossa pilha de servidores e expandindo agressivamente o mercado. É claro que perdemos o maior modelo de negócios da Web porque todos nós pensávamos que o núcleo da Web era distribuído, e quem poderia imaginar que a pesquisa seria a maior vencedora na organização do conteúdo da Web? Obviamente, não prevíamos isso, e o Google o fez e o executou de forma brilhante.
Essa é uma lição para mim: você precisa não apenas capitalizar as tendências tecnológicas certas, mas também descobrir onde o valor será gerado. As mudanças nos modelos de negócios podem ser mais desafiadoras do que as mudanças nas tendências tecnológicas.
0:05:04 - A IA não será uma escolha de todos os vencedores.
Dwarkesh Patel
Então, onde será gerado o valor no espaço de IA?
Satya Nadella
Essa é uma pergunta muito boa. Acho que há duas áreas que posso prever com alguma confiança. A primeira são os hiperescaladores que estão se saindo bem, porque, fundamentalmente, mesmo olhando para o que Sam (provavelmente Sam Altman, CEO da OpenAI) e outros disseram sobre IA, se a inteligência é uma função logarítmica do poder computacional, então quem puder computar em escala será o grande vencedor.
Outra observação interessante é que, mesmo quando você analisa os fundamentos de qualquer carga de trabalho de IA, como o ChatGPT, não são apenas os avanços nas GPUs que entusiasmam as pessoas, embora isso seja realmente ótimo. Na verdade, eu até penso no meu cluster de computação como uma proporção entre aceleradores de IA, armazenamento e computação. E, em termos de escala, é preciso continuar aumentando a escala.
Dwarkesh Patel
Sim.
Satya Nadella
Portanto, o surgimento de cargas de trabalho de IA foi uma bênção, porque, sabe de uma coisa? Elas exigem mais capacidade de computação, não apenas na fase de treinamento, mas também no tempo de inferência. Quando pensamos em um agente de IA, estamos diante de um crescimento exponencial no uso da computação, pois o agente de IA não está mais limitado a chamadas de usuários humanos, mas sim de programas chamados por usuários humanos para mais programas. Isso criará uma enorme demanda e escala para a infraestrutura de computação. Portanto, acredito que nosso negócio de hiperescala, o negócio do Azure e outros provedores de nuvem de hiperescala terão uma grande oportunidade de crescimento.
Depois do mega-negócio, as coisas ficam um pouco mais obscuras. Você pode dizer que existe um modelo em que o vencedor leva tudo, mas eu, pessoalmente, não acho que seja assim. A propósito, essa é outra lição importante que aprendi: entender claramente quais mercados são mercados em que o vencedor leva tudo e quais não são determina tudo até certo ponto. Lembro-me de que, nos primeiros dias em que entrei no Azure, a Amazon tinha assumido uma liderança significativa e as pessoas, inclusive os investidores, me diziam: "Acabou o jogo, você nunca vai conseguir, a Amazon vai ser a vencedora de todos".
Mas, pela minha experiência em competir com a Oracle e a IBM no espaço cliente-servidor, sei que os compradores nunca tolerarão uma situação em que o vencedor leva tudo. Estruturalmente, os serviços em nuvem de hiperescala nunca serão um mercado em que o vencedor leva tudo, porque os compradores são inteligentes.
O mercado consumidor pode, às vezes, ser uma situação em que o vencedor leva tudo, mas no mercado corporativo, qualquer comprador, seja uma empresa, corporação ou departamento de TI, quer vários fornecedores. Portanto, você deve ser um dos muitos fornecedores.
Acredito que algo semelhante ocorrerá na área de modelagem. Haverá modelos de código aberto e modelos privados. Assim como no caso do Windows, uma das principais lições que aprendi é que, se você tem um sistema operacional de código fechado, é provável que haja uma alternativa complementar de código aberto.
Portanto, até certo ponto, isso criará uma espécie de controle e equilíbrio no cenário do mercado. Acho que, no espaço de modelagem, pode haver alguns modelos de código fechado, mas certamente haverá alternativas de código aberto, e as alternativas de código aberto realmente garantirão que não ocorra uma situação em que o vencedor leva tudo.
Essa é minha opinião sobre o campo de modelagem. Além disso, se a IA for realmente tão poderosa quanto as pessoas dizem que é, os países não ficarão parados e permitirão que empresas privadas ...... corram soltas em escala global. Portanto, não acho que a IA será um mercado em que o vencedor leva tudo.
Levando isso para o próximo nível, acho que a situação é a mesma do passado e, no espaço do consumidor, pode haver alguns efeitos de rede do tipo "o vencedor leva tudo" em determinadas categorias. Afinal de contas, o ChatGPT é um ótimo exemplo disso.
É um aplicativo de consumo massivo que tem uma velocidade de escape real. Eu o vejo consistentemente entre os 5 primeiros na App Store, o que é incrível.
Elas são capazes de capitalizar as vantagens iniciais e transformá-las em vantagens de aplicativos. No espaço do consumidor, isso pode acontecer. Mas no mercado corporativo, acho que haverá diferentes vencedores em diferentes categorias. Pelo menos essa é a minha análise.
Dwarkesh Patel
Tenho muitas perguntas complementares que gostaria de fazer. Teremos que falar sobre a computação quântica mais tarde, mas sobre a ideia de que os modelos podem ser comoditizados: talvez alguém tenha feito um argumento semelhante sobre a computação em nuvem décadas atrás - a computação em nuvem não é fundamentalmente sobre chips e caixas?
Mas, no final, você e muitos outros encontraram uma maneira de obter margens de lucro incríveis na nuvem. Você encontrou maneiras de realizar economias de escala e agregar outros valores. Fundamentalmente, mesmo deixando de lado a terminologia, se você tem AGI e ela o ajuda a criar uma IA melhor - no momento, estamos vendo dados sintéticos e aprendizagem por reforço (RL); talvez no futuro haja pesquisadores de IA automatizados - isso parece ser uma ótima maneira de aproveitar seus pontos fortes. Estou curioso para saber o que você pensa sobre isso, especialmente sobre a importância de se manter à frente da curva em IA.
Satya Nadella
Depois da escala, nada é uma commodity. É como quando você menciona a computação em nuvem, todo mundo diz: "Ah, a computação em nuvem é uma commodity". Mas quando você dimensiona ...... esse é o truque para administrar um provedor de nuvem em hiperescala ...... Você pode dizer: "O que há de tão difícil nisso? Não é só empilhar servidores?"
Dwarkesh Patel
É isso mesmo.
Satya Nadella
De fato, nos primeiros dias da computação em nuvem de hiperescala, a maioria das pessoas pensava: "Há muitos provedores de hospedagem por aí, mas eles não são um bom negócio. Existe um futuro para a computação em nuvem de hiperescala? Será que ela faz sentido para os negócios?" Mas acontece que a computação em nuvem de hiperescala é um negócio real, puramente por causa do know-how operacional, como o Azure, que opera uma infraestrutura de computação de classe mundial em mais de 60 regiões. Isso é difícil de reproduzir.
Portanto, o que eu gostaria de enfatizar mais do que qualquer outra coisa é se o cenário do mercado é "um vencedor" ou "o vencedor leva tudo"? Porque você precisa descobrir isso. Eu gosto de entrar em áreas onde há muito volume de mercado (TAM), onde você não precisa correr o risco de uma situação em que o vencedor leva tudo. O ideal é que você esteja em um grande mercado que tenha espaço para vários vencedores, e você é um deles.
Isso é o que chamo de camada de hiperescala. No nível do modelo, os modelos precisam, em última análise, ser executados em algum tipo de infraestrutura de computação em hiperescala. Portanto, acho que essa conexão sempre estará presente. Não se trata apenas do modelo em si; o modelo precisa de estado, o que significa que precisa de armazenamento; e precisa de computação regular para executar esses agentes e seus ambientes de agentes.
É por isso que estou pensando em por que o cenário "uma pessoa com um modelo pode fazer tudo" provavelmente não acontecerá.
Dwarkesh Patel
Em termos de provedores de nuvem em hiperescala, a propósito, é interessante que, como um provedor de nuvem em hiperescala, você tem a vantagem de, especialmente no contexto do dimensionamento do tempo de inferência, se isso envolver o treinamento de modelos futuros, você pode amortizar o custo do data center e das GPUs não apenas para treinamento, mas também para inferência novamente. O
Gostaria de saber a que tipo de provedor de nuvem em hiperescala você acha que a Microsoft e o Azure pertencem. Ele está no lado do pré-treinamento? Ele está fornecendo um serviço de inferência do tipo O3 (OpenAI o3)? Ou vocês vão apenas hospedar e implantar quaisquer modelos disponíveis no mercado, e vocês são neutros quanto a isso?
Satya Nadella
Essa é uma boa pergunta. A forma como estamos construindo nossos clusters de computação é, em parte, uma resposta à lei de Moore. Acho que será como tudo o que fizemos no passado: renovar os clusters de computação todos os anos, depreciá-los ao longo de sua vida útil e, em seguida, nos tornarmos muito bons na implantação de clusters para podermos executar diferentes trabalhos com altas taxas de utilização. Às vezes, grandes trabalhos de treinamento exigem uma alta concentração de potência de computação de ponto flutuante de pico (flops) e precisam trabalhar juntos. Isso é bom. Devemos ter uma área de cobertura de data center suficiente para atender a essas necessidades.
Mas, no final das contas, essas escalas estão ficando tão grandes que, mesmo na escala de pré-treinamento, se for necessário continuar a crescer, em algum momento a escala de pré-treinamento terá que ultrapassar o limite do data center. Tudo isso é mais ou menos uma realidade.
Então, quando você começa a ultrapassar o limite do data center de pré-treinamento, o que o torna diferente de qualquer outra coisa? Meu pensamento é que a computação distribuída ainda será distribuída, portanto, crie seus clusters de computação para poder lidar com grandes trabalhos de treinamento, cálculos de tempo de inferência e as demandas que a RL (aprendizagem por reforço) pode trazer. Para mim, é mais como treinar mais operações de ponto flutuante, porque você deseja criar esses modelos enxutos e altamente especializados para diferentes tarefas.
Portanto, você precisa desse tipo de cluster de computação, bem como da demanda de serviços. No final das contas, "a velocidade da luz é a velocidade da luz", e você não pode esperar construir um data center no Texas e dizer: "Vou atender o mundo a partir de lá".
Você precisa implantar clusters de computação de inferência em todo o mundo para poder atender a todo o mundo. Esse é o meu entendimento do que é necessário para criar um verdadeiro cluster de computação em hiperescala.
Ah, e por falar nisso, também quero que meu armazenamento e minha capacidade de computação estejam próximos a todas essas instalações, porque não é apenas o acelerador de IA que não tem estado. Meus dados de treinamento em si precisam ser armazenados, e eu quero poder multiplexar vários trabalhos de treinamento, quero ter a memória e quero ter um ambiente em que esses agentes possam executar programas. Essa é a minha compreensão dos clusters de computação em hiperescala.
0:15:18 - Crescimento econômico mundial 10%
Dwarkesh Patel
A Microsoft informou recentemente uma receita anual de US$ 13 bilhões com IA. Mas, com as atuais taxas de crescimento anual, esse valor será dez vezes maior em cerca de quatro anos. Se a tendência continuar, as receitas de IA chegarão a US$ 130 bilhões. Se esse for o caso, como você espera aproveitar a inteligência em uma escala tão grande para aplicações em escala industrial?
É por meio do Office? Ou por meio da implantação em terceiros para hospedagem? Você precisa ter AGI para atingir US$ 130 bilhões em receita de IA? Como seria isso?
Satya Nadella
Dwarkesh, você levantou uma questão muito boa porque, de certa forma, se você vai ter essa explosão de inteligência, abundância de oferta e até mesmo comoditização, a primeira coisa que temos de analisar é o crescimento do PIB.
Antes de falar sobre as perspectivas de receita da Microsoft, precisamos ter clareza sobre uma restrição. É por isso que, muitas vezes, corremos muito rápido com o hype da AGI. Lembre-se, qual é a taxa de crescimento econômico no mundo desenvolvido? 2%? Quase zero quando a inflação é deduzida.
Olhando para 2025, embora eu não seja economista, o que vejo é que enfrentamos um verdadeiro desafio de crescimento. Portanto, a primeira coisa que precisamos fazer, quando dizemos que isso é comparável à revolução industrial, é alcançar um crescimento no estilo da revolução industrial.
Para mim, isso significa uma taxa de crescimento de 10%, 7% para países desenvolvidos e ainda 5% após a inflação. Essa é a medida real. Não se pode parar apenas no lado da oferta.
Na verdade, estou animado com o fato de que muitas pessoas estão escrevendo artigos sobre o assunto. O artigo ressalta que os maiores vencedores não serão as empresas de tecnologia, mas o setor mais amplo que capitalizará com essa ampla oferta de commodities. De repente, a produtividade aumentou e o crescimento econômico se acelerou. Quando isso acontecer, nós, do setor de tecnologia, também nos beneficiaremos.
Mas este é o momento da verdade. Nós nos gabamos de ter alcançado o marco da AGI, que, para mim, é um exercício de benchmarking sem sentido. A verdadeira referência é: crescimento econômico mundial 10%.
Dwarkesh Patel
Certo, se a economia mundial crescer 10%, então o tamanho da economia mundial é de aproximadamente US$ 100 trilhões Ao redor. Se a economia mundial crescer em 10%, isso representa um adicional de US$ 10 trilhões em criação de valor por ano. Se esse for o caso, como provedores de nuvem em hiperescala, sua receita de US$ 80 bilhões ainda parece muito pequena. Não deveria ser de US$ 800 bilhões?
Se você realmente acredita que podemos impulsionar o crescimento econômico mundial nesse ritmo nos próximos anos, o principal gargalo passa a ser: você tem o poder de computação necessário para implantar toda essa IA para fazer todo o trabalho?
Satya Nadella
Você está certo. Mas, a propósito, o pensamento clássico do lado da oferta é: "Ei, deixe-me construir primeiro e eles virão naturalmente". É um argumento, e nós o fizemos, assumimos riscos suficientes para praticá-lo.
Mas, em última análise, a oferta e a demanda devem ser compatíveis. É por isso que me concentro tanto no lado da oferta quanto no lado da demanda. Se você se concentrar no lado da oferta sem realmente entender como traduzir a oferta em valor real para seus clientes, você pode estar completamente fora de contato com a realidade.
Esse é um dos motivos pelos quais me concentro na renda inferida. Essa é uma das razões pelas quais estou aberto sobre o Reasoning Income ...... Curiosamente, poucas pessoas parecem estar falando sobre sua renda real, mas para mim é importante usá-la como um controle e equilíbrio sobre como você pensa sobre as coisas.
Não se pode esperar que a oferta e a demanda sejam perfeitamente simétricas em qualquer momento, mas é preciso ter uma prova de existência, uma prova de que é possível converter os insumos (capital) de ontem na demanda de hoje, de modo que se possa investir novamente, talvez até exponencialmente, e ter a certeza de que não haverá um desequilíbrio total.
Dwarkesh Patel
Não tenho certeza se há uma contradição entre esses dois pontos de vista, porque uma das coisas que vocês fizeram muito bem foi ousar fazer apostas antecipadas. Vocês Investiu na OpenAI em 2019Mesmo no Copiloto e antes do surgimento de qualquer aplicativo.
Lembre-se de que, durante a Revolução Industrial, a construção de ferrovias e outras infraestruturas levou a um crescimento econômico que variou de 6% a 10%, mas muitos desses projetos não geraram receita imediata nos primeiros anos, por exemplo, "Temos receita com a venda de ingressos, agora vamos para ...... "
Satya Nadella
Na época, perdi muito dinheiro.
Dwarkesh Patel
Exatamente. Portanto, se você realmente acha que há potencial para aumentar a taxa de crescimento econômico mundial por um fator de 10 ou até mesmo um fator de 5, mas se concentra demais em "Qual é a receita do GPT-4?" isso parece um pouco contraditório.
Se você realmente acredita que um crescimento tão grande é possível na próxima fase, não deveria adotar uma estratégia mais radical, como "Vamos enlouquecer e investir na construção de centenas de bilhões de dólares em infraestrutura de computação?" Afinal de contas, há uma grande oportunidade aqui, não é mesmo?
Satya Nadella
Este é um ponto interessante, certo? É por isso que até mesmo uma estratégia equilibrada para clusters de computação é fundamental, pelo menos para mim. O segredo não é apenas criar potência de computação, mas criar potência de computação que possa realmente me ajudar a treinar o próximo grande modelo e atender ao próximo grande modelo. Até que você faça as duas coisas, não poderá realmente aproveitar seu investimento.
Portanto, a chave não é a corrida para construir modelos, mas a corrida para criar uma commodity que possa ser usada pelo mundo para impulsionar o crescimento econômico ...... É preciso ter uma estrutura completa para pensar, em vez de se concentrar em apenas um aspecto.
Um dos fenômenos, a propósito, é que haverá excesso de construção. Assim como você mencionou na era da bolha da Internet, o sinal agora foi enviado: ei, você precisa de mais energia, você precisa de mais poder de computação. E, graças a Deus, todo mundo vai aderir a isso.
Na verdade, não são apenas as empresas que estão implantando essa tecnologia, mas os governos estão investindo capital nela e, sem dúvida, ela está surgindo ...... Fico feliz em ser um locatário, porque, a propósito, eu mesmo construo muito e alugo muito. Fico feliz em alugar uma grande quantidade de capacidade de computação em 2027, 2028, porque vejo a escala dessas construções e digo: "Isso é ótimo". O único resultado de todos os desenvolvimentos de capacidade de computação é que os preços caem.
0:21:39 - A redução dos preços inteligentes
Dwarkesh Patel
Por falar em queda de preços, você esteve recentemente em DeepSeek Após a liberação do modelo tuíte Falou sobre o Paradoxo de Jevons. Gostaria de saber se você pode explicar melhor. O Paradoxo de Jevons refere-se ao fato de que, quando a elasticidade da demanda por algo é muito alta, o consumo total aumenta mesmo que os ganhos de eficiência levem a reduções de preço. A demanda por inteligência é tão sensível a reduções de preço?
Porque, pensando bem, pelo menos do meu ponto de vista como consumidor, o smart já é muito barato. Por milhão token São apenas 2 centavos. Será que eu realmente preciso reduzir para 0,02 centavos? Meu gargalo no momento é ficar mais inteligente. Se você precisar me cobrar 100 vezes o preço para treinar em uma escala 100 vezes maior, ficarei feliz em fazer isso.
Mas talvez você veja um quadro diferente no mercado corporativo ou em outro lugar. Quais são os principais casos de uso de smart? Ele realmente precisa cair para 0,002 centavos por milhão de tokens?
Satya Nadella
Acho que o que realmente importa é a eficácia do token. Ambos precisam ser levados em conta: por um lado, a inteligência precisa ficar melhor e mais barata. Sempre que há um avanço, como aconteceu com o DeepSeek, quando a fronteira eficiente do desempenho do token muda, a curva se curva, a fronteira se desloca, há mais demanda. Esse é o caso da computação em nuvem.
O interessante é o seguinte: costumávamos pensar: "Puxa, esgotamos todos os servidores na era cliente-servidor". Mas quando começamos a colocar os servidores na nuvem, de repente as pessoas começaram a consumir mais, porque podiam comprar mais barato, e era elástico, e podiam pagar sob demanda em vez de comprar licenças, o que expandiu completamente o mercado.
Lembro-me de ir a países como a Índia para vender o SQL Server e vendemos um pouco, mas sabe de uma coisa? A computação em nuvem é muito maior na Índia do que qualquer coisa que tenhamos conseguido fazer na era do servidor. Acho que isso também vai acontecer no espaço da IA.
Imagine se você realmente quisesse fornecer tokens de saúde realmente baratos a preços muito baixos no Sul, no mundo em desenvolvimento, isso seria uma transformação sem precedentes.
Dwarkesh Patel
Acho que é razoável para alguém como eu, em São Francisco, ouvir as pessoas dizerem: "Eles são meio estúpidos, não sabem como é implantar coisas no mundo real".
Como alguém que já trabalhou com empresas da Fortune 500 e as ajudou a implantar tecnologia para centenas de milhões, se não bilhões, de pessoas, com que rapidez você acha que esses recursos serão implantados?
Mesmo que você tenha agentes disponíveis, mesmo que tenha algo que possa trabalhar remotamente para você, isso será um grande gargalo, considerando todos os requisitos de conformidade e os gargalos inerentes? Ou isso será superado rapidamente?
Satya Nadella
Isso será um verdadeiro desafio porque o verdadeiro problema é o gerenciamento de mudanças ou a mudança de processos. Aqui está uma analogia interessante: imagine como uma empresa multinacional como a nossa faz previsões sem PCs, e-mails e planilhas. Os faxes circulam, alguém recebe o fax e escreve um memorando interno que circula, as pessoas preenchem os números no memorando e ele acaba em um relatório de previsão, provavelmente bem a tempo para o próximo trimestre.
Então, alguém disse: "Ei, posso usar uma planilha do Excel, enviá-la por e-mail, as pessoas podem editá-la e, em seguida, receberei um relatório de previsão". Todo o processo comercial de previsão mudou porque o produto de trabalho e o fluxo de trabalho mudaram.
Isso é o que precisa acontecer quando a IA é introduzida no trabalho de conhecimento. De fato, quando pensamos em todos esses agentes, o resultado final é que haverá um novo tipo de trabalho e fluxo de trabalho.
Por exemplo, mesmo quando estou preparando nosso podcast, uso meu Copilot e digo a ele: "Ei, vou falar com Dwarkesh sobre nosso anúncio de computação quântica e o novo modelo que estamos criando para a geração de jogos. Dê-me um resumo e diga-me que material devo ler antes de ir". Ele sabia de dois artigos da Nature e extraiu as informações. Eu até disse: "Ei, apresente isso para mim em forma de podcast". Ele até imitou muito bem o formato de uma conversa entre nós dois.
Isso se tornou meu novo fluxo de trabalho - na verdade, eu o compartilhei com minha equipe depois. Eu o copiei no Pages (software de edição de documentos da Microsoft) como meu produto de trabalho e o compartilhei. Portanto, meu novo fluxo de trabalho é pensar com IA e trabalhar com meus colegas.
Essa é uma questão fundamental de gerenciamento de mudanças para todos aqueles que trabalham com conhecimento e precisam descobrir "Como faço meu trabalho de conhecimento de uma nova maneira?". Isso levará tempo. Ele permeará todas as áreas de vendas, finanças e cadeia de suprimentos.
Para as organizações tradicionais, acho que será uma mudança semelhante à adoção da manufatura enxuta pelos fabricantes. Gosto da analogia com a manufatura enxuta porque, de certa forma, se você olhar com atenção, verá que a manufatura enxuta se torna uma metodologia que as empresas podem usar para otimizar seus processos de manufatura de ponta a ponta e aumentar a eficiência. Ela enfatiza a melhoria contínua, o que significa reduzir o desperdício e agregar valor.
É isso que vai acontecer na área de trabalho do conhecimento. É como o Lean Manufacturing no espaço do KnowledgeWorks, especialmente no KnowledgeWorks. E a equipe de gerenciamento e os indivíduos envolvidos no trabalho de conhecimento precisam trabalhar nessa transformação, e isso levará tempo.
Dwarkesh Patel
Posso fazer uma breve pergunta sobre a analogia com a Manufatura Enxuta? Uma das coisas que a Manufatura Enxuta fez foi mudar o chão de fábrica em um nível físico. Ele revela gargalos que as pessoas não sabiam que existiam até que realmente se concentrassem nos processos e fluxos de trabalho.
Você acabou de mencionar brevemente seu próprio fluxo de trabalho, como ele mudou por causa da IA. Estou curioso para saber como é administrar uma grande empresa quando você tem esses agentes de IA que estão ficando cada vez mais inteligentes com o tempo.
Satya Nadella
É interessante que você pergunte. Por exemplo, eu estava pensando hoje sobre como, se observarmos a maneira como trabalhamos atualmente, dependemos tanto do e-mail. Chego ao trabalho pela manhã e encontro minha caixa de entrada cheia de e-mails que preciso responder. Mal posso esperar para usar os agentes do Copilot e fazer com que eles preencham automaticamente meus rascunhos de e-mail para que eu possa apenas revisá-los e enviá-los.
Mas já estou usando pelo menos dez agentes no Copilot, fazendo consultas diferentes para tarefas diferentes. Tenho a sensação de que haverá uma nova caixa de entrada para os milhões de agentes com os quais estou trabalhando, que me enviarão exceções, notificações e solicitações de instruções.
Portanto, pelo menos em minha opinião, é necessário criar um novo andaime, o Agent Manager. Ele não é apenas uma interface de bate-papo. Eu precisava de algo mais inteligente do que uma interface de bate-papo para gerenciar todos os agentes e suas conversas.
É por isso que acho que o Copilot, como UI (interface de usuário) para IA, é importante. Todos nós o teremos. Basicamente, você pode entender que há trabalho de conhecimento e há trabalhadores do conhecimento. O trabalho de conhecimento pode ser feito por muitos agentes, mas ainda há a necessidade de um trabalhador do conhecimento para lidar com todos esses trabalhadores do conhecimento. E essa é a interface que precisamos construir.
0:30:19 - Avanços na computação quântica
Dwarkesh Patel
Você é uma das poucas pessoas no mundo que pode dizer "tenho 200.000 ...... e estou cercado por um cluster inteligente formado pela Microsoft e todos os seus funcionários". Você precisa gerenciá-lo e interagir com ele para tirar o máximo proveito. Esperamos que mais pessoas no mundo tenham essa experiência no futuro.
Estou curioso, se sua caixa de entrada ficou assim, isso significa que a caixa de entrada de todos será parecida com a sua pela manhã?
Bem, antes de entrarmos nesse assunto, gostaria de perguntar mais sobre IA, mas gostaria mesmo de perguntar sobre as grandes descobertas que a Microsoft Research fez na área de computação quântica. Você pode explicar o que está acontecendo até agora?
Satya Nadella
São mais 30 anos de nossa longa jornada. É incrível. Sou o terceiro CEO da Microsoft a se entusiasmar com a computação quântica.
Nossa visão sempre foi a de que é necessário um avanço na física para construir computadores quânticos que possam ser usados em escala prática. Escolhemos um caminho em que pensamos que uma maneira de obter menos ruído ou bits quânticos (qubits) mais confiáveis era apostar em uma propriedade física que fosse inerentemente mais confiável, e foi por isso que escolhemos os modos zero de Majorana, que foram propostos na década de 1930. A questão é: podemos realmente criar essas coisas fisicamente? Podemos realmente construí-los?
Portanto, o verdadeiro avanço é que agora finalmente temos a prova da existência e um avanço na física do modo zero de Majorana, que existe em uma nova forma de matéria. É por isso que gostamos de comparar isso com o momento do transistor da computação quântica, em que de fato temos uma nova forma, a fase topológica, o que significa que agora podemos até mesmo ocultar informações quânticas de forma confiável, medi-las e produzi-las. Agora que temos isso, acreditamos que, com os avanços nas tecnologias de fabricação básicas e fundamentais, podemos começar a construir o chip Majorana.
Estamos chamando-o de Majorana One, e acho que será o primeiro chip capaz de conter um milhão de bits quânticos (bits quânticos físicos). E, além disso, milhares de bits quânticos lógicos para permitir a correção de erros. E aí o jogo começa. De repente, você tem a capacidade de construir computadores quânticos em escala realmente prática, e acho que isso está se tornando muito mais viável agora. Sem avanços como esse, ainda é possível alcançar alguns marcos, mas nunca será possível construir um computador em escala prática. É com isso que estamos animados.
Dwarkesh Patel
Fantástico. A propósito, acredito que seja isso, certo?
Satya Nadella
É isso mesmo, é isso mesmo.
Dwarkesh Patel
Sim.
Satya Nadella
Não me lembro agora. Nós o chamamos de Majorana? - Sim, isso mesmo. Sim, isso mesmo, Majorana One. Em seu nome. Nome.
É incrível pensar que podemos construir um computador quântico com um milhão de bits quânticos em um chip tão pequeno. E aqui está a chave: a menos que consigamos fazer isso, você não pode sonhar em construir um computador quântico em escala prática.
Dwarkesh Patel
Você está dizendo que, eventualmente, um milhão de bits quânticos serão integrados em um chip desse tamanho? Isso é incrível.
Outras empresas anunciaram computadores quânticos com 100 bits quânticos físicos, como o Google, a IBM e outras. Quando você diz que anunciou um avanço, também está dizendo que sua tecnologia tem uma vantagem em termos de escala.
Satya Nadella
Sim. Outra coisa que fizemos foi adotar uma abordagem de hardware/software. Estamos construindo nossa pilha de software e agora estamos trabalhando com especialistas em computadores quânticos de átomo neutro, especialistas em computadores quânticos de armadilha de íons e estamos trabalhando com outras pessoas que têm ótimas abordagens em áreas como a fotônica, o que significa que haverá diferentes tipos de computadores quânticos. Na verdade, nosso anúncio mais recente foi de 24 bits quânticos lógicos. Portanto, também tivemos avanços notáveis na correção de erros, o que nos permitiu criar sistemas com mais de 20 bits quânticos lógicos, mesmo em computadores quânticos de átomos neutros e poços de íons, e acho que isso continuará a acontecer este ano; vocês nos verão crescer e crescer e crescer nessa área.
Mas também dissemos: "Vamos voltar aos primeiros princípios e construir nossos próprios computadores quânticos, apostando em qubits topológicos". É disso que se trata esse avanço.
Dwarkesh Patel
Isso é ótimo. Milhões de bits quânticos topológicos, milhares de bits quânticos lógicos, qual é o cronograma projetado para atingir essa escala? Se você já tem o primeiro transistor, como fica a Lei de Moore?
Satya Nadella
Obviamente, estamos trabalhando nesse campo há 30 anos. Estou muito satisfeito por estarmos agora fazendo avanços na física e na tecnologia de fabricação.
Eu gostaria que já tivéssemos computadores quânticos porque, a propósito, a primeira coisa que os computadores quânticos nos permitiriam fazer é construir computadores quânticos, porque seria muito mais fácil construir novas portas quânticas que simulassem o nível atômico.
Mas, de qualquer forma, a próxima coisa a ser feita é, agora que temos a tecnologia de fabricação, construir o primeiro computador quântico tolerante a falhas. computador). Essa seria a próxima etapa lógica.
Portanto, acho que agora posso dizer: "Talvez em 2027, 2028, 2029, possamos de fato construí-lo". Agora que temos essa porta quântica, posso colocá-la em circuitos integrados e depois colocar esses circuitos integrados em um computador real? Esse é o próximo passo lógico.
Dwarkesh Patel
Como você acha que será em 2027, 2028, quando você tiver construído com sucesso um computador quântico? É algo que pode ser acessado por meio de uma API? Ou será algo que você usará internamente para pesquisa de materiais e química?
Satya Nadella
Essa é uma ótima pergunta. Uma das coisas que me entusiasmam é que, mesmo no mundo atual ......, temos programas de computação quântica e adicionamos algumas APIs a eles. O avanço que fizemos há cerca de dois anos foi pensar em pilhas de computação de alto desempenho (HPC), pilhas de IA e computação quântica juntas.
De fato, se pensarmos nisso, veremos que a IA é como um simulador de simuladores. A computação quântica é como um simulador da natureza. O que a computação quântica fará? A propósito, a computação quântica não substituirá a computação clássica. A computação quântica será muito boa no que faz bem, e a computação clássica continuará a desempenhar um papel. ......
A computação quântica seria adequada para tarefas que não exigem muitos dados, mas que são exigentes em termos de exploração do espaço de estado. Ela deve ser leve em termos de dados, mas você precisa explorar níveis exponenciais de estado. As simulações são um bom exemplo disso: física química, biologia e assim por diante.
Uma das coisas que começamos a fazer é realmente usar a IA como um mecanismo de simulação. Mas você pode treiná-la. Então, pelo que entendi, se você combinar a IA com a computação quântica, poderá usar a computação quântica para gerar dados sintéticos que a IA poderá usar para treinar modelos melhores para entender como simular a química, a física ou outras disciplinas. Os dois seriam usados de forma sinérgica.
Ainda hoje, estamos usando a computação de alto desempenho em conjunto com a IA. Eu gostaria de substituir alguns dos componentes da computação de alto desempenho por computadores quânticos.
Dwarkesh Patel
Você pode me dizer como toma essas decisões de pesquisa? Essas decisões serão realmente compensadas em 20, 30 anos, especialmente em uma empresa do tamanho da Microsoft? Obviamente, você tem muito conhecimento sobre os detalhes técnicos desse projeto. É possível fazer isso com tudo o que a Microsoft Research faz?
Como você sabe que as apostas que faz hoje terão retorno em 20 anos? Isso só precisa crescer organicamente dentro da organização, ou como manter o controle de tudo isso?
Satya Nadella
Uma das coisas que considero fantástica é o fato de Bill Gates ter fundado a Microsoft Research (MSR) em 1995. Acho que, na longa história de todas as organizações de pesquisa movidas pela curiosidade que criaram um instituto de pesquisa apenas para fazer pesquisa básica, a MSR construiu essa vantagem institucional ao longo dos anos. Portanto, quando penso em alocação de capital ou orçamentos, a primeira coisa que fazemos é colocar dinheiro e dizer: "Este é o orçamento da Microsoft Research". E fazemos isso todos os anos, sabendo muito bem que a maioria dessas apostas não será recompensada em um período de tempo limitado. Talvez o sexto CEO da Microsoft se beneficie disso. E no setor de tecnologia, considero isso um dado adquirido.
Acho que o mais importante é que, quando tecnologias como a computação quântica ou novos modelos amadurecem, você é capaz de aproveitar a oportunidade? Portanto, como uma empresa tradicional, você olha para a história do setor de tecnologia e percebe que o problema não é que as pessoas não estejam investindo, mas que você precisa ter uma cultura que saiba como dimensionar a inovação.
Esse é o verdadeiro problema para CEOs e equipes de gestão, e é muito desafiador. Exige bom senso e uma boa cultura. Às vezes, nos saímos bem e, às vezes, cometemos erros. Posso dizer que há milhares de projetos na Microsoft Research que deveríamos estar liderando, mas não estamos. Eu sempre me pergunto por quê. É porque não temos a confiança ou a estrutura de pensamento para saber como não apenas transformar inovações em produtos úteis, mas também para encontrar modelos de negócios viáveis e levá-los ao mercado.
Esse é o trabalho do CEO e da equipe de gerenciamento: não apenas ficar entusiasmado com algo, mas ser capaz de realmente executar um plano completo. É mais fácil falar do que fazer.
Dwarkesh Patel
Quando você se refere aos três últimos CEOs da Microsoft, se cada um deles tiver aumentado a capitalização de mercado em uma ordem de grandeza, então, quando sua próxima descoberta chegar, a capitalização de mercado da Microsoft poderá ser equivalente ao total da economia mundial.
Satya Nadella
Ou lembre-se de que a economia mundial crescerá a 10%, portanto, estaremos bem.
0:42:51 - Como o Muse mudou o setor de jogos
Dwarkesh Patel
Vamos nos aprofundar em outro grande avanço que vocês acabaram de fazer. Surpreendentemente, vocês lançaram duas grandes conquistas no mesmo dia, e esse é o seu Game World Model. Gostaria muito de ouvir sua opinião sobre isso.
Satya Nadella
Nós o chamamos de Muse. Ele será um modelo de comportamento mundial ou um modelo de comportamento humano.
Isso é muito legal. Todos nós sabemos que Dall-E e Sora O que foi alcançado em termos de geração de modelos é incrível. Uma das direções que queremos explorar é o uso de dados de jogos. É possível gerar jogos que sejam coerentes e diversificados? E é possível manter as modificações dos usuários?
Esse é o objetivo do Muse. Pesquisadores da Microsoft Research colaboraram com um de nossos estúdios de jogos para chegar a esse resultado, que é o tema de outro artigo publicado na revista Nature.
Estou empolgado com o fato de que lançaremos uma série de jogos muito em breve e começaremos a usar esses modelos, ou treinaremos esses modelos para gerar jogos e depois começaremos a jogá-los.
Na verdade, quando Phil Spencer (CEO da Microsoft Games) me mostrou o Muse pela primeira vez, ele estava segurando um controle do Xbox, um modelo que basicamente recebe a entrada do controle e gera uma saída com base nessa entrada. E o resultado era consistente com o conteúdo do jogo. Para mim, foi um momento de "uau". Foi mais ou menos como a primeira vez que vimos o ChatGPT Terminar frases, desenhos do Dall-E ou gerar vídeos da Sora. Este é um momento marcante.
Dwarkesh Patel
Esta manhã, tive a oportunidade de assistir ao vídeo de demonstração ao vivo com a pesquisadora-chefe, Katja. Foi só depois de conversar com ela que realmente percebi como isso é incrível. Enquanto costumávamos usar a IA para modelar o agente, agora podemos gerar um mundo de jogo coerente em tempo real usando a mesma tecnologia para modelar o mundo ao redor do agente. Acho que o vídeo deve ser postado até lá, e você pode assisti-lo também.
Isso, por si só, já é incrível. Durante seu mandato como CEO, você investiu dezenas de bilhões de dólares na construção do negócio de jogos da Microsoft e na aquisição de IP (propriedade intelectual).
Em retrospecto, se você puder consolidar todos esses dados em um grande modelo que ofereça a experiência de acessar e vivenciar vários mundos ao mesmo tempo, e se esse for o caminho que o setor de jogos está seguindo, então parece um investimento muito sábio. Você tem alguma premonição sobre isso?
Satya Nadella
Eu não diria que investimos em jogos para criar modelos. Investimos em jogos, francamente, porque - aqui está um ponto interessante sobre nossa história: desenvolvemos nosso primeiro jogo antes de criarmos o Windows. O Microsoft Flight Simulator era um produto da Microsoft muito antes da criação do Windows.
Portanto, os jogos têm uma longa história na Microsoft, e queríamos entrar nos jogos pelo bem dos jogos em si. Eu sempre disse que detesto entrar em negócios que são "um meio para um fim". Eles precisam ser fins em si mesmos.
E então, sim, não somos um conglomerado. Somos uma empresa, e temos que reunir todos esses ativos e ser um proprietário melhor, agregando valor. Por exemplo, os jogos em nuvem são um investimento natural para nós, pois expandirão a capacidade do mercado (TAM) e a capacidade das pessoas de jogar a qualquer hora e em qualquer lugar.
O mesmo se aplica à IA e aos jogos: acreditamos firmemente que ela poderá ajudar a mudar o setor de jogos - é um pouco como o momento CGI (imagens geradas por computador) do setor de jogos. Isso é ótimo. Como a maior editora de jogos do mundo, isso nos ajudará. Mas, ao mesmo tempo, temos que criar jogos de qualidade. Quero dizer, você não pode ser um editor de jogos se não se concentrar nisso primeiro.
Mas o fato de que esses ativos de dados serão muito interessantes, não apenas no espaço dos jogos, mas que serão um modelo universal de comportamento e um modelo do mundo, isso é fantástico. Quero dizer, acho que os dados de jogos podem ser para a Microsoft o que o YouTube é para o Google. Portanto, estou muito animado com isso.
Dwarkesh Patel
Sim, foi isso que eu quis dizer, no sentido de que você pode ter uma experiência unificada em muitos tipos diferentes de jogos. Como isso se relaciona com outros trabalhos que a Microsoft fez no passado fora da IA (por exemplo, realidade mista)? Talvez isso dê aos estúdios de jogos menores a oportunidade de criar jogos de ação AAA? Olhando de cinco a dez anos para o futuro, que cenários de aplicativos você consegue imaginar?
Satya Nadella
Há cinco, seis, sete anos, eu via essas três coisas como os pilares. Na época, eu disse que as três grandes apostas que queremos fazer são IA, computação quântica e realidade mista. Ainda acredito muito nelas porque, de certa forma, quais são as grandes questões que precisamos resolver?
Presença. Esse é o sonho da realidade mista. Você pode criar um senso real de presença? Assim como você e eu estamos fazendo agora com o podcast.
Sinceramente, acho que esse continua sendo um dos desafios mais difíceis de resolver. Achei que seria mais fácil de resolver. Mas provavelmente é mais desafiador, provavelmente por causa do aspecto social: usar o dispositivo e assim por diante.
Estamos entusiasmados com nosso próximo projeto com a Anduril e Palmer Luckey, que conduzirão o programa IVAS (Integrated Visual Augmentation System), pois é um ótimo caso de uso. Continuaremos a trabalhar nesse projeto.
Mas a interface 2D ainda é importante. Acontece que ferramentas como o Teams, graças à epidemia, realmente ganharam a capacidade de criar um senso de presença por meio da interface 2D. Acho que isso continuará a evoluir. É uma tendência de longo prazo.
Já discutimos a computação quântica, e a IA é outra área importante. Portanto, estou analisando essas três áreas e pensando em como podemos uni-las? Em última análise, não se trata de tecnologia pela tecnologia, mas de atender a algumas das necessidades básicas que desejamos como seres humanos em nossas vidas e, mais importante, precisamos delas em nossa economia para sermos mais produtivos. Se, de alguma forma, conseguirmos fazer isso bem, acho que realmente teremos progredido.
Dwarkesh Patel
Quando você escrever seu próximo livro, terá que explicar por que esses três campos se uniram quase simultaneamente, certo? Por exemplo, você pode pensar que a computação quântica e a IA devem fazer descobertas em 2028 e 2025, respectivamente, mas isso não parece intrinsecamente necessário.
Satya Nadella
É isso mesmo. De certa forma, meu entendimento é: existe um avanço sistêmico? Para mim, a computação quântica é um avanço sistêmico.
Há um avanço na lógica dos negócios? Para mim, a IA é um avanço na lógica dos negócios, ou seja, a camada lógica pode raciocinar de uma maneira fundamentalmente diferente? Você pode substituir o código de comando por um sistema de aprendizado? É disso que se trata a IA.
No lado da interface do usuário, a chave é o senso de presença.
0:49:51 - Barreiras legais à IA
Dwarkesh Patel
Vamos voltar à IA. Em seu Publicações de 2017...... 2019 Você investiu na OpenAI, bem no início, em 2017 ou até antes, e escreveu em seu livro: "Pode-se dizer também que estamos dando à luz uma nova espécie, uma cuja inteligência pode não ter limite superior."
É claro que é muito cedo para falar sobre isso em 2017. Temos falado muito sobre proxies, Office Copilot, capex e assim por diante. Mas se você tiver uma visão mais macro do que está dizendo e considerar sua função como provedor de nuvem em hiperescala, como pesquisador de modelagem e como alguém que fornece treinamento, inferência e suporte de pesquisa para a criação de novas espécies, como você vê tudo isso se juntando?
Você acha que avançaremos em direção à inteligência sobre-humana durante sua gestão como CEO?
Satya Nadella
Acho que até mesmo Mustafa (provavelmente se referindo a Mustafa Suleyman, o IA de inflexão (CEO) também usa o termo "nova espécie". De fato, ele o tem usado com mais frequência ultimamente.
Entendo que você precisa absolutamente de confiança. Antes de afirmarmos que ela é tão importante quanto a "espécie", a primeira coisa que temos de garantir é que a confiança real, seja em nível individual ou social, seja incorporada a ela. Esse é o verdadeiro dilema.
Acredito que o maior fator que limitará o poder da IA será a forma como nossa infraestrutura jurídica evoluirá para lidar com a IA. Nossa ordem mundial atual baseia-se na noção de que os seres humanos possuem propriedade, têm direitos e assumem responsabilidades. A primeira coisa que precisamos pensar é o que isso significa para as ferramentas que os humanos estão usando. Se os humanos delegarem mais poder a essas ferramentas, como essa estrutura evoluirá? Até que essas questões sejam realmente abordadas, acho que não faz sentido falar apenas sobre recursos tecnológicos.
Dwarkesh Patel
Você está dizendo que não conseguiremos implantar essas inteligências até descobrirmos como fazer ......?
Satya Nadella
Isso é exatamente correto. Porque, no final das contas, não há como contornar as questões legais. Hoje, não é possível implantar essas inteligências a menos que alguém as garanta em nome da humanidade.
E, como você disse, acho que é por isso que até mesmo a IA mais poderosa está trabalhando essencialmente dentro dos limites da autoridade humana delegada. Você pode dizer: "Ah, isso é alinhamento e todos os tipos de outros problemas". É por isso que acho que é preciso fazer com que esses trabalhos de alinhamento funcionem e sejam verificáveis de alguma forma, mas não acho que seja possível implantar uma inteligência que esteja fora de controle. Por exemplo, o problema de decolagem da IA pode ser um problema real, mas o problema real estará no tribunal antes de se tornar um problema real. Nenhuma sociedade permitirá que alguém diga "é isso que a IA faz".
Dwarkesh Patel
Sim. Bem, há muitas sociedades no mundo, e eu queria saber se há alguma que tenha um sistema jurídico mais brando. Se não é possível impedir as decolagens, então devemos nos preocupar. A decolagem não precisa acontecer nos Estados Unidos, não é mesmo?
Satya Nadella
Não acreditamos que exista uma sociedade que não se importe, certo? Pode haver agentes desonestos, não estou dizendo que não haverá agentes desonestos; há criminosos cibernéticos e Estados desonestos; eles sempre existiram.
Mas também não é realista pensar que a sociedade humana como um todo não se preocupa com isso. Acho que todos nós nos importamos. Hoje sabemos como lidar com Estados e atores desonestos. O mundo não vai ficar parado e dizer: "Podemos tolerar isso". É por isso que fico feliz por termos uma ordem mundial em que há consequências para qualquer ator ou Estado desonesto.
Dwarkesh Patel
É isso mesmo. Mas se você imaginar um cenário em que a economia mundial cresça 10%, acho que isso realmente depende de a AGI ser alcançada, porque o valor de trilhões de dólares, que parece mais próximo da soma dos salários humanos, é cerca de 60% da economia, e para chegar a essa escala é preciso automatizar o trabalho, ou os assistentes de trabalho, de forma muito significativa.
Se isso for possível, e assim que descobrirmos as questões legais envolvidas, parece provável que as descobriremos mesmo durante seu mandato. Está pensando em inteligência sobre-humana? Essa é, por exemplo, a conquista mais importante de sua carreira?
Satya Nadella
Você mencionou outro ponto. Sei que tem havido muita discussão sobre isso, David Autor e outros, sobre 60% trabalho ...... Acho que outra questão que precisa ser abordada, pelo menos em nossas democracias. Acredito que, para ter uma estrutura social estável e uma democracia funcional, não se pode ter apenas um retorno sobre o capital e não um retorno sobre o trabalho. Podemos falar sobre isso, mas esse trabalho precisa ser reavaliado.
No meu modo de entender, talvez você possa chamá-lo de ingenuidade, começaremos a valorizar diferentes tipos de trabalho humano. O trabalho humano que hoje é considerado de alto valor pode se tornar uma mercadoria. Pode haver coisas novas que valorizaremos.
Isso inclui as pessoas que vêm me ajudar com a fisioterapia, ou o que quer que seja que vamos valorizar, mas, no final das contas, se não tivermos um retorno sobre nosso trabalho e se houver falta de significado e dignidade em nosso trabalho, isso será outra restrição à implantação de qualquer uma dessas tecnologias.
0:55:46 - Obtendo a segurança AGI correta
Dwarkesh Patel
Em termos de alinhamento, há dois anos você lançou o Sydney Bing. Para ser claro, acho que é um exemplo encantador, adorável e um tanto cômico de desalinhamento, considerando o estado da arte na época.
Mas isso se deve ao fato de que essa era a era dos chatbots. Eles podiam pensar por 30 segundos e lhe dar uma resposta engraçada ou inadequada. Mas se pensarmos nesse tipo de sistema - acho que um repórter do New York Times, tentando fazer com que ele deixasse a esposa - se pensarmos no futuro, em que temos esses agentes que podem funcionar por horas, semanas e meses a fio, como clusters autônomos de autônomos, e eles podem estar desalinhados e estragar tudo de forma semelhante, talvez até mesmo se coordenando uns com os outros, quais são seus planos para o futuro? Para que, quando você tiver uma AGI realmente forte, possa garantir que ela seja segura?
Satya Nadella
Você está certo. Esse é um dos motivos pelos quais, quando alocamos recursos de computação, geralmente os alocamos para desafios de alinhamento.
Mais importante ainda, que tipo de ambiente de tempo de execução você usará para monitorar esse material? Qual é a observabilidade em torno dele? Atualmente, estamos lidando com muitos problemas semelhantes na computação clássica, como a segurança cibernética. Não basta escrever um software e deixá-lo de lado. O software é seu e você o monitora. Você o monitora em busca de ataques cibernéticos, injeções e assim por diante.
Portanto, acho que teremos que criar engenharia de software suficiente em torno dos aspectos de implantação dessas tecnologias e, então, dentro do modelo, alcançar o alinhamento. Algumas dessas questões são realmente científicas e outras são realmente de engenharia, e teremos que abordá-las uma a uma.
Isso também significa que temos que assumir a responsabilidade por nós mesmos em todas essas áreas. Portanto, minha preferência é implantar essas tecnologias em áreas em que se possa realmente controlar o escopo e a escala delas. Não se pode lançar no mundo algo que causará danos, porque a sociedade não permitirá isso.
Dwarkesh Patel
Quando você tem um agente que pode realmente fazer semanas de trabalho para você, quais são as garantias mínimas que você deseja antes de permitir que ele trabalhe para uma empresa da Fortune 500?
Satya Nadella
Acho que quando uso uma ferramenta como a Deep Research, mesmo agora, a garantia mínima que queremos obter é que, antes de termos qualquer entidade física, e acho que esse é o limite, quando você ultrapassa esse limite, as coisas podem mudar. Esse pode ser um ponto importante.
Outro ponto importante é, por exemplo, as permissões do ambiente de tempo de execução no qual o agente é executado. Talvez você queira se certificar de que ele esteja em uma área restrita, que não ultrapasse os limites da área restrita.
Dwarkesh Patel
Quero dizer, já temos a pesquisa na Web, e ela está além da caixa de areia.
Satya Nadella
Mas mesmo o que ele faz com a pesquisa na Web e o que ele escreve - por exemplo, como você disse, se ele está apenas escrevendo um monte de código para fazer alguns cálculos, onde esse código é implantado? Esse código é temporário e usado apenas para criar resultados ou é liberado para o mundo?
Essas são coisas que você pode realmente controlar no espaço de ação.
Dwarkesh Patel
Além da questão da segurança, quando pensamos em nosso próprio pacote de produtos e consideramos que, se tivermos uma IA tão poderosa, em algum momento ela se tornará mais do que um simples Copilot - você mencionou um exemplo de como se prepara para este podcast -. -, é mais parecido com a forma como você delega trabalho aos seus colegas.
Considerando seu conjunto atual de produtos, como seria adicionar esse recurso? Quero dizer, há a questão de saber se o LLM será transformado em mercadoria por outras coisas.
Eu me pergunto, se o LLM é o principal ponto de entrada para acessar todas essas coisas, esses bancos de dados ou telas ou planilhas do Excel e assim por diante - é possível que o LLM comercialize o Office?
Satya Nadella
Essa é uma pergunta interessante. Meu entendimento, pelo menos na primeira fase, é que o LLM pode me ajudar a usar todas essas ferramentas ou telas de forma mais eficaz para fazer meu trabalho intelectual?
Uma das melhores demonstrações que vi foi a de uma médica se preparando para um fluxo de trabalho do Tumour Board. Ela está participando de uma reunião do Comitê de Tumores e a primeira coisa que faz com o Copilot é criar uma agenda para a reunião, porque o LLM a ajuda a analisar todos os casos, que estão armazenados em um site do SharePoint em algum lugar. Ele dirá: "Ei, esses casos - obviamente, uma reunião do conselho de tumores é uma reunião de alto risco, e você precisa estar ciente das diferenças entre os casos para que possa alocar seu tempo com sabedoria".
Até mesmo para a tarefa de raciocínio de criar uma agenda, é ótimo que ele saiba como alocar o tempo. Portanto, uso o LLM para essa tarefa. Depois, participo de reuniões e converso com todos os meus colegas em chamadas do Teams. Concentro-me no caso em si em vez de fazer anotações, porque agora você tem o AI Copilot fazendo a transcrição completa. Não se trata apenas de uma transcrição, mas de uma entrada no banco de dados do conteúdo da reunião que pode ser salva permanentemente e acessada a qualquer momento.
Em seguida, ela sai da sala de reuniões, depois de discutir o caso e não se distrair fazendo anotações. Ela é uma médica professora; quer se preparar para seu curso. Então, ela entra no Copilot e diz: "Faça slides em PowerPoint do que eu fiz na reunião do Comitê de Oncologia para que eu possa explicar aos meus alunos".
Este é o cenário de que estou falando. A interface do usuário e o andaime que tenho são a tela que agora está sendo preenchida com conteúdo usando o LLM. E o próprio fluxo de trabalho está sendo reinventado; o trabalho de conhecimento está sendo feito.
Eis um fenômeno interessante: se alguém tivesse me dito no final dos anos 80: "Você terá milhões de documentos em sua mesa". Eu teria dito: "O que diabos isso significa?" Eu realmente teria pensado que minha mesa estaria cheia de milhões de documentos em papel. Mas, na verdade, temos milhões de planilhas e milhões de documentos eletrônicos.
Dwarkesh Patel
Eu não tenho, você tem.
Satya Nadella
Eles estão todos lá. A mesma coisa acontecerá com os proxies. Haverá uma camada de interface do usuário. Para mim, o Office não é apenas o Office hoje; é a camada de interface do usuário do trabalho de conhecimento. Ele evoluirá à medida que o fluxo de trabalho evoluir. É isso que queremos construir.
Acho que os aplicativos SaaS (Software as a Service) que existem hoje, esses aplicativos CRUD (Create, Read, Update, and Delete), vão mudar fundamentalmente porque a lógica de negócios vai se deslocar mais para a camada do agente. Na verdade, outro recurso interessante da minha experiência com o Copilot hoje é que, quando eu digo: "Estou me preparando para uma reunião com um cliente", tudo o que preciso fazer é dizer: "Dê-me todas as anotações da reunião que eu devo saber". Ele extrairá informações do meu banco de dados de CRM, extrairá informações do meu Microsoft Graph, criará um produto de trabalho composto e até aplicará lógica a ele. Acho que isso vai revolucionar os aplicativos SaaS como os conhecemos hoje.
Dwarkesh Patel
O SaaS como setor poderia valer centenas de bilhões ou até trilhões de dólares por ano, dependendo de como você conta. Se a IA realmente conseguir virar o setor de SaaS de cabeça para baixo, é possível que vocês consigam novamente aumentar a capitalização de mercado da Microsoft em 10 vezes na próxima década? Porque estamos falando de trilhões de dólares ......
Satya Nadella
Isso também criará um enorme valor no espaço SaaS. Uma das coisas a que talvez não estejamos prestando atenção suficiente é o enorme atraso de TI que existe no mundo.
Essas ferramentas de geração de código, combinadas com a capacidade de usar agentes para interrogar todos os seus aplicativos SaaS e obter mais utilidade deles, provocarão a maior explosão de aplicativos, que serão chamados de agentes e, de repente, teremos acesso a serviços em todos os setores, em todos os setores e em todas as categorias.
Portanto, há um enorme valor aqui. Você não pode ficar parado. Você não pode simplesmente se contentar com o velho modelo "eu схематизировал algum processo comercial restrito, tenho uma interface de usuário no navegador e esse é o meu produto". Esse não será mais o caso. Você precisa se mover para cima e pensar: "Quais são as tarefas em que preciso estar envolvido?"
Você deve ser capaz de transformar seu aplicativo SaaS em um excelente agente que possa participar de um mundo com vários agentes. Se você conseguir fazer isso, acho que poderá até aumentar o valor.
1:04:59 - 34 anos na Microsoft
Dwarkesh Patel
Posso fazer algumas perguntas sobre sua experiência na Microsoft?
Satya Nadella
É claro que sim.
Dwarkesh Patel
Ser uma "pessoa da empresa" é subestimado? Você passou a maior parte de sua carreira na Microsoft e, sem dúvida, um dos motivos pelos quais você conseguiu agregar tanto valor à empresa foi o fato de ter vivenciado em primeira mão a cultura, a história e a evolução tecnológica da empresa. Você acumulou todo esse conhecimento de base ao progredir na empresa. Mais pessoas com esse conhecimento prévio deveriam estar dirigindo a empresa?
Satya Nadella
Essa é uma boa pergunta. Eu não tinha pensado nisso dessa forma antes.
A cada ano de meus 34 anos na Microsoft, fico mais animado do que pensar: "Ah, sou apenas um funcionário da empresa", ou algo assim. Eu levo a sério o status de "homem da empresa", mesmo para quem entra na Microsoft. Eles se juntam à Microsoft desde que pensem que podem usar a Microsoft como uma plataforma para realizar suas recompensas financeiras, bem como seus objetivos e senso de propósito. Esse é o contrato entre nós.
Portanto, acho que sim, as empresas precisam criar uma cultura na qual as pessoas possam se adaptar e se tornar "pessoas da empresa" como eu. Pelo menos no meu caso, a Microsoft tem feito um bom trabalho nesse sentido, e espero que continue assim.
Dwarkesh Patel
Você fala sobre um sexto CEO que terá a oportunidade de capitalizar a pesquisa que está iniciando agora. O que está fazendo para reter os futuros Satya Nadella para que eles possam se tornar futuros líderes?
Satya Nadella
Isso é interessante. Tenho pensado muito sobre o 50º aniversário da Microsoft este ano. Acho que a chave para pensar sobre isso é que a longevidade não é o objetivo, mas sim a relevância.
O que eu e todos os 200.000 funcionários da Microsoft devemos fazer todos os dias é o seguinte: o que fazemos é útil e relevante para as tendências que vemos no mundo, não apenas hoje, mas amanhã?
Estamos em um setor em que não há valor de franquia, e esse é outro problema. Se você pegar o nosso orçamento de P&D para este ano, é um palpite completo sobre o que vai acontecer daqui a cinco anos. É preciso ter essa atitude e dizer a si mesmo: "Estamos fazendo coisas que achamos que serão relevantes".
Portanto, você precisa se concentrar nisso. Além disso, é preciso reconhecer que há uma questão de média de acerto e que não é possível ter sucesso todas as vezes - é preciso ter uma alta tolerância ao fracasso. É preciso fazer tentativas suficientes para poder dizer a si mesmo: "Ok, vamos conseguir passar por isso com sucesso como empresa". É isso que torna esse setor tão complicado.
Dwarkesh Patel
Por falar nisso, você mencionou anteriormente que faltam dois meses para o 50º aniversário da Microsoft. Se você observar as 10 ou 5 maiores empresas em termos de capitalização de mercado, basicamente todas elas, exceto a Microsoft, são mais jovens que ela. É uma observação interessante o fato de as empresas mais bem-sucedidas tenderem a ser jovens. A vida útil média de uma empresa da Fortune 500 é de apenas 10 a 15 anos.
O que a Microsoft fez para se manter relevante ao longo dos anos? Como vocês continuaram a se reinventar?
Satya Nadella
Gosto do uso do termo "refundação" por Reed Hoffman. É uma mentalidade. As pessoas falam sobre o modo fundador, mas para nós, CEOs mortais, é mais como o modo refundador.
Ser capaz de ver as coisas sob uma nova perspectiva é fundamental. Quanto à sua pergunta: Podemos criar culturalmente um ambiente em que a reinvenção de nós mesmos se torne um hábito? Vamos para o trabalho todos os dias e dizemos a nós mesmos: "Temos ações neste lugar que podem mudar as premissas fundamentais do que fazemos e de como nos relacionamos com o mundo ao nosso redor. Estamos nos permitindo fazer isso?" Acho que, muitas vezes, as empresas podem se sentir excessivamente limitadas por seu modelo de negócios ou por outros fatores. Você só precisa se libertar.
Dwarkesh Patel
Que tipo de empresa você criaria se deixasse a Microsoft?
Satya Nadellasorteio
A empresa que vou abrir? Oh, meu Deus. Esse é o "homem da empresa" em mim pensando: "Nunca deixarei a Microsoft".
Se eu estivesse pensando em fazer algo, acho que escolheria alguém com ...... Quando vejo o sonho da tecnologia, sempre dizemos que a tecnologia é a maior e melhor força de democratização.
Sinto que finalmente temos essa capacidade. Se estivermos falando sobre o número de tokens por dólar por watt que conseguimos atingir, gostaria de encontrar algumas áreas em que isso possa ser aplicado, algumas áreas que são severamente mal atendidas.
Saúde, educação ...... setor público também seria uma opção. Se você escolher essas áreas mal atendidas onde eu, como cidadão deste país ou membro desta sociedade, ou cidadão de qualquer lugar, se toda essa inteligência amplamente fornecida pudesse ser traduzida em melhor assistência médica, melhor educação e melhores instituições do setor público para me atender, minha vida seria melhor? Essa seria uma área que valeria a pena explorar.
13:10:46 - Satya Nadella acredita em AGI?
Dwarkesh Patel
Ao ouvir suas respostas a diferentes perguntas, não tenho certeza se você acha que a AGI é real. Será que algum dia haverá algo que possa automatizar todo o trabalho cognitivo, como qualquer coisa que qualquer pessoa possa fazer em um computador?
Satya Nadella
É nesse ponto que fico confuso com as pessoas que falam sobre a definição de AGI. O trabalho cognitivo não é estático. O trabalho cognitivo existe hoje. Se eu tiver uma caixa de entrada para gerenciar todos os meus agentes, isso é um novo tipo de trabalho cognitivo?
O trabalho cognitivo de hoje pode ser automatizado. Mas o que dizer do trabalho cognitivo recém-criado? Ambos precisam ser considerados, e essa é uma mudança ......
É por isso que faço a distinção, pelo menos em minha opinião, para não confundir trabalhadores do conhecimento com trabalho do conhecimento. O trabalho de conhecimento de hoje pode ser automatizado. Quem disse que meu objetivo na vida é classificar meu e-mail? Deixe que um agente de IA classifique meu e-mail.
Mas depois de classificar meus e-mails, me dê uma tarefa de trabalho cognitivo de nível mais alto, como "Ei, aqui estão os três rascunhos que eu realmente quero que você revise". É um nível diferente de abstração.
Dwarkesh Patel
Mas será que a IA chegará ao segundo nível?
Satya Nadella
Pode ser, mas quando atingir o segundo nível, haverá um terceiro. Por que achamos que nos preocupamos com o fato de que todo o trabalho cognitivo desaparecerá quando lidamos com as ferramentas que historicamente mudaram a definição de trabalho cognitivo?
Dwarkesh Patel
Tenho certeza de que você já ouviu os exemplos antes, por exemplo, que os cavalos ainda podem ser úteis em determinadas áreas e que há terrenos onde os carros não podem trafegar. Mas a questão é: você vê cavalos nas ruas? Milhões de cavalos serão empregados? Isso não vai acontecer.
Portanto, a pergunta é: algo semelhante pode acontecer com os seres humanos?
Satya Nadella
Mas isso é apenas em uma dimensão muito restrita? Os seres humanos só estão valorizando o que entendemos ser um certo "trabalho cognitivo" restrito há 200 anos.
Tomemos a química como exemplo. Se a computação quântica + IA realmente nos ajudar a fazer muitas novas pesquisas em ciência de materiais e assim por diante, então ter IA para novas pesquisas em ciência de materiais é ótimo. Mas será que isso elimina todas as outras coisas que os humanos podem fazer?
Por que não podemos viver em um mundo em que temos uma máquina cognitiva poderosa e sabemos que nossa agência cognitiva não é privada?
Dwarkesh Patel
Vou fazer uma pergunta que não diz respeito a você, mas sim a um cenário diferente para que você possa responder sem medo. Supondo que seja uma reunião de diretoria da Microsoft, você consideraria adicionar um membro de IA à diretoria? É provável que ele tenha discernimento, conhecimento prévio e compreensão geral suficientes para ser um consultor útil?
Satya Nadella
Este é um bom exemplo. Um dos recursos que adicionamos é um agente facilitador no Teams. O objetivo é que, embora ainda seja cedo, esse agente facilitador possa ser um bom facilitador usando a memória de longo prazo, não apenas o contexto da reunião, mas também o contexto do projeto em que estou trabalhando, a equipe e assim por diante?
Eu até gostaria de ver agentes líderes como esse nas reuniões da diretoria, porque é fácil se distrair nas reuniões da diretoria. Afinal de contas, os membros do conselho só vêm uma vez por trimestre e tentam digerir o que está acontecendo em uma empresa tão complexa como a Microsoft. Um agente líder que pode ajudar todos os membros humanos a manter o foco e se concentrar nas questões importantes é fantástico.
Na verdade, é o mesmo que ter, como você disse na pergunta anterior, algo que tenha uma memória infinita que possa nos ajudar. Você sabe, qual era a teoria de Herbert Simon? Todos nós temos uma racionalidade limitada. Portanto, seria ótimo se a racionalidade limitada humana pudesse ser resolvida por um amplificador cognitivo externo.
Dwarkesh Patel
Falando sobre o campo de materiais e química, acho que você disse recentemente. Você quer que o progresso dos próximos 250 anos seja realizado nos próximos 25 anos.Agora, quando imagino o que pode acontecer nos próximos 250 anos. Agora, quando imagino o que pode acontecer nos próximos 250 anos, penso em viagens espaciais, elevadores espaciais, imortalidade e curas para todas as doenças. O que você pensa sobre os próximos 25 anos?
Satya Nadella
Faço essa pergunta porque gosto da ideia de que a revolução industrial durou 250 anos. Tivemos que passar por todo o processo de transição de um sistema baseado em carbono para algo diferente.
Isso significa que é preciso revisar radicalmente tudo o que aconteceu na química nos últimos 250 anos. É por isso que eu quero que tenhamos computadores quânticos que possam nos ajudar a obter novos materiais que possamos fabricar para nos ajudar a enfrentar todos os desafios que enfrentamos aqui na Terra. E depois, sou totalmente a favor de viagens interestelares.
Dwarkesh Patel
Fantástico. Satya, muito obrigado por dedicar seu tempo a esta entrevista.
Satya Nadella
Muito obrigado. Essa entrevista foi ótima. Muito obrigado.
Dwarkesh Patel
Ok, obrigado.
Português do Brasil 
简体中文 
English 
日本語 
Deutsch