O CEO da OpenAI analisa a Economia da AGI: três observações que revelam mudanças revolucionárias na próxima década

Por Sam Altman, diretor executivo da OpenAI

A missão da OpenAI é garantir que a inteligência artificial generalizada (AGI) beneficie toda a humanidade.

A OpenAI acredita que os sistemas que apontam para a AGI estão surgindo, por isso é fundamental entender o momento em que estamos. AGI é um termo que define слабо, mas, em geral, a OpenAI considera a AGI como um sistema capaz de lidar com o aumento da complexidade em vários domínios até o nível de um ser humano.

Comentários: O fato de a definição de AGI permanecer vaga reflete a vanguarda e a incerteza dos desenvolvimentos atuais da IA. O reconhecimento da OpenAI da imprecisão de sua definição também sugere que o conceito de AGI ainda está em evolução.

Os seres humanos são construtores de ferramentas, com um impulso inato para entender e criar, o que torna o mundo um lugar melhor para todos nós. Cada geração se baseou nas descobertas de suas antecessoras para criar ferramentas mais poderosas - eletricidade, transistores, computadores, Internet e, em breve, AGI.

Com o passar do tempo, a marcha constante da inovação humana trouxe, de forma intermitente, prosperidade e melhorias sem precedentes para quase todos os aspectos da vida das pessoas.

Em um sentido, a AGI é apenas mais uma ferramenta no andaime cada vez mais alto do progresso que a humanidade está construindo em conjunto. Em outro sentido, a AGI é um começo, e é difícil não dizer "desta vez é diferente"; o crescimento econômico à nossa frente parece impressionante, e agora podemos imaginar um mundo em que podemos curar todas as doenças, ter mais tempo para passar com nossas famílias e realizar todo o potencial de nossa criatividade. potencial.

Comentários: Sam Altman descreve um futuro otimista impulsionado pela AGI, incluindo descobertas médicas e ganhos de produtividade. No entanto, essa visão otimista contrasta com os possíveis riscos e desafios éticos que a AGI pode trazer, como o deslocamento de empregos e a concentração de poder.

Talvez daqui a dez anos, cada pessoa no planeta seja capaz de realizar mais do que as pessoas mais influentes de hoje.

A OpenAI continua registrando um rápido progresso no desenvolvimento da IA. Aqui estão três observações sobre a economia da IA:

1. O nível de inteligência de um modelo de IA é aproximadamente igual ao logaritmo da quantidade de recursos usados para treiná-lo e executá-lo. Esses recursos são principalmente cálculos de treinamento, dados e cálculos de inferência. Parece que você pode gastar qualquer quantia de dinheiro e obter retornos consistentes e previsíveis; as leis de escala que preveem isso são precisas em várias ordens de magnitude.
2. O custo do uso de um determinado nível de IA cai em um fator de 10 aproximadamente a cada 12 meses, e os preços mais baixos levam a um maior uso. Você pode começar seu GPT-4 no início de 2023. Token Isso é visto no custo do token GPT-4o em meados de 2024, período em que o preço de cada token cai cerca de 150 vezes. A Lei de Moore mudou o mundo a uma taxa de 2x a cada 18 meses; isso é incrivelmente mais poderoso do que a Lei de Moore.
3. O valor socioeconômico do crescimento linear inteligente é inerentemente superexponencial. Um resultado disso é que a OpenAI não vê motivos para que os investimentos em crescimento exponencial parem em um futuro próximo.

Comentários: Essas três observações revelam os principais impulsionadores econômicos do desenvolvimento da IA: a correlação positiva entre o investimento em aritmética e o aprimoramento da inteligência, a onipresença provocada pela rápida redução dos custos e as enormes recompensas socioeconômicas do aprimoramento da inteligência. Entretanto, a sustentabilidade desse crescimento exponencial e o impacto sobre os recursos ambientais e sociais merecem uma análise mais profunda.

Se essas três observações continuarem sendo verdadeiras, o impacto na sociedade será enorme.

A OpenAI está começando a implementar um agente de IA que, no final, parecerá um colega virtual.

Vamos imaginar o caso de um agente de engenharia de software, que a OpenAI espera que seja particularmente importante. Imagine que esse agente seria capaz de realizar a maior parte do trabalho que um engenheiro de software com alguns anos de experiência em uma empresa de ponta poderia fazer, com tarefas que duram no máximo alguns dias. Ele não terá as melhores ideias novas, precisará de muita supervisão e orientação humana e será muito bom em algumas coisas, mas surpreendentemente ruim em outras.

No entanto, pense nele como um colega virtual real, mas relativamente elementar. Agora imagine 1.000 desses agentes, ou um milhão. Agora imagine um agente desse tipo para cada área de trabalho de conhecimento.

Comentários: O surgimento do agente de IA anuncia uma profunda mudança nos padrões de trabalho, e Sam Altman destaca seu potencial como um "colega virtual", especialmente em áreas de conhecimento intensivo, como a engenharia de software. Entretanto, ainda não se sabe quais são as limitações dos agentes de IA em termos de criatividade, solução de problemas complexos e interações interpessoais, bem como seu possível impacto sobre os empregos existentes.

De certa forma, a IA pode acabar sendo economicamente semelhante aos transistores - uma descoberta científica maciça que se expande bem e penetra em quase todos os setores da economia. Não pensamos muito em transistores ou em empresas de transistores; os benefícios são amplamente distribuídos. Mas queremos que nossos computadores, TVs, carros, brinquedos etc. funcionem maravilhosamente bem.

O mundo não vai mudar de uma só vez; nunca mudou. No curto prazo, a vida será, em grande parte, como de costume, e as pessoas em 2025 passarão seu tempo da mesma forma que em 2024. Ainda estaremos nos apaixonando, formando famílias, discutindo on-line, fazendo caminhadas na natureza e assim por diante.

Mas o futuro chegará até nós de uma forma que não pode ser ignorada, e as mudanças de longo prazo em nossas sociedades e economias serão enormes. Encontraremos novas coisas para fazer, novas maneiras de sermos úteis uns aos outros e novas maneiras de competir, mas elas podem ser muito diferentes do que fazemos hoje.

A motivação, a força de vontade e a determinação podem ser inestimáveis. Tomar as decisões certas sobre o que fazer e descobrir como navegar em um mundo em constante mudança será de imenso valor. A resiliência e a adaptabilidade serão habilidades que ajudarão a desenvolver. A AGI será a maior alavanca para a força de vontade humana de todos os tempos e dará aos indivíduos mais influência do que nunca, e não menos.

A OpenAI espera que o impacto da AGI seja desigual. Enquanto alguns setores sofrerão poucas mudanças, os avanços científicos poderão ser muito mais rápidos do que são hoje; esse impacto da AGI poderá superar todos os outros.

Os preços de muitos bens acabarão caindo drasticamente (no momento, os custos inteligentes e os custos de energia limitam muitas coisas), enquanto os preços dos bens de luxo e de alguns recursos inerentemente escassos (como a terra) provavelmente aumentarão ainda mais acentuadamente.

Tecnicamente, o caminho à frente da OpenAI parece bastante claro. Mas as políticas públicas e a opinião coletiva sobre como devemos integrar a AGI à sociedade são importantes; um dos motivos pelos quais a OpenAI está sendo lançada cedo e com frequência é para dar à sociedade e à tecnologia tempo para evoluírem juntas.

Comentários: A OpenAI enfatiza a sincronicidade do desenvolvimento tecnológico e da adaptação social. Lançar produtos o mais cedo possível para dar à sociedade tempo para se adaptar e moldar a direção da AGI é uma estratégia positiva. Entretanto, como equilibrar a velocidade da inovação, as considerações éticas e a equidade social nesse processo de "coevolução" continua sendo uma questão complexa.

A IA permeará todas as áreas da economia e da sociedade; esperamos que tudo seja inteligente. Muitos na OpenAI esperam que as pessoas precisem ter mais controle sobre a tecnologia do que nunca, incluindo mais código aberto, e aceitam que há um equilíbrio a ser alcançado entre segurança e capacitação pessoal.

Embora a OpenAI nunca queira ser imprudente, e possa haver algumas decisões e limitações importantes relacionadas à segurança da AGI que não seriam bem-vindas, em termos de direção, a OpenAI vê uma forte preferência por mais empoderamento individual à medida que se aproxima de alcançar a AGI; outro caminho possível que a OpenAI poderia ver é a IA sendo outro caminho possível para a OpenAI é a IA ser usada por governos autoritários para controlar suas populações por meio de vigilância em massa e perda de autonomia.

É fundamental garantir que os benefícios da AGI sejam amplamente distribuídos. O impacto histórico dos avanços tecnológicos sugere que a grande maioria dos indicadores com os quais nos preocupamos (resultados de saúde, prosperidade econômica etc.) melhoram em média e a longo prazo, mas a melhoria da igualdade não parece ser determinada pela tecnologia, e fazer isso da forma correta pode exigir uma nova forma de pensar.

Comentários: Sam Altman expressou preocupação com cenários potencialmente negativos para a AGI, como governos autoritários usando a IA para controle social. Ao mesmo tempo, ele enfatizou a importância de encontrar um equilíbrio entre segurança e capacitação individual e a necessidade de garantir que a AGI beneficie a todos. Essa consciência da faca de dois gumes da tecnologia é louvável.

Em particular, o equilíbrio de poder entre capital e trabalho parece ser facilmente prejudicado, o que pode exigir uma intervenção precoce. A OpenAI está aberta a algumas ideias que soam estranhas, como a concessão de um "orçamento de computação" para permitir que todos no planeta usem muita IA, mas a OpenAI também vê muitas maneiras de obter o efeito desejado simplesmente reduzindo impiedosamente o custo da inteligência.

Qualquer pessoa em 2035 deveria ser capaz de mobilizar o equivalente à capacidade intelectual de qualquer pessoa em 2025; todos deveriam ter o direito a um talento ilimitado e a serem orientados de qualquer forma que possam imaginar. A produção criativa resultante de um mundo em que uma grande quantidade de talento não tem os recursos para se expressar plenamente seria um enorme benefício para todos nós se conseguíssemos mudar essa situação.

Agradecimentos especiais a Josh Achiam, Boaz Barak e Aleksander Madry pela revisão das versões preliminares.

*O uso da terminologia da AGI neste documento foi planejado pela OpenAI para se comunicar claramente e a OpenAI não tem intenção de alterar ou interpretar as definições e os processos que definem o relacionamento da OpenAI com a Microsoft. A OpenAI tem toda a intenção de trabalhar com a Microsoft a longo prazo. Essa nota de rodapé pode parecer boba, mas, por outro lado, a OpenAI sabe que alguns jornalistas tentarão obter cliques escrevendo coisas bobas, portanto, a OpenAI está preventivamente desencorajando essa bobagem aqui ......

Comentários: Em uma nota de rodapé no final do artigo, a OpenAI destaca seu relacionamento de longa data com a Microsoft e refuta preventivamente qualquer possível "hype" que possa surgir, refletindo a abordagem cautelosa da OpenAI em relação ao desenvolvimento de tecnologia e parcerias comerciais.