Ontem, o CEO e cofundador da OpenAI, Sam Altman, publicou seu último artigo detalhado, Reflections, em seu blog pessoal.
A principal análise da criação da OpenAI nesses 9 anos: desde o início, que não estava fora do mundo exterior, até o lançamento do ChatGPT em 2022, desencadeou uma revolução global de IA, com mais de 300 milhões de usuários, e depois de sua demissão repentina, toda a OpenAI entrou em um estado de caos.
Isso também o fez perceber que sua gestão foi um grande fracasso, mas ele teve a sorte de ter muitas pessoas que o ajudaram durante o processo de recuperação e, posteriormente, reformulou o conselho da OpenAI para diversificar a gestão.
Em termos de perspectiva tecnológica, Sam escreve especificamente: "Agora estamos confiantes de que a AGI pode ser construída como tradicionalmente entendida.Em 2025, a OpenAI colocará on-line os primeiros agentes de IA para se juntarem à "força de trabalho" e mudarão substancialmente a eficiência dos resultados da empresa. Acreditamos firmemente que colocar continuamente ferramentas poderosas nas mãos das pessoas leva a resultados excelentes e amplamente distribuídos."
E o Agents também é um dos veículos mais importantes para a OpenAI desenvolver e aplicar a AGI, facilitando intuitivamente a automação de muitos processos comerciais repetitivos, complexos e incômodos de ponta a ponta.
Porque a essência da AGI é automatizar diferentes processos de negócios, liberando os seres humanos de processos de negócios chatos e sem sentido e usando seu tempo e energia em negócios com maior valor comercial.
Muitos de vocês que estão lendo este artigo reflexivo também estão muito interessados nos agentes de IA mencionados no artigo, que terão um enorme impacto na força de trabalho em 2025!
As pessoas não se dão conta de que o Grande Modelo não pode ser uma Inteligência Artificial Geral (AGI). Ele simplesmente não pode ser; trata-se de probabilidade e operações matemáticas. Logicamente, ele não pode ter a capacidade de perceber. Isso exigiria estocasticidade e a capacidade de ser um indivíduo, e essas não são coisas que podem ser alcançadas com base em dados históricos.
Os agentes de IA podem ser uma presença que possibilita a AGI, mas como algo que está apenas calculando a próxima palavra mais provável em uma resposta será capaz de agir de forma independente e traduzir isso em ação real?
Atualmente, a AGI é definida como um sistema de agentes capazes de produzir pelo menos tanto resultado econômico em um computador quanto qualquer ser humano. Ninguém menciona a senciência, o que é um tanto irrelevante nesse contexto.
Também circulei a parte do artigo sobre perspectivas tecnológicas.
Memórias reflexivas incríveis. Fico impressionado com o simples fato de estarmos falando, mencionando e discutindo a "superinteligência" e até mesmo almejando-a no início de 2025, o que significa que a inteligência artificial geral (AGI) já foi realizada.
Mal posso esperar para ver os agentes de IA se juntarem à força de trabalho, automatizarem o trabalho pesado e continuarem a evoluir.
Portanto, a OpenAI lançará Agentes de IA e AGI este ano, certo?
Além disso, Sam deliberadamente colocou os agentes atrás da AGI para IA de uso geral ao desenvolver o plano de lançamento de produtos da OpenAI para 2025, o que mostra a importância atribuída a eles.
Reflexões Originais
O segundo aniversário do ChatGPT foi há pouco mais de um mês, e agora passamos para uma nova fase de modelos capazes de raciocínio complexo. Como o Ano Novo sempre leva à contemplação, gostaria de compartilhar alguns pensamentos pessoais sobre como as coisas foram até agora e algumas das coisas que aprendi ao longo do caminho.
À medida que nos aproximamos da AGI (Inteligência Artificial Geral), é especialmente importante observar o processo de desenvolvimento da empresa. Ainda há muito a entender, muito que não sabemos, e ainda estamos nos estágios iniciais. Mas sabemos muito mais do que sabíamos quando começamos.
Fundamos a OpenAI há cerca de 9 anos porque acreditávamos que a AGI era possível e que poderia ser a tecnologia de maior impacto na história da humanidade. Queríamos descobrir como construí-la e torná-la amplamente benéfica para a humanidade; estávamos ansiosos para deixar nossa marca na história. Nossas ambições são extremamente altas, assim como nossa convicção de que esse trabalho pode beneficiar a sociedade de maneiras extraordinárias.
Naquela época, quase ninguém se importava e, se alguém se importava, era principalmente porque achava que não tínhamos chance de sucesso.
Em 2022, a OpenAI ainda é um laboratório de pesquisa silencioso que trabalha em um projeto chamado provisoriamente de "Chatting with GPT-3.5" (somos muito melhores em pesquisa do que em nomes). Temos observado as pessoas usarem os recursos de teste da nossa API e sabemos que os desenvolvedores realmente gostam de conversar com os modelos. Acreditamos que a criação de um produto de demonstração com base nessa experiência mostrará às pessoas algo importante para o futuro e nos ajudará a aprimorar e refinar o modelo para torná-lo mais seguro.
Por fim, tivemos a sorte de chamá-lo de ChatGPT e lançá-lo em 30 de novembro de 2022.
Sempre soubemos, de forma abstrata, que em algum momento chegaríamos a um ponto de inflexão e a revolução da IA teria início. Mas não sabíamos quando seria esse momento. Para nossa surpresa, este é o momento.
O lançamento do ChatGPT desencadeou uma curva de crescimento como nunca vimos antes - em nossa empresa, em nosso setor e no mundo em geral. Finalmente estamos vendo os enormes benefícios que sempre esperamos da IA, e podemos ver mais em breve.
Não é fácil. O caminho não é suave e a escolha certa não é óbvia.
Nos últimos dois anos, criamos uma empresa inteira em torno dessa nova tecnologia quase do zero. Não há outra maneira de treinar sua equipe a não ser fazendo-o, e quando a categoria de tecnologia é nova, simplesmente não há ninguém que possa lhe dizer exatamente o que fazer.
Criar uma empresa em alta velocidade com tanta falta de treinamento pode ser um processo caótico. Em geral, são dois passos para frente e um para trás (às vezes até um passo para frente e dois para trás). Os erros são corrigidos ao longo do caminho, mas não há realmente nenhum manual ou sinalização a ser seguida quando se faz um trabalho original. Avançar rapidamente por águas desconhecidas é uma experiência incrível, mas também é extremamente estressante para todos os envolvidos. Há muitos conflitos e mal-entendidos.
Esses anos têm sido, de longe, os mais gratificantes, interessantes, incríveis, divertidos, exaustivos, estressantes e, especialmente, os últimos dois anos têm sido particularmente desagradáveis. O sentimento predominante é de gratidão; sei que um dia vou me aposentar em nosso rancho, ver as plantas crescerem, ficar um pouco entediado e depois me lembrar de como foi legal ter o trabalho que eu sonhava em fazer desde criança. Tento me lembrar disso em qualquer sexta-feira, quando sete coisas dão muito errado até as 13 horas.
Em uma sexta-feira, há pouco mais de um ano, a principal coisa que deu errado naquele dia foi que fui abruptamente demitido do meu emprego durante uma chamada de vídeo e, em seguida, a diretoria publicou uma postagem no blog sobre isso logo depois de desligarmos. Eu estava em um quarto de hotel em Las Vegas. Parecia, quase inexplicavelmente, um sonho que deu errado.
Ser demitido em público sem aviso prévio provocou algumas horas e dias muito loucos. A "névoa da guerra" é a parte mais estranha. Nenhum de nós consegue obter uma resposta satisfatória sobre o que aconteceu ou por que aconteceu.
Na minha opinião, o caso todo foi um grande fracasso de governança por parte de pessoas de boa vontade, inclusive eu. Olhando para trás, certamente gostaria de ter feito as coisas de forma diferente na época, e gostaria de acreditar que sou um líder melhor e mais ponderado agora do que há um ano.
Também reconheço a importância de uma diretoria com perspectivas diversas e uma ampla gama de experiências no gerenciamento de um conjunto complexo de desafios. A boa governança requer muita confiança e credibilidade. Aplaudo o fato de tantas pessoas estarem trabalhando juntas para criar um sistema de governança mais forte para a OpenAI, que nos permitirá cumprir nossa missão de garantir que a AGI beneficie toda a humanidade.
Minha maior lição é o quanto sou grato e a quantas pessoas sou grato: a todos que trabalham na OpenAI e optam por dedicar seu tempo e energia para realizar esse sonho, aos nossos amigos que nos ajudaram em tempos de crise, aos nossos parceiros e clientes que nos apoiaram e confiaram em nós para ajudá-los a ter sucesso e às pessoas em minha vida que mostraram que se importam comigo.
Todos nós voltamos ao trabalho de uma forma muito mais coesa e positiva, e estou muito orgulhoso do foco que tivemos desde então. Realizamos algumas das melhores pesquisas que já fizemos. Aumentamos o número de usuários ativos semanais de cerca de 100 milhões para mais de 300 milhões. O mais importante é que continuamos a colocar no mundo tecnologias que as pessoas realmente adoram e que resolvem problemas reais.
Há nove anos, nós realmente não sabíamos o que teríamos; mesmo agora, temos apenas uma ideia geral. O desenvolvimento da inteligência artificial deu muitas voltas e reviravoltas, e esperamos que haja mais no futuro.
Algumas das reviravoltas foram agradáveis; outras foram difíceis. Tem sido divertido assistir ao surgimento de uma série de milagres na pesquisa, e muitos dos pessimistas se tornaram verdadeiros crentes. Também vimos alguns colegas saírem e se tornarem concorrentes. A rotatividade é comum quando as equipes ficam maiores, e a OpenAI está crescendo muito rapidamente. Acho que isso é inevitável - as startups costumam ter muita rotatividade a cada novo nível de escala maior e, na OpenAI, o número cresce exponencialmente a cada poucos meses.
Os últimos dois anos foram como dez anos em uma empresa comum. Quando uma empresa cresce e evolui tão rapidamente, os interesses naturalmente divergem. E quando qualquer empresa que é líder em um setor importante é atacada por muitos por uma série de motivos, especialmente quando tentam competir com ela.
Nossa visão não mudará; nossa estratégia continuará a evoluir. Por exemplo, no início, não sabíamos que tínhamos de criar uma empresa de produtos; achávamos que iríamos apenas fazer ótimas pesquisas. Também não sabíamos que precisaríamos de quantias tão grandes de dinheiro. Há coisas novas que não entendíamos há alguns anos, mas que agora temos que construir, e haverá coisas novas no futuro que mal podemos imaginar agora.
Estamos orgulhosos do nosso histórico de pesquisa e implantação até o momento e temos o compromisso de continuar avançando em nosso pensamento sobre segurança e compartilhamento de benefícios. Continuamos a acreditar que a melhor maneira de tornar os sistemas de IA seguros é lançá-los no mundo de forma iterativa e incremental, dando à sociedade tempo para se adaptar e evoluir com a tecnologia, aprender com a experiência e continuar a tornar a tecnologia mais segura. Acreditamos na importância de sermos líderes mundiais em pesquisa de segurança e alinhamento, e orientamos essa pesquisa com feedback de aplicações do mundo real.
Agora estamos confiantes de que a AGI está sendo construída como tradicionalmente entendida e acreditamos que, até 2025, poderemos ver os primeiros agentes de IA "se juntarem à força de trabalho" e mudarem substancialmente a eficiência da produção de uma empresa. Acreditamos firmemente que colocar ferramentas poderosas nas mãos das pessoas levará a resultados excelentes e amplamente distribuídos.
Estamos começando a olhar mais longe, em direção à verdadeira superinteligência. Adoramos nossos produtos atuais, mas estamos interessados em um futuro glorioso. Com a superinteligência, podemos fazer qualquer outra coisa. As ferramentas de superinteligência podem acelerar drasticamente a descoberta científica e a inovação muito além do que podemos fazer por conta própria e, por sua vez, aumentar drasticamente a abundância e a prosperidade.
Isso parece ficção científica neste momento, e até mesmo falar sobre isso é um pouco louco. Tudo bem - já passamos por isso antes e não temos nenhum problema em estar nessa situação novamente. Estamos muito confiantes de que todos verão o que vemos nos próximos anos, e é muito importante proceder com cautela e, ao mesmo tempo, maximizar os amplos benefícios e a capacitação. Dadas as possibilidades de nosso trabalho, a OpenAI não pode ser uma empresa comum.
É uma sorte e uma humildade poder desempenhar um papel nessa empreitada.
Agradeço a Josh Tyrangiel por ter me incentivado a escrever este texto. Gostaria de ter mais tempo.
Houve muitas pessoas que fizeram um trabalho incrível para ajudar a OpenAI e a mim pessoalmente durante esses dias, mas duas pessoas se destacaram.
Ron Conway e Brian Chesky foram tão além do dever que nem sei como descrever. Certamente ouvi falar da capacidade e da tenacidade de Ron ao longo dos anos, e passei muito tempo com Brian nos últimos anos e recebi muita ajuda e conselhos.
Mas não há nada como trabalhar lado a lado com as pessoas para ver do que elas são realmente capazes. Tenho motivos para acreditar que a OpenAI poderia ter se desintegrado sem a ajuda deles; eles trabalharam sem parar por dias a fio até que as coisas estivessem prontas.
Apesar do trabalho excepcionalmente árduo, eles estavam sempre calmos, tinham um pensamento estratégico claro e excelentes conselhos. Eles evitaram que eu cometesse vários erros sem cometer nenhum deles. Utilizaram sua ampla rede de contatos para tudo o que precisavam e foram capazes de lidar com muitas situações complexas. E tenho certeza de que eles fazem muitas coisas que eu não sei.
No entanto, o que mais me lembrarei é de sua preocupação, compaixão e apoio.
Inicialmente, eu achava que sabia o que era apoiar um fundador e também uma empresa, e até certo ponto eu sei. Mas eu nunca tinha visto, ou mesmo ouvido falar, do que pessoas como eles fazem antes, e agora entendo melhor por que eles têm um status lendário. Eles são diferentes, mas ambos merecem plenamente suas reputações verdadeiramente únicas, e são semelhantes em sua excepcional solução de problemas e capacidade de ajudar os outros, bem como em seu compromisso inabalável em tempos difíceis. O setor de tecnologia está muito melhor com a presença de ambos.
Há outros como eles; é algo muito especial em nosso setor e eles fazem mais do que as pessoas imaginam para ajudar a fazer com que tudo corra bem. Estou ansioso para retribuir aos outros.
Em uma nota pessoal, um agradecimento especial a Ollie por aquele fim de semana e por seu apoio contínuo; ele foi incrível em todos os sentidos e ninguém poderia ter pedido um companheiro melhor.