preâmbulo
Recentemente, conversei sobre o O3 (OpenAI o3) com alguns amigos, e a reação deles pode ser resumida basicamente em: "Meu Deus, isso está realmente acontecendo?"
Sim, isso está realmente acontecendo. Os próximos anos serão uma loucura. Este é um momento de importância histórica, se não for de nível galáctico.
Por incrível que pareça, não há uma discussão aprofundada sobre o que está acontecendo. Os laboratórios de IA não conseguem falar sobre isso, a mídia de notícias quase não informa sobre o assunto e o governo não o entende.
É irônico que estejamos até mesmo discutindo o futuro da humanidade por meio de nossos feeds de mídia social, parece um seriado distópico, mas essa é a realidade.
Aqui estão algumas de minhas ideias sobre a situação atual - minha contribuição para o abismo do pensamento sobre a plataforma X. É importante observar que essas ideias são suposições interessantes que não foram totalmente analisadas. Não tive tempo suficiente para pensar profundamente e examinar todas as ideias, muitas das quais podem estar erradas. Mas espero que essas ideias ajudem aqueles que estão tentando entender a situação atual.
Impactos e tendências do O3
Velocidade dos avanços tecnológicos
- O aparecimento do O3 não deveria ter sido chocante. A OpenAI nos mostrou os gráficos de teste de dilatação do tempo há dois meses, e a história do desenvolvimento de computadores nos ensina a confiar nessas linhas de tendência, por mais inacreditáveis que possam parecer.
- O que é realmente chocante é que tudo isso se concretizou em dois meses. Passamos da IA de nível universitário para a IA de nível de doutorado. Mudanças são empolgantes para os seres humanos, mas mudanças tão rápidas são chocantes.
Previsão de desenvolvimentos futuros
- O modelo de nível O3 tem bom desempenho na otimização de qualquer tarefa para a qual uma função de recompensa possa ser definida.
- No curto prazo (1 ano), obteremos um modelo de desequilíbrio de capacidade:
- Nível AGI em matemática, programação e raciocínio geral
- Ainda medíocre em áreas como a escrita de romances
- A longo prazo (1 a 3 anos), os pontos cegos do modelo serão gradualmente corrigidos à medida que o treinamento de aprendizagem por reforço em novos domínios (dados de sentimentos, dados perceptuais etc.) continuar a ser adicionado.
Impacto em várias áreas
O futuro dos matemáticos
- Os matemáticos podem ser um dos grupos mais vulneráveis à substituição da IA
- O trabalho matemático ocorre principalmente no espaço simbólico, com menos contato com o mundo físico
- Prevê-se que, dentro de 700 dias, os seres humanos poderão deixar de ser os melhores matemáticos do universo conhecido
O destino do engenheiro de software
impacto de curto prazo
- Todo engenheiro de software é equivalente a receber uma promoção
- Até o final de 2025, a codificação será mais parecida com a coordenação de pequenos agentes para realizar uma variedade de tarefas
- As tarefas de RP claramente regulamentadas poderão ser realizadas pelo sistema O4
Perspectiva de longo prazo
- A essência da engenharia de software continua sendo a tradução dos requisitos em lógica pura
- O nível de abstração da linguagem de programação será elevado de binário para inglês
- A equipe não técnica também poderá participar da programação
- Os melhores desenvolvedores ainda são aqueles que se sentem à vontade para alternar entre diferentes níveis de abstração
Trabalho físico e robótica
- O impacto relativamente lento da IA sobre os trabalhadores manuais
- Os principais gargalos são melhorias no hardware e modelos de ação perceptual rápidos e confiáveis
- Os avanços da robótica podem não ocorrer até que os robôs sejam capazes de construir robôs e a IA seja capaz de conduzir pesquisas sobre IA
Poder de computação e cenário competitivo
concorrência por recursos de computação
- Os principais laboratórios estão criando clusters de supercomputação
- O poder computacional pode ser mais importante do que a vantagem do modelo
- A mobilidade de talentos e a troca de informações entre laboratórios dificultam a manutenção da vantagem tecnológica por mais de um ano
Efeitos especiais da modelagem de nível O
- Incentivou a construção de instalações de computação em grande escala
- Pode mudar a posição de mercado da NVIDIA
- Projetos de código aberto podem ganhar vantagem com a combinação de recursos globais de computação
A revolução na pesquisa científica
Ciências teóricas
- A física teórica será a primeira a ser afetada
- A IA pode acelerar a geração e a validação de teorias científicas
- Experimentos físicos e acesso a materiais podem ser gargalos para o progresso
Riscos e desafios
Principais riscos
- Abuso humano da IA
- agitação social
- A IA está fora de controle
- Intensificação dos conflitos internacionais
Regulamentação e impacto social
- A regulamentação governamental será um fator importante no desenvolvimento da IA
- Possível risco de terrorismo e colapso social
- 2025 poderá ser o último ano em que a IA ainda estará em um estágio de desenvolvimento relativamente livre
perspectivas futuras
expectativas otimistas
- Descoberta física revolucionária
- Bases construídas por robôs em Marte e na Lua
- O sistema de tutoria inteligente perfeito
- Medicamentos bioaumentadores com zero efeito colateral
- Sistemas de energia eficientes e limpos
- Mais descobertas inovadoras desconhecidas
objetivo final
- A realização da superinteligência
- Todas as possibilidades permitidas pelas leis da física
- Extensão da vida e viagens interestelares
- Explorando as origens do universo
Recomendações para ação
Recomendações para indivíduos
- Desenvolver habilidades eficientes de resolução de problemas
- Aprimorar as habilidades de trabalho em equipe
- Adaptação a um mundo em rápida mudança
- Passando do sucesso individual para a busca do progresso coletivo
Contribuição para a sociedade
- Desenvolvimento de produtos que contribuam para a estabilidade social
- Divulgação de informações de qualidade
- Participação na governança local
- Ajudando o mundo a fazer uma transição suave para a era da IA
observações finais
Às vésperas da AGI, cada um de nós tem a responsabilidade de moldar o futuro. Essa não é uma tarefa apenas dos laboratórios de IA, mas uma missão coletiva de toda a comunidade humana. O futuro pode estar cheio de incertezas, mas também está repleto de oportunidades sem precedentes. Vamos trabalhar juntos para garantir que essa revolução tecnológica traga progresso, e não desastres.