Discussion post-lancement de la société de recherche en IA Exa CEO reo3 : réflexions à la veille de l'AGI

préambule

J'ai récemment discuté de l'O3 (OpenAI o3) avec quelques amis, et leur réaction peut se résumer à "Oh mon Dieu, est-ce vraiment en train d'arriver ?".

Oui, c'est bien ce qui est en train de se passer. Les prochaines années vont être folles. C'est un moment d'une importance historique, voire galactique.

Il est incroyable qu'il n'y ait pas de discussion approfondie sur ce qui se passe. Les laboratoires d'aviation ne peuvent pas en parler, les médias en parlent à peine et le gouvernement ne le comprend pas.

Il est ironique que nous discutions de l'avenir de l'humanité sur nos réseaux sociaux. On se croirait dans une sitcom dystopique, mais c'est la réalité.

Voici quelques-unes de mes réflexions sur la situation actuelle - ma contribution à l'abîme de la pensée X-Platform. Il est important de noter que ces réflexions sont des suppositions intéressantes qui n'ont pas été entièrement étudiées. Je n'ai pas eu le temps de réfléchir en profondeur et d'examiner toutes les idées, dont beaucoup peuvent être erronées. Mais j'espère que ces idées aideront ceux qui essaient de comprendre la situation actuelle.

Impacts et tendances de l'O3

Rapidité des percées technologiques

• L'apparition d'O3 n'aurait pas dû être choquante. OpenAI nous a montré les graphiques de dilatation du temps il y a deux mois, et l'histoire du développement informatique nous apprend à faire confiance à ces lignes de tendance, aussi incroyables qu'elles puissent paraître.
• Ce qui est vraiment choquant, c'est que tout cela s'est concrétisé en deux mois. Nous sommes passés d'une IA de niveau universitaire à une IA de niveau doctoral. Le changement est excitant pour les humains, mais un changement aussi rapide est choquant.

Prévision des développements futurs

• Le modèle de niveau O3 permet d'optimiser toute tâche pour laquelle une fonction de récompense peut être définie.
• À court terme (1 an), nous obtiendrons un modèle de déséquilibre des capacités :
  • Niveau AGI en mathématiques, programmation et raisonnement général
  • Encore médiocre dans des domaines tels que l'écriture de romans
• À long terme (1 à 3 ans), les points faibles du modèle seront progressivement corrigés au fur et à mesure que la formation à l'apprentissage par renforcement dans de nouveaux domaines (données sur les sentiments, données perceptuelles, etc.) continuera d'être ajoutée.

Impact sur différents domaines

L'avenir des mathématiciens

• Les mathématiciens pourraient être l'un des groupes les plus vulnérables au remplacement de l'IA
• Le travail mathématique s'effectue principalement dans l'espace symbolique, avec moins de contact avec le monde physique.
• On prévoit que dans 700 jours, les humains ne seront plus les meilleurs mathématiciens de l'univers connu.

Le destin de l'ingénieur logiciel

impact à court terme

• Chaque ingénieur logiciel est équivalent à une promotion
• D'ici la fin de l'année 2025, le codage ressemblera davantage à la coordination de petits agents pour accomplir une variété de tâches
• Les tâches de relations publiques clairement réglementées pourront être effectuées par le système O4.

Perspectives à long terme

• L'essence de l'ingénierie logicielle reste la traduction des exigences en logique pure
• Le niveau d'abstraction du langage de programmation passera du binaire à l'anglais.
• Le personnel non technique pourra également participer à la programmation.
• Les meilleurs développeurs sont toujours ceux qui sont à l'aise pour passer d'un niveau d'abstraction à l'autre

Travail physique et robotique

• L'impact relativement lent de l'IA sur les travailleurs manuels
• Les principaux goulets d'étranglement sont les améliorations du matériel et les modèles d'action perceptive rapides et fiables
• Les percées dans le domaine de la robotique ne se produiront peut-être pas tant que les robots ne seront pas capables de construire des robots et que l'IA ne sera pas en mesure de mener des recherches sur l'IA.

Puissance de calcul et paysage concurrentiel

la concurrence pour les ressources informatiques

• Les grands laboratoires construisent des grappes de supercalculateurs
• La puissance de calcul peut être plus importante que l'avantage du modèle
• La mobilité des talents et l'échange d'informations entre les laboratoires rendent difficile le maintien d'un avantage technologique pendant plus d'un an.

Effets spéciaux de la modélisation au niveau O

• Incitation à la construction d'installations informatiques à grande échelle
• La position de NVIDIA sur le marché pourrait s'en trouver modifiée
• Les projets Open Source peuvent tirer profit de la combinaison de ressources informatiques mondiales

La révolution de la recherche scientifique

Sciences théoriques

• La physique théorique sera la première touchée
• L'IA peut accélérer la production et la validation de théories scientifiques
• Les expériences physiques et l'accès aux matériaux peuvent constituer des goulets d'étranglement pour les progrès.

Risques et défis

Principaux risques

1. Abus humain de l'IA
2. troubles sociaux
3. L'IA est hors de contrôle
4. Intensification des conflits internationaux

Réglementation et impact social

• La réglementation gouvernementale sera un facteur important dans le développement de l'IA
• Risque possible de terrorisme et d'éclatement de la société
• 2025 pourrait être la dernière année où l'IA se trouve encore à un stade de développement relativement fluide.

perspectives d'avenir

des attentes optimistes

• Découverte révolutionnaire en physique
• Des bases construites par des robots sur Mars et sur la Lune
• Le système de tutorat intelligent parfait
• Médicaments bio-améliorants sans effets secondaires
• Systèmes énergétiques efficaces et propres
• Des découvertes révolutionnaires plus méconnues

objectif ultime

• La réalisation de la superintelligence
• Toutes les possibilités permises par les lois de la physique
• Prolongation de la vie et voyages interstellaires
• Explorer les origines de l'univers

Recommandations d'action

Recommandations pour les particuliers

1. Développer des compétences efficaces en matière de résolution de problèmes
2. Améliorer les compétences en matière de travail d'équipe
3. S'adapter à un monde en mutation rapide
4. Passer de la réussite individuelle à la poursuite du progrès collectif

Contribution à la société

1. Développer des produits qui contribuent à la stabilité sociale
2. Diffusion d'informations de qualité
3. Participation à la gouvernance locale
4. Aider le monde à passer en douceur à l'ère de l'IA

remarques finales

À la veille de l'AGI, chacun d'entre nous a la responsabilité de façonner l'avenir. Il ne s'agit pas seulement d'une tâche pour les laboratoires d'IA, mais d'une mission collective pour l'ensemble de la communauté humaine. L'avenir est peut-être plein d'incertitudes, mais il est aussi plein d'opportunités sans précédent. Travaillons ensemble pour faire en sorte que cette révolution technologique soit synonyme de progrès et non de désastre.