Le PDG d'OpenAI se penche sur l'économie de l'AGI : trois observations qui révèlent des changements perturbateurs au cours de la prochaine décennie

Par Sam Altman, directeur général, OpenAI

La mission de l'OpenAI est de veiller à ce que l'intelligence artificielle généralisée (AGI) profite à l'ensemble de l'humanité.

L'OpenAI estime que des systèmes pointant vers l'AGI sont en train d'émerger, il est donc essentiel de comprendre le moment dans lequel nous nous trouvons. L'AGI est un terme qui définit слабо, mais en général, l'OpenAI considère l'AGI comme un système capable de faire face à une complexité croissante dans de multiples domaines, jusqu'au niveau d'un être humain.

Commentaires : Le fait que la définition de l'AGI reste vague reflète l'avant-garde et l'incertitude des développements actuels de l'IA. La reconnaissance par l'OpenAI du caractère vague de sa définition suggère également que le concept d'AGI est toujours en évolution.

L'homme est un bâtisseur d'outils, doté d'une volonté innée de comprendre et de créer, ce qui rend le monde meilleur pour chacun d'entre nous. Chaque génération s'est appuyée sur les découvertes de ses prédécesseurs pour créer des outils plus puissants : l'électricité, les transistors, les ordinateurs, l'internet et bientôt l'intelligence artificielle.

Au fil du temps, la marche régulière de l'innovation humaine a apporté, par intermittence, une prospérité et une amélioration sans précédent à presque tous les aspects de la vie des gens.

Dans un sens, l'AGI n'est qu'un outil de plus dans l'échafaudage toujours plus haut du progrès que l'humanité est en train de construire ensemble. Dans un autre sens, l'AGI est un début, et il est difficile de ne pas dire "cette fois, c'est différent" ; la croissance économique qui nous attend est stupéfiante, et nous pouvons maintenant imaginer un monde où nous pourrons guérir toutes les maladies, avoir plus de temps à consacrer à nos familles, et réaliser le plein potentiel de notre créativité. potentiel.

Commentaires : Sam Altman dépeint un avenir optimiste, porté par l'AGI, avec des percées médicales et des gains de productivité. Toutefois, cette vision optimiste contraste avec les risques potentiels et les défis éthiques que l'AGI peut entraîner, tels que le déplacement d'emplois et la concentration du pouvoir.

Peut-être que dans dix ans, chaque personne sur la planète sera capable d'accomplir plus que les personnes les plus influentes aujourd'hui.

L'OpenAI continue de voir des progrès rapides dans le développement de l'IA. Voici trois observations sur l'économie de l'IA :

1. Le niveau d'intelligence d'un modèle d'IA est à peu près égal au logarithme de la quantité de ressources utilisées pour l'entraîner et le faire fonctionner. Ces ressources sont principalement des calculs de formation, des données et des calculs d'inférence. Il semble que l'on puisse dépenser n'importe quelle somme d'argent et obtenir des rendements constants et prévisibles ; les lois d'échelle qui prédisent cela sont précises sur plusieurs ordres de grandeur.
2. Le coût d'utilisation d'un niveau donné d'IA diminue d'un facteur 10 environ tous les 12 mois, et la baisse des prix entraîne une plus grande utilisation. Vous pouvez commencer votre GPT-4 au début de l'année 2023. Jeton C'est ce que montre le coût du token GPT-4o à la mi-2024, période au cours de laquelle le prix de chaque token diminue d'environ 150 fois. La loi de Moore a changé le monde à un rythme de 2 fois tous les 18 mois ; cette loi est incroyablement plus puissante que la loi de Moore.
3. La valeur socio-économique d'une croissance linéaire intelligente est intrinsèquement super-exponentielle. L'une des conséquences est que l'OpenAI ne voit aucune raison pour que la croissance exponentielle des investissements s'arrête dans un avenir proche.

Commentaires : Ces trois observations révèlent les principaux moteurs économiques du développement de l'IA : la corrélation positive entre l'investissement arithmétique et l'amélioration de l'intelligence, l'ubiquité due à la baisse rapide des coûts et les énormes avantages socio-économiques de l'amélioration de l'intelligence. Toutefois, la durabilité de cette croissance exponentielle et l'impact sur les ressources environnementales et sociales méritent un examen plus approfondi.

Si ces trois observations se confirment, l'impact sur la société sera énorme.

OpenAI commence à déployer un agent d'intelligence artificielle qui, à terme, ressemblera à un collègue virtuel.

Imaginons le cas d'un agent de génie logiciel, dont l'OpenAI prévoit qu'il sera particulièrement important. Imaginons qu'un tel agent soit finalement capable de faire la plupart du travail qu'un ingénieur logiciel ayant quelques années d'expérience dans une entreprise de premier plan pourrait faire, avec des tâches d'une durée maximale de quelques jours. Il n'aura pas les meilleures idées, il aura besoin de beaucoup de supervision et de conseils humains, et il sera très bon dans certains domaines, mais étonnamment mauvais dans d'autres.

Néanmoins, considérez-le comme un collègue virtuel réel mais relativement élémentaire. Imaginez maintenant 1 000 agents de ce type, ou un million. Imaginez maintenant un tel agent pour chaque domaine de connaissance.

Commentaires : L'émergence de l'agent d'intelligence artificielle annonce un changement profond des modèles de travail, et Sam Altman souligne son potentiel en tant que "collègue virtuel", en particulier dans les domaines à forte intensité de connaissances tels que l'ingénierie logicielle. Toutefois, il reste à voir quelles sont les limites des agents d'IA en termes de créativité, de résolution de problèmes complexes et d'interaction humaine, ainsi que leur impact potentiel sur les emplois existants.

D'une certaine manière, l'IA pourrait finir par ressembler, d'un point de vue économique, aux transistors - une découverte scientifique massive qui s'étend bien et pénètre presque tous les secteurs de l'économie. Nous ne pensons pas beaucoup aux transistors ou aux entreprises de transistors ; les avantages sont très largement répartis. Mais nous voulons que nos ordinateurs, nos téléviseurs, nos voitures, nos jouets, etc. fonctionnent à merveille.

Le monde ne va pas changer d'un seul coup, il ne l'a jamais fait. À court terme, la vie se déroulera en grande partie comme d'habitude, et les gens de 2025 passeront leur temps en grande partie de la même manière qu'ils l'ont fait en 2024. Nous continuerons à tomber amoureux, à fonder des familles, à nous disputer en ligne, à faire des randonnées dans la nature, etc.

Mais l'avenir se présentera à nous d'une manière qu'on ne peut ignorer, et les changements à long terme de nos sociétés et de nos économies seront énormes. Nous trouverons de nouvelles activités, de nouvelles façons d'être utiles les uns aux autres et de nouvelles façons d'être compétitifs, mais elles pourraient être très différentes de ce que nous faisons aujourd'hui.

La motivation, la volonté et la détermination peuvent être inestimables. Prendre les bonnes décisions sur ce qu'il faut faire et trouver comment naviguer dans un monde en constante évolution sera d'une immense valeur. La résilience et la capacité d'adaptation seront des compétences qui aideront à se développer. L'AGI sera le plus grand levier de la volonté humaine et donnera aux individus plus d'influence que jamais, et non moins.

L'OpenAI s'attend à ce que l'impact de l'AGI soit inégal. Alors que certaines industries connaîtront peu de changements, les progrès scientifiques pourraient être beaucoup plus rapides qu'aujourd'hui ; cet impact de l'AGI pourrait l'emporter sur tout le reste.

Les prix de nombreux biens finiront par chuter de manière spectaculaire (pour l'instant, les coûts intelligents et les coûts énergétiques limitent beaucoup de choses), tandis que les prix des produits de luxe et de certaines ressources intrinsèquement rares (comme la terre) sont susceptibles d'augmenter encore plus fortement.

Techniquement, la voie à suivre pour l'OpenAI semble assez claire. Mais la politique publique et l'opinion collective sur la manière dont nous devrions intégrer l'AGI dans la société sont importantes ; l'une des raisons pour lesquelles l'OpenAI sort tôt et souvent est de donner à la société et à la technologie le temps d'évoluer ensemble.

Commentaires : L'OpenAI met l'accent sur la synchronisation du développement technologique et de l'adaptation sociale. Lancer des produits le plus tôt possible pour donner à la société le temps de s'adapter et de façonner l'orientation de l'AGI est une stratégie positive. Cependant, la question de savoir comment équilibrer la vitesse de l'innovation, les considérations éthiques et l'équité sociale dans ce processus de "coévolution" reste complexe.

L'IA s'infiltrera dans tous les domaines de l'économie et de la société ; nous nous attendrons à ce que tout soit intelligent. De nombreux membres de l'OpenAI s'attendent à ce que les gens aient plus de contrôle sur la technologie que jamais auparavant, y compris plus d'open source, et acceptent qu'il y ait un équilibre à trouver entre la sécurité et l'autonomisation personnelle.

Bien que l'OpenAI ne veuille jamais être imprudente et qu'il puisse y avoir des décisions majeures et des limitations liées à la sécurité de l'AGI qui ne seraient pas les bienvenues, l'OpenAI voit une forte préférence pour plus d'autonomie individuelle à mesure que l'OpenAI se rapproche de l'AGI ; une autre voie possible que l'OpenAI pourrait voir est l'IA utilisée par des gouvernements autoritaires pour contrôler leurs populations par la surveillance de masse et la perte d'autonomie. L'OpenAI pourrait également envisager que l'IA soit utilisée par des gouvernements autoritaires pour contrôler leurs populations par le biais de la surveillance de masse et de la perte d'autonomie.

Il est essentiel de veiller à ce que les avantages de l'intelligence artificielle soient largement répartis. L'impact historique des avancées technologiques suggère que la grande majorité des indicateurs qui nous intéressent (résultats sanitaires, prospérité économique, etc.) s'améliorent en moyenne et à long terme, mais l'amélioration de l'égalité ne semble pas être déterminée par la technologie, et il faudra peut-être adopter une nouvelle approche pour y parvenir.

Commentaires : Sam Altman s'est inquiété des scénarios potentiellement négatifs pour l'AGI, tels que les gouvernements autoritaires utilisant l'IA pour le contrôle social. Dans le même temps, il a souligné l'importance de trouver un équilibre entre la sécurité et l'autonomie individuelle, et la nécessité de veiller à ce que l'AGI profite à tout le monde. Cette prise de conscience de l'épée à double tranchant de la technologie est louable.

En particulier, l'équilibre du pouvoir entre le capital et le travail semble être facilement perturbé, ce qui pourrait nécessiter une intervention précoce. OpenAI est ouverte à certaines idées étranges, telles que l'octroi d'un "budget informatique" pour permettre à tous les habitants de la planète d'utiliser beaucoup d'IA, mais OpenAI voit également de nombreuses façons d'obtenir l'effet désiré simplement en abaissant impitoyablement le coût de l'intelligence.

Quiconque en 2035 devrait pouvoir mobiliser l'équivalent de la capacité intellectuelle de quiconque en 2025 ; chacun devrait avoir le droit d'avoir un talent illimité et d'être guidé de toutes les manières qu'il peut imaginer. La production créative qui résulterait d'un monde où de nombreux talents n'ont pas les moyens de s'exprimer pleinement serait un immense avantage pour nous tous si nous parvenions à changer cette situation.

Nous remercions tout particulièrement Josh Achiam, Boaz Barak et Aleksander Madry pour la relecture des versions préliminaires.

*L'utilisation de la terminologie de l'AGI dans le présent document est voulue par l'OpenAI pour communiquer clairement et l'OpenAI n'a pas l'intention de changer ou d'interpréter les définitions et les processus qui définissent la relation de l'OpenAI avec Microsoft. L'OpenAI a la ferme intention de travailler avec Microsoft à long terme. Cette note de bas de page peut sembler stupide, mais d'un autre côté, OpenAI sait que certains journalistes essaieront d'obtenir des clics en écrivant des choses stupides, c'est pourquoi OpenAI décourage préventivement de telles bêtises ici .......

Commentaires : Dans une note de bas de page à la fin de l'article, OpenAI souligne sa relation de longue date avec Microsoft et réfute de manière préventive les éventuelles interprétations "hype", reflétant l'approche prudente d'OpenAI en matière de développement technologique et de partenariats commerciaux.