Le dernier article de 10 000 mots du PDG de Claude est plus rationnel et pratique que Sam Altman !

Anthropique Dans leurs derniers articles, Dario Amodei, PDG d'OpenAI, et Sam Altman, PDG d'OpenAI, montrent les différentes orientations de leurs entreprises en ce qui concerne l'IA. Sam Altman se concentre sur la commercialisation de l'IA et les percées technologiques, en mettant l'accent sur la promotion des capacités de l'IA grâce au calcul à grande échelle et à l'exploitation des données. Dario Amodei se concentre davantage sur l'impact à long terme de l'IA sur la société humaine et sur la sécurité, tandis que Sam Altman est plus enclin à réaliser la valeur commerciale de l'IA et le changement social grâce au progrès technologique.

Dario Amodei est titulaire d'un doctorat en neurosciences de Stanford, et dans son dernier article, Machines of Loving Grace, il décrit l'impact positif d'une future intelligence artificielle forte (il préfère ne pas l'appeler AGI) sur les humains, avec des processus de raisonnement rigoureux et détaillés dans chaque domaine qui sont beaucoup plus rationnels, objectifs et pertinents que Sam Altman !

Cet article de 10 000 mots mérite d'être lu par tous ceux qui s'intéressent à l'IA.

En raison de sa longueur, j'ai résumé les parties essentielles de l'article. Je vous recommande néanmoins de lire l'article original, qui est suivi d'une traduction du texte original.

Argument principal : Amodei pense que l'IA forte (il évite d'utiliser le terme AGI) a le potentiel d'améliorer radicalement la vie humaine, malgré les risques. Il prédit que dans les 5 à 10 ans qui suivront l'émergence de l'IA forte, nous assisterons à de grandes avancées dans les domaines de la biologie, des neurosciences, du développement économique, de la gouvernance pacifique, du travail et du sens.

Composante clé :

Le potentiel de l'IA forte est sous-estimé : Amodei affirme que la plupart des gens sous-estiment les avantages potentiels de l'IA forte, tout comme ils sous-estiment ses risques. Il affirme que l'IA forte conduira à un avenir fondamentalement positif et que le risque est le seul obstacle à la réalisation de cet avenir". Je pense que la plupart des gens sous-estiment les avantages potentiels de l'IA forte autant qu'ils sous-estiment ses risques".

Définitions et cadres pour l'IA forte :Amodei définit l'IA forte comme un système d'IA similaire aux modèles de langage à grande échelle actuels, qui est plus intelligent que les lauréats du prix Nobel et possède des capacités d'interface et d'action équivalentes à celles de l'homme. Il prédit que l'IA forte émergera en 2026 ou avant et prendra la forme d'une "nation de génies centrés sur les données". L'IA forte, par laquelle j'entends un modèle d'IA susceptible d'être formellement similaire aux modèles de langage à grande échelle actuels, bien qu'il puisse être basé sur une architecture différente, impliquer de multiples modèles d'interaction et être formé différemment, possède les propriétés suivantes :

En termes d'intelligence pure, il est plus intelligent qu'un lauréat du prix Nobel dans la plupart des domaines concernés : biologie, programmation, mathématiques, ingénierie, écriture, etc. Cela signifie qu'il peut prouver des théorèmes mathématiques non résolus, écrire de très bons romans, créer des bases de code difficiles à partir de zéro, etc.

Limites aux progrès de l'IA : Amodei a introduit le concept de "gains marginaux de l'intelligence", qui suggère que des facteurs autres que l'intelligence elle-même peuvent limiter le taux de progression de l'IA, tels que la vitesse du monde extérieur, le besoin de données, la complexité intrinsèque, les limites humaines et les lois de la physique.

"Je pense qu'à l'ère de l'IA, nous devrions parler des avantages marginaux de l'intelligence et essayer de déterminer quels sont les autres facteurs complémentaires à l'intelligence et quels sont les facteurs limitants lorsque l'intelligence est très élevée.

Cinq domaines clés de changement :

1. biologie et santé M. Amodei prédit que l'IA forte accélérera l'ensemble du processus de recherche biologique, comprimant les 50 à 100 prochaines années de progrès biologiques et médicaux en 5 à 10 ans. Cela permettra de prévenir et de traiter de manière fiable la quasi-totalité des maladies infectieuses naturelles, d'éliminer la plupart des cancers, de prévenir et de traiter efficacement les troubles génétiques, de prévenir la maladie d'Alzheimer et d'allonger la durée de vie humaine.

"Ma prédiction de base est que la biologie et la médecine basées sur l'IA nous permettront de comprimer en 5 à 10 ans les progrès que les biologistes humains réaliseront au cours des 50 à 100 prochaines années. C'est ce que j'appelle le "21e siècle compressé" : c'est-à-dire qu'après le développement d'une IA forte, nous ferons en quelques années toutes les avancées en biologie et en médecine que nous avons faites tout au long du 21e siècle".

2. les neurosciences et la psychologie :M. Amodei estime que l'IA forte révolutionnera les domaines des neurosciences et de la santé mentale en accélérant la découverte d'outils et de techniques neuroscientifiques, ainsi qu'en appliquant les connaissances de l'IA elle-même (par exemple, l'interprétabilité et les hypothèses de mise à l'échelle). Cela permettra de guérir ou de prévenir la plupart des maladies mentales, ainsi que de développer considérablement les capacités cognitives et émotionnelles de l'homme.

"Je pense que ces quatre axes de progrès, qui fonctionnent ensemble, comme les maladies physiques, peuvent guérir ou prévenir la plupart des maladies mentales au cours des 100 prochaines années, même sans l'intervention de l'IA - elles pourraient donc être guéries avec 5 à 10 ans d'accélération de l'IA".

3. le développement économique et la pauvreté : M. Amodei a reconnu que la capacité de l'IA à lutter contre les inégalités et à promouvoir la croissance économique était moins certaine que sa capacité à inventer des technologies. Il reste toutefois optimiste et pense que l'IA peut aider les pays en développement à rattraper les pays développés en optimisant la distribution des interventions sanitaires, en promouvant la croissance économique, en garantissant la sécurité alimentaire, en atténuant le changement climatique et en s'attaquant aux inégalités au sein des pays.

"Dans l'ensemble, je suis optimiste quant au fait que les progrès biologiques de l'IA profiteront bientôt aux populations des pays en développement. J'ai bon espoir, mais je ne suis pas certain, que l'IA conduira également à des taux de croissance économique sans précédent, permettant aux pays en développement de rattraper au moins les niveaux actuels des pays développés".

4. la paix et la gouvernance : M. Amodei affirme que l'IA en elle-même ne garantit pas le progrès de la démocratie et de la paix, car elle peut être exploitée par les régimes autoritaires comme par les régimes démocratiques. Il préconise que les démocraties adoptent une "stratégie concertée" pour prendre l'avantage en sécurisant les chaînes d'approvisionnement de l'IA puissante, en la développant rapidement et en empêchant ou en retardant l'accès des adversaires à des ressources clés telles que les puces et les équipements semi-conducteurs. Cela permettrait aux démocraties de dominer la scène mondiale et, en fin de compte, de faciliter la diffusion de la démocratie mondiale.

"Je pense que l'IA en elle-même ne garantit pas le progrès de la démocratie et de la paix car elle peut être utilisée par des régimes autoritaires ou démocratiques.

5. le travail et l'importance : Amodei affirme que même dans un monde où l'IA accomplit la plupart des tâches, les humains peuvent encore trouver un sens et un but. Il affirme que le sens provient principalement des relations et des connexions plutôt que du travail économique. Il reconnaît toutefois qu'une économie fondée sur l'IA pourrait remettre en question notre système économique actuel et qu'un dialogue social plus large est nécessaire pour explorer la manière dont l'économie sera organisée à l'avenir.

"Je pense que les humains peuvent encore trouver un sens et un but, même dans un monde où l'IA accomplit la plupart des tâches. Je pense que le sens vient principalement des relations et des connexions, et non du travail économique."

M. Amodei est convaincu que, si elle est gérée correctement, l'IA forte peut conduire à un monde meilleur que celui que nous connaissons aujourd'hui, un monde exempt de maladies, de pauvreté et d'inégalités, un monde caractérisé par la démocratie libérale et les droits de l'homme. Il reconnaît que la réalisation de cette vision nécessitera des efforts et une lutte considérables, ainsi qu'un effort concerté de la part des individus, des entreprises spécialisées dans l'IA et des décideurs politiques.

Si cela se produit dans 5 à 10 ans - la défaite de la plupart des maladies, la croissance de la liberté biologique et cognitive, la sortie de milliards de personnes de la pauvreté et le partage des nouvelles technologies, la renaissance de la démocratie libérale et des droits de l'homme - je pense que tous ceux qui le verront auront un impact sur eux". impact sur eux".

Conclusion : Dans son article, M. Amodei présente une vision convaincante de la manière dont l'IA forte pourrait remodeler la société humaine. Il souligne l'énorme potentiel de l'IA forte, mais aussi les défis et les risques qui l'accompagnent. Il appelle à une action proactive pour orienter le développement de l'IA afin qu'elle profite à l'ensemble de l'humanité.

Il est très difficile d'organiser et de corriger l'article, veuillez donc tripler le lien avant de lire. Vous trouverez ci-dessous l'article original.

Machines de La grâce amoureuse[01]

Comment l'IA pourrait transformer le monde pour le mieux

--Dario Amodei

Lien original : https://darioamodei.com/machines-of-loving-grace

Je pense et je parle beaucoup des risques de l'IA forte. Anthropic, l'entreprise dont je suis le PDG, a mené de nombreuses recherches sur la manière d'atténuer ces risques. C'est pourquoi les gens en concluent parfois que je suis pessimiste ou que l'IA est essentiellement mauvaise ou dangereuse. Ce n'est pas du tout ce que je pense. En fait, l'une des principales raisons pour lesquelles je me concentre sur le risque est qu'il s'agit de la seule chose qui nous sépare de l'avenir radicalement positif que j'entrevois.Je pense que la plupart des gens sous-estiment les avantages considérables que l'IA pourrait apporter.De même, je pense que la plupart des gens sous-estiment la gravité du risque.

Dans cet article, j'ai tenté d'esquisser les avantages - ce à quoi pourrait ressembler un monde doté d'une IA forte si tout se passe bien. Bien sûr, personne ne peut connaître l'avenir avec certitude ou précision, et l'impact de l'IA forte sera probablement encore plus difficile à prédire que les changements technologiques passés, de sorte que tout ceci consistera inévitablement en spéculations. Mais mon objectif est au moins de faire des suppositions éclairées et utiles qui rendent compte de ce qui se passera, même si la plupart des détails finissent par être erronés. J'ai inclus beaucoup de détails principalement parce que je pense qu'une vision concrète est un meilleur moyen de faire avancer la discussion qu'une vision très vague et abstraite.

Mais d'abord, je voudrais expliquer brièvement pourquoi Anthropic et moi n'avons pas beaucoup parlé des avantages de l'IA forte, et pourquoi nous continuerons probablement à parler beaucoup des risques en général. Plus précisément, j'ai fait ce choix pour répondre au désir suivant :

- Maximiser l'effet de levier.Le développement fondamental de la technologie de l'IA et bon nombre de ses avantages (pas tous) semblent inévitables (à moins que le risque ne vienne tout gâcher) et sont fondamentalement déterminés par les puissantes forces du marché. D'un autre côté, les risques ne sont pas prédéterminés et nos actions peuvent modifier considérablement la probabilité qu'ils se produisent.

- Éviter d'être confondu avec la propagande.Les entreprises spécialisées dans l'intelligence artificielle parlent de tous les avantages extraordinaires de l'IA, ce qui peut ressembler à de la propagande ou à une tentative de détourner l'attention des inconvénients. Je pense également qu'en principe, passer trop de temps à "parler de son livre" est mauvais pour l'âme.

- Évitez l'exagération.Je suis souvent déçu par la façon dont de nombreuses personnalités publiques qui s'intéressent à l'IA (sans parler des dirigeants d'entreprises d'IA) parlent du monde post-AGI, comme si leur mission était d'y parvenir seuls, à la manière d'un prophète qui conduirait son peuple au salut. Je pense qu'il est dangereux de penser que les entreprises façonnent unilatéralement le monde, et qu'il est également dangereux d'envisager les objectifs techniques réels en termes religieux.

- Évitez le bagage "science-fiction".Si je pense que la plupart des gens sous-estiment les avantages d'une IA forte, les quelques personnes qui discutent des futurs radicaux de l'IA le font souvent sur un ton trop "science-fictionnel" (par exemple, le téléchargement des esprits, l'exploration de l'espace ou une ambiance cyberpunk générale). Je pense que cela conduit les gens à prendre ces affirmations moins au sérieux et leur donne un sentiment d'irréalité. Pour être clair, la question n'est pas de savoir si les technologies décrites sont possibles ou probables (l'article principal en parle longuement) - c'est plutôt que l'"ambiance" implique tout un bagage culturel et des hypothèses non formulées sur le type d'avenir souhaitable, sur la manière dont les problèmes sociaux évolueront, etc. Les problèmes sociaux, etc. Le résultat finit souvent par ressembler aux fantasmes d'une sous-culture étroite, tout en rebutant la plupart des gens.

Malgré toutes ces préoccupations, je pense qu'il est important de discuter de ce à quoi ressemblerait un monde meilleur avec une IA forte, tout en essayant d'éviter les pièges mentionnés ci-dessus. En fait, je pense qu'il est essentiel d'avoir une vision réellement inspirante de l'avenir, et pas seulement un plan de lutte contre les incendies. De nombreuses implications de l'IA forte sont conflictuelles ou dangereuses, mais en fin de compte, nous devons nous battre pour elles, pour des résultats positifs où tout le monde est mieux loti, et pour unir les gens afin qu'ils s'élèvent au-dessus de la mêlée et qu'ils relèvent les défis de l'avenir. La peur est un facteur de motivation, mais elle ne suffit pas : nous avons aussi besoin d'espoir.

Il existe de nombreux domaines d'application positifs pour l'IA puissante (notamment la robotique, la fabrication, l'énergie, etc.), mais je vais me concentrer sur une poignée d'entre eux qui, selon moi, ont le plus grand potentiel pour améliorer directement la qualité de la vie humaine. Les cinq catégories qui m'intéressent le plus sont les suivantes :

1. Biologie et santé physique
2. Neurosciences et santé mentale
3. Développement économique et pauvreté
4. Paix et gouvernance
5. Travail et sens

Mes prédictions seront radicales par rapport à la plupart des normes (à l'exception de la vision de science-fiction de la "Singularité" [02]), mais je les fais en toute bonne foi. Tout ce que je dis peut facilement être faux (pour répéter ce que j'ai dit plus haut), mais j'essaie au moins de fonder mes opinions sur une évaluation semi-analytique de l'accélération probable des progrès dans divers domaines et de ce que cela signifie en pratique. J'ai la chance d'avoir une expérience professionnelle en biologie et en neurosciences, et je suis un amateur éclairé dans le domaine du développement économique, mais je suis sûr que je ferai beaucoup d'erreurs. En écrivant cet article, je me suis rendu compte qu'il serait utile de réunir un groupe d'experts dans leurs domaines (biologie, économie, relations internationales et autres) pour rédiger une version améliorée et plus perspicace de ce que j'ai écrit ici. Il est préférable de considérer mes efforts ici comme le point de départ de ce groupe.

Hypothèses et cadre sous-jacents

Pour rendre l'ensemble de l'article plus précis et mieux informé, il est utile de clarifier ce que nous entendons par "IA puissante" (c'est-à-dire quand commence le compte à rebours de 5 à 10 ans) et de fournir un cadre de réflexion sur les implications d'une telle IA une fois qu'elle existera.

Ce à quoi ressemblera une IA puissante (je n'aime pas le terme AGI)[03], et quand (ou si) elle arrivera, est un vaste sujet en soi. C'est un sujet dont j'ai discuté ouvertement et sur lequel j'écrirai probablement un jour un billet entièrement séparé. De toute évidence, de nombreuses personnes sont sceptiques quant à la possibilité de construire une IA puissante dans un avenir proche, et certaines doutent même qu'elle puisse être construite un jour. Je pense qu'elle pourrait voir le jour dès 2026, bien qu'il soit possible que cela prenne plus de temps. Mais pour les besoins de cet article, j'aimerais mettre ces questions de côté, supposer qu'elle arrivera dans un délai raisonnable et me concentrer sur ce qui se passera dans les 5 à 10 ans qui suivront. Je veux aussi supposer à quoi ressemblerait un tel système, quelles seraient ses capacités et comment il interagirait, bien qu'il y ait place pour des désaccords à ce sujet.

Avec l'IA puissante, j'ai un modèle d'IA - probablement formellement similaire au LLM d'aujourd'hui, bien qu'il puisse être basé sur une architecture différente, qu'il puisse impliquer plusieurs modèles en interaction et qu'il puisse être formé de différentes manières - avec les propriétés suivantes les propriétés suivantes :

- En termes d'intelligence pure [04], il est plus intelligent que la plupart des lauréats du prix Nobel dans des domaines connexes - biologie, programmation, mathématiques, ingénierie, écriture, etc. Cela signifie qu'il peut prouver des théorèmes mathématiques non résolus, écrire de très bons romans, rédiger des bases de code difficiles à partir de zéro, etc.

- En plus d'être une "chose intelligente à laquelle on parle", il dispose de toutes les "interfaces" disponibles pour un humain travaillant virtuellement, y compris le texte, l'audio, la vidéo, le contrôle de la souris et du clavier, et l'accès à l'internet. Il peut effectuer toute opération, communication ou téléopération permise par cette interface, y compris agir sur l'internet, donner ou recevoir des instructions à ou de la part d'un humain, commander du matériel, diriger des expériences, regarder des vidéos, réaliser des vidéos, etc. Une fois de plus, il accomplit toutes ces tâches avec des compétences qui dépassent celles des humains les plus compétents au monde.

- Il ne s'agit pas seulement de répondre passivement à des questions ; il peut s'agir de confier des tâches qui prennent des heures, des jours ou des semaines, et de les accomplir comme un employé intelligent, en demandant des éclaircissements si nécessaire.

- Il n'a pas d'incarnation physique (autre que la vie sur un écran d'ordinateur), mais il peut contrôler des outils physiques existants, des robots ou des équipements de laboratoire par le biais d'un ordinateur ; théoriquement, il pourrait même concevoir des robots ou des équipements pour lui-même.

- Les ressources utilisées pour former le modèle peuvent être réaffectées pour exécuter des millions d'instances de celui-ci (ce qui correspond à la taille prévue du cluster vers 2027), et le modèle peut absorber des informations et générer des opérations à un rythme d'environ 10x-100x celui des humains [05]. Cependant, il peut être limité par le temps de réponse du monde physique ou du logiciel avec lequel il interagit.

- Chacune de ces millions de copies pourrait travailler de manière indépendante sur des tâches sans rapport les unes avec les autres ou, si on le souhaite, travailler ensemble comme des humains, peut-être avec différents sous-groupes affinés pour être particulièrement adaptés à des tâches particulières.

Nous pouvons résumer cela comme la "nation géniale des centres de données".

Il est évident qu'une telle entité serait capable de résoudre très rapidement des problèmes très difficiles, mais il n'est pas facile de déterminer à quelle vitesse. Deux positions "extrêmes" me semblent erronées. Premièrement, on pourrait penser que le monde se transformera instantanément ("singularité") en quelques secondes ou quelques jours, à mesure qu'une intelligence supérieure se développera et résoudra immédiatement toutes les tâches scientifiques, techniques et opérationnelles possibles. Le problème, c'est qu'il existe des limites physiques et pratiques réelles, par exemple pour la construction de matériel ou la réalisation d'expériences biologiques. Même une nouvelle nation de génies se heurtera à ces limites. L'intelligence est certes très puissante, mais elle n'est pas magique pour tous.

Deuxièmement, et à l'inverse, vous pouvez penser que le progrès technologique est saturé ou limité par les données du monde réel ou les facteurs sociaux, de sorte qu'il y aura très peu d'augmentation de l'intelligence plus intelligente que l'homme [06]. Pour moi, c'est tout aussi incroyable - je peux penser à des centaines de problèmes scientifiques ou même sociaux pour lesquels un groupe de personnes très intelligentes accélérerait considérablement les progrès, surtout s'il ne se limitait pas à l'analyse et pouvait faire bouger les choses dans le monde réel (ce que notre hypothétique nation de génies pourrait faire, y compris en encadrant ou en aidant des équipes humaines).

Je pense que la vérité est probablement un mélange confus de ces deux images extrêmes, en fonction de la tâche et du domaine, ainsi que de détails très subtils. Je pense que nous avons besoin de nouveaux cadres pour réfléchir à ces détails de manière productive.

Les économistes parlent souvent des "facteurs de production" : le travail, la terre et le capital. L'expression "rendement marginal du travail/de la terre/du capital" traduit l'idée qu'un facteur donné peut ou non être le facteur limitant dans une situation donnée - par exemple, l'armée de l'air a besoin d'avions et de pilotes, et embaucher davantage de pilotes ne sert pas à grand-chose si l'on n'a pas d'avions. L'embauche de pilotes supplémentaires n'est pas d'une grande utilité si l'on n'a pas d'avions. Je pense qu'à l'ère de l'IA, nous devrions parler des "avantages marginaux de l'intelligence" [07] et essayer de comprendre quels sont les autres facteurs qui complètent l'intelligence et deviennent des facteurs limitants lorsque l'intelligence est très élevée. Nous n'avons pas l'habitude de penser de cette manière, en nous demandant "dans quelle mesure le fait de devenir plus intelligent aide à accomplir cette tâche, et sur quelle échelle de temps". -- mais cela semble être la bonne façon de conceptualiser un monde doté d'une IA très puissante.

Voici une liste de facteurs qui, selon moi, limitent ou complètent l'intelligence :

- Vitesse du monde extérieur. Les agents intelligents ont besoin d'interagir avec le monde pour accomplir des tâches, et ils ont également besoin d'apprendre [08]. Mais le monde bouge si lentement. Les cellules et les animaux fonctionnent à une vitesse fixe, de sorte que les expériences menées sur eux prennent un certain temps, qui peut être irréductible. Il en va de même pour la communication avec les humains et notre infrastructure logicielle existante. En outre, en science, de nombreuses expériences doivent généralement être réalisées de manière séquentielle, chaque expérience apprenant ou s'appuyant sur la précédente. Tout cela signifie qu'il peut y avoir un taux minimum irréductible auquel un projet majeur - tel que le développement d'un remède contre le cancer - peut être achevé et qui ne peut être réduit davantage même si l'intelligence continue d'augmenter.

- Demande de données. Parfois, les données brutes manquent, et en l'absence de données, plus d'intelligence ne sert à rien. Les physiciens des particules d'aujourd'hui sont très intelligents et ont élaboré toute une série de théories, mais comme les données des accélérateurs de particules sont très limitées, ils ne disposent pas des données nécessaires pour choisir entre elles. Ils ne feraient probablement pas beaucoup mieux s'ils avaient une superintelligence - sauf peut-être en accélérant la construction d'accélérateurs plus grands.

- Complexité intrinsèque. Certaines choses sont si intrinsèquement imprévisibles ou chaotiques que même l'IA la plus puissante ne peut pas les prédire ou les démêler mieux que les humains ou les ordinateurs d'aujourd'hui. Par exemple, même une IA très puissante ne peut prédire des systèmes chaotiques (tels que le problème des trois corps) qu'à un peu plus long terme que les humains et les ordinateurs d'aujourd'hui [09].

- Limites imposées par les êtres humains. De nombreuses choses ne peuvent être faites sans enfreindre la loi, sans nuire aux êtres humains ou sans perturber la société. Une IA alignée ne voudra pas faire ces choses (et si nous avons une IA non alignée, nous en revenons à parler de risque). De nombreuses structures sociales humaines sont inefficaces, voire positivement nuisibles, mais difficiles à modifier tout en respectant des contraintes telles que les exigences légales, la volonté des gens de changer leurs habitudes ou le comportement des gouvernements. Les avancées technologiques telles que l'énergie nucléaire, les vols supersoniques et même les ascenseurs ont bien fonctionné d'un point de vue technologique, mais leur impact a été considérablement réduit par des réglementations ou des craintes mal placées.

- loi physique. Il s'agit d'une version plus évidente du premier point. Certaines lois de la physique semblent immuables. Il est impossible de voyager plus vite que la vitesse de la lumière. Le pudding ne se remue pas tout seul. Les puces ne peuvent avoir qu'un nombre limité de transistors par centimètre carré avant de devenir peu fiables. L'informatique nécessite une quantité minimale d'énergie par bit effacé, ce qui limite la densité de l'informatique dans le monde.

Il existe une autre distinction fondée sur l'échelle temporelle. Les choses qui sont difficiles à contraindre à court terme peuvent être plus sensibles à l'intelligence à long terme. Par exemple, l'intelligence peut être utilisée pour développer un nouveau paradigme expérimental qui nous permet d'apprendre in vitro ce qui nécessitait auparavant des expériences sur des animaux vivants, ou pour construire les outils nécessaires à la collecte de nouvelles données (par exemple, des accélérateurs de particules plus grands), ou (dans le respect des contraintes éthiques) pour trouver des moyens de contourner les contraintes humaines (par exemple, pour aider à améliorer le système d'essais cliniques, pour aider à créer de nouvelles juridictions où les essais cliniques sont moins bureaucratiques, ou pour améliorer la science elle-même afin de rendre les essais cliniques sur les humains moins nécessaires ou moins coûteux). ou améliorer la science elle-même pour rendre les essais cliniques sur l'homme moins nécessaires ou moins coûteux).

Nous devrions donc imaginer un tableau dans lequel l'intelligence est initialement fortement goulotée par d'autres facteurs de production, mais où, avec le temps, l'intelligence elle-même contourne de plus en plus les autres facteurs, même s'ils ne disparaissent jamais complètement (certaines choses, comme les lois de la physique, sont absolues) [10]. La question clé est de savoir à quelle vitesse tout cela se produit, et dans quel ordre.

En gardant à l'esprit le cadre ci-dessus, je tenterai de répondre aux questions dans les cinq domaines mentionnés dans l'introduction.

1. biologie et santé

La biologie est probablement le domaine dans lequel les progrès scientifiques ont le plus grand potentiel pour améliorer directement et définitivement la qualité de la vie humaine. Certaines des plus anciennes afflictions humaines (par exemple la variole) ont finalement été vaincues au cours du siècle dernier, mais il en existe encore beaucoup d'autres, et les vaincre serait une grande réussite humanitaire. Au-delà de la guérison des maladies, les sciences biologiques pourraient, en principe, améliorer la qualité de la base de la santé humaine, en prolongeant la durée de vie en bonne santé, en augmentant le contrôle et la liberté sur nos propres processus biologiques, et en résolvant les problèmes quotidiens que nous considérons actuellement comme une partie immuable de la condition humaine.

Dans le langage des contraintes de la section précédente, les principaux obstacles à l'application directe de l'intelligence à la biologie sont les données, la vitesse du monde physique et la complexité inhérente (en fait, ces trois éléments sont liés). Les limites humaines entrent également en jeu à un stade ultérieur, lorsqu'il s'agit d'essais cliniques. Abordons ces questions une à une.

Les expériences sur les cellules, les animaux et même les processus chimiques sont limités par la vitesse du monde physique : de nombreux protocoles biologiques impliquent la culture de bactéries ou d'autres cellules, ou simplement l'attente d'une réaction chimique, qui prend parfois des jours, voire des semaines, sans qu'il y ait de moyen évident de l'accélérer. Les expériences sur les animaux peuvent prendre des mois (voire plus), et les expériences sur les humains prennent souvent des années (voire des décennies pour les études sur les résultats à long terme). Il y a toujours un manque de données claires et sans ambiguïté qui isolent l'effet biologique d'intérêt des 10 000 autres choses qui se produisent, ou qui interviennent de manière causale dans un processus donné, ou qui mesurent certains effets directement (plutôt que d'une manière indirecte ou bruyante). Les données moléculaires quantitatives de grande taille, telles que les résultats de la recherche sur le cancer du sein, ne sont pas suffisantes pour permettre de déduire les conséquences.) Même les données moléculaires quantitatives de grande taille, telles que les données protéomiques que je recueille lorsque je travaille avec la spectrométrie de masse, sont bruyantes et manquent beaucoup de choses (dans quels types de cellules ces protéines se trouvent-elles ? Dans quelle partie de la cellule ? À quel stade du cycle cellulaire ?) .

Cette partie du problème des données est due à la complexité inhérente : si vous avez déjà regardé des graphiques illustrant la biochimie du métabolisme humain, vous savez qu'il est très difficile d'isoler les effets de n'importe quelle partie de ce système complexe, et encore plus d'intervenir de manière précise ou prévisible. Enfin, au-delà du temps inhérent à la réalisation d'expériences sur l'homme, les essais cliniques proprement dits impliquent de nombreuses exigences bureaucratiques et réglementaires qui (de l'avis de beaucoup, moi y compris) sont considérées comme ajoutant un temps et un délai supplémentaires inutiles.

Dans ce contexte, de nombreux biologistes sont sceptiques quant à la valeur de l'IA et du "big data" en biologie. Historiquement, les mathématiciens, les informaticiens et les physiciens ont appliqué leurs compétences à la biologie au cours des 30 dernières années avec un succès considérable, mais sans atteindre l'impact véritablement transformateur espéré à l'origine. Un certain scepticisme a été atténué par des avancées majeures et révolutionnaires telles qu'AlphaFold (qui vient de valoir à son créateur le prix Nobel de chimie) et AlphaProteo [11], mais l'impression que l'IA n'était (et continue d'être) utile que dans un nombre limité de situations persiste. Une formulation courante est la suivante : "L'IA peut mieux analyser les données, mais elle ne peut pas produire plus de données ou améliorer la qualité de ces données. Les déchets entrent, les déchets sortent".

Si nos hypothèses de base sur les progrès de l'IA sont correctes, alors la bonne façon d'envisager l'IA n'est pas de la considérer comme une méthode d'analyse des données, mais comme un biologiste virtuel qui effectue "toutes" les tâches des biologistes, y compris la conception et la réalisation d'expériences dans le monde réel (soit en contrôlant des robots de laboratoire, soit en indiquant simplement à des humains quelles expériences réaliser - comme le font les chercheurs principaux pour leurs étudiants de troisième cycle, etc.) Il s'agit notamment de concevoir et de réaliser des expériences dans le monde réel (soit en contrôlant des robots de laboratoire, soit en indiquant simplement à des humains les expériences à réaliser, comme le font les chercheurs principaux pour leurs étudiants de troisième cycle, etc. C'est en accélérant l'ensemble du processus de recherche que l'IA peut véritablement accélérer la biologie.Je tiens à le répéter, car c'est l'idée fausse la plus répandue lorsque je parle de la capacité de l'IA à changer la biologie : je ne parle pas de l'IA comme d'un outil permettant simplement d'analyser des données. Sur la base de la définition de l'IA puissante donnée au début de l'article, je parle d'utiliser l'IA pour réaliser, guider et améliorer presque tout ce que font les biologistes.

Pour être plus précis sur l'origine de l'accélération, je dirais qu'une part importante des progrès de la biologie provient d'un très petit nombre de découvertes, généralement liées à des outils ou des techniques qui permettent des interventions précises mais génériques ou programmables dans les systèmes biologiques [12]. Ces découvertes peuvent être de l'ordre d'une par an et, dans l'ensemble, on peut dire qu'elles sont à l'origine de plus de 501 TP3T des progrès de la biologie. Ce qui rend ces découvertes si puissantes, c'est qu'elles réduisent la complexité inhérente et les limites des données et qu'elles améliorent directement notre compréhension et notre contrôle des processus biologiques. Certaines des découvertes faites au cours des dernières décennies nous ont permis d'acquérir une compréhension scientifique fondamentale de la biologie et ont été à l'origine de nombreuses approches thérapeutiques parmi les plus puissantes.

En voici quelques exemples :

- CRISPR : une technologie qui permet l'édition en temps réel de n'importe quel gène dans un organisme vivant (en remplaçant une séquence arbitraire de gène par une autre séquence arbitraire). Depuis la mise au point de la technologie originale, des améliorations constantes ont été apportées pour cibler des types de cellules spécifiques, accroître la précision et réduire l'édition de gènes défectueux, autant d'éléments nécessaires à une utilisation humaine sûre.

- Différents types de microscopes pour observer ce qui se passe à un niveau précis : microscopes optiques avancés (avec différentes techniques de fluorescence, optiques spéciales, etc.), microscopes électroniques, microscopes à force atomique, etc.

- Le séquençage et la synthèse du génome, dont le coût a chuté de plusieurs ordres de grandeur au cours des dernières décennies.

- Technologie optogénétique, dans laquelle les neurones peuvent être activés par exposition à la lumière.

- En principe, les vaccins à ARNm nous permettent de concevoir un vaccin contre n'importe quoi et de l'adapter rapidement (les vaccins à ARNm sont devenus célèbres pendant le COVID).

- Les thérapies cellulaires comme le CAR-T permettent de prélever des cellules immunitaires dans l'organisme et de les "reprogrammer" pour qu'elles s'attaquent à n'importe quel élément.

- Des découvertes conceptuelles telles que la théorie des germes de la maladie et le lien entre le système immunitaire et le cancer [13].

Si j'ai pris la peine d'énumérer toutes ces techniques, c'est parce que je souhaite formuler une affirmation essentielle à leur sujet :Je pense que le taux de ces découvertes pourrait être multiplié par 10 ou plus s'il y avait plus de chercheurs talentueux et créatifs.En d'autres termes.Je pense que ces résultats sont bénéfiques pour l'intelligenceet tout le reste de la biologie et de la médecine s'en inspire.

Pourquoi est-ce que je pense cela ? Parce que nous devrions nous habituer à poser certaines questions lorsque nous essayons de déterminer les "rendements de l'intelligence". Tout d'abord, ces découvertes sont généralement faites par un très petit nombre de chercheurs, souvent à plusieurs reprises par le même groupe de personnes, ce qui suggère une compétence plutôt qu'une recherche aléatoire (cette dernière pourrait suggérer que la longueur des expériences est le facteur limitant). Deuxièmement, elles peuvent souvent être réalisées "des années avant leur heure" : par exemple, CRISPR, un composant naturel du système immunitaire des bactéries, est connu depuis les années 1980, mais il a fallu 25 ans de plus pour que l'on se rende compte qu'il pouvait être réaffecté à l'édition générale de gènes. Ces projets ont également été retardés pendant de nombreuses années en raison du manque de soutien de la communauté scientifique à l'égard des orientations prometteuses (voir le profil de l'inventeur du vaccin à base d'ARNm ; les histoires similaires abondent). Troisièmement, les projets couronnés de succès sont souvent des projets marginaux ou après coup qui ne sont pas considérés comme prometteurs au départ, plutôt que des projets financés à grande échelle. Cela suggère que ce n'est pas seulement la mise en commun des ressources à grande échelle qui favorise la découverte, mais aussi l'ingéniosité.

Enfin, bien que certaines de ces découvertes soient "sériellement dépendantes" (il faut d'abord faire la découverte A pour avoir les outils ou les connaissances nécessaires pour faire la découverte B) - ce qui peut à nouveau entraîner des retards expérimentaux - beaucoup, peut-être la plupart, sont indépendantes, ce qui signifie que plusieurs d'entre elles peuvent être faites en même temps. Mais beaucoup, peut-être la plupart, sont indépendants, ce qui signifie qu'il est possible d'en faire plusieurs en même temps. Ces deux éléments, ainsi que mon expérience générale en tant que biologiste, suggèrent fortement que si les scientifiques étaient plus intelligents et plus aptes à établir des connexions entre les vastes connaissances biologiques dont disposent les humains (une fois encore, prenez l'exemple de CRISPR), il y aurait des centaines de découvertes de ce type qui n'attendent que d'être faites. Le succès d'AlphaFold/AlphaProteo dans la résolution de problèmes importants plus efficacement que les humains ne peuvent le faire constitue une preuve de principe (bien qu'avec des outils restreints dans un domaine restreint) qui devrait montrer la voie à suivre.

Par conséquent, je pense qu'une IA puissante pourrait multiplier le rythme de ces découvertes par au moins un facteur 10, ce qui nous permettrait de réaliser les 50 à 100 prochaines années de progrès biologique en l'espace de 5 à 10 ans[14]. [Pourquoi pas 100 fois ? C'est peut-être possible, mais voici le feuilleton

La dépendance et le temps d'expérimentation deviennent importants : pour obtenir 100 ans de progrès en un an, il faut faire beaucoup de choses correctement du premier coup, y compris des choses comme l'expérimentation animale et la conception de microscopes ou d'installations de laboratoire coûteuses. Je suis ouvert à l'idée (qui peut sembler absurde) que nous pourrions réaliser 1000 ans de progrès en 5 à 10 ans, mais je suis très sceptique quant à la possibilité de réaliser 100 ans de progrès en 1 an. Par ailleurs, je pense qu'il existe un retard constant inévitable : les expériences et le matériel sont conçus avec un certain "retard" et nécessitent un certain nombre d'itérations "irréductibles" afin d'apprendre des choses qui ne peuvent pas être déduites logiquement. Mais il peut y avoir un parallélisme massif en plus de cela [15].

Qu'en est-il des essais cliniques ? Malgré toute la bureaucratie et la lenteur qui leur sont associées, la vérité est qu'une grande partie de leur lenteur provient en fin de compte de la nécessité d'évaluer rigoureusement des médicaments qui fonctionnent à peine ou vaguement. C'est malheureusement le cas de la plupart des thérapies aujourd'hui : le médicament anticancéreux moyen ajoute des mois de survie tout en ayant des effets secondaires importants qui doivent être soigneusement mesurés (c'est la même chose pour les médicaments contre la maladie d'Alzheimer). Cela conduit à de vastes études (afin d'obtenir une puissance statistique) et à des compromis difficiles, et les régulateurs ne sont généralement pas doués pour prendre des décisions, encore une fois à cause de la bureaucratie et de la complexité des intérêts concurrents.

Les vaccins à ARNm pour le COVID ont été approuvés en 9 mois, soit beaucoup plus rapidement que d'habitude. Toutefois, même dans ces conditions, les essais cliniques ont été trop lents - le vaccin à ARNm aurait probablement dû être approuvé en 2 mois environ. Mais ces retards (~1 an au total pour les médicaments) sont tout à fait compatibles avec le parallélisme massif et la nécessité de quelques itérations, mais pas trop ("quelques essais"), ce qui pourrait conduire à un changement fondamental d'ici 5 à 10 ans. De manière plus optimiste, la science biologique guidée par l'IA pourrait réduire le besoin d'itération dans les essais cliniques en développant de meilleurs modèles (ou même des simulations) d'expériences animales et cellulaires qui prédisent avec plus de précision ce qui se passera chez l'homme. Cela sera particulièrement important pour le développement de médicaments ciblant le processus de vieillissement, qui prend des décennies et pour lequel nous avons besoin d'un cycle itératif plus rapide.

Enfin, en ce qui concerne les essais cliniques et les barrières sociales, il convient de préciser que les innovations biomédicales ont, à certains égards, des antécédents exceptionnellement solides en matière de déploiement réussi par rapport à d'autres technologies [16]. Comme nous l'avons indiqué dans l'introduction, nombre de ces technologies, bien qu'elles fonctionnent bien sur le plan technique, sont entravées par des facteurs sociaux. Cela peut indiquer une vision pessimiste de ce que l'IA peut accomplir. Toutefois, la biomédecine est unique en ce sens que, malgré la lourdeur du processus de développement des médicaments, ceux-ci sont souvent déployés et utilisés avec succès une fois mis au point.

En résumé, ma prédiction de base est que la biologie et la médecine pilotées par l'IA nous permettront de comprimer en 5 à 10 ans les progrès que les biologistes humains réaliseront au cours des 50 à 100 prochaines années. C'est ce que j'appelle le "21e siècle compressé" : l'idée que nous ferons toutes les avancées biologiques et médicales que nous ferons tout au long du 21e siècle en quelques années, après avoir développé une IA puissante.

S'il est difficile et spéculatif de prédire ce qu'une IA puissante pourra faire dans les prochaines années, la question de savoir ce que les humains pourront faire au cours des 100 prochaines années sans forces extérieures présente une certaine spécificité. Le simple fait de regarder ce que nous avons accompli au XXe siècle, d'extrapoler à partir des 20 premières années du XXIe siècle ou de se demander ce que "10 CRISPR et 50 CAR-T" nous apporteront, fournit des moyens pratiques et éclairés d'estimer le niveau général de progrès que nous pouvons attendre d'une IA puissante.

J'ai essayé de dresser ci-dessous une liste de ce à quoi nous pouvons nous attendre. Cette liste n'est pas basée sur une méthodologie rigoureuse et se révélera très certainement erronée dans les détails, mais elle tente d'indiquer le niveau général de radicalisme auquel nous devrions nous attendre :

- Prévention et traitement fiables de presque toutes les maladies infectieuses naturelles[17].Étant donné les énormes progrès réalisés dans la lutte contre les maladies infectieuses au cours du 20e siècle, il n'est pas radical d'imaginer que nous pouvons "faire le travail" au cours du 21e siècle compressé. La question de savoir si les maladies infectieuses dépendent de la pauvreté et de l'inégalité dans l'éradication totale (et pas seulement dans certains endroits) est abordée dans la section 3.

- Élimination des cancers.Les taux de mortalité par cancer ont diminué d'environ 2% par an au cours des dernières décennies ; nous sommes donc en bonne voie pour éliminer la plupart des cancers au cours du 21e siècle au rythme actuel de la science humaine. Certains sous-types ont déjà été guéris en grand nombre (par exemple, certains types de leucémie grâce à la thérapie CAR-T), et je suis encore plus enthousiaste à l'idée de médicaments très sélectifs qui ciblent les premiers stades du cancer et l'empêchent de se développer.L'IA permettra également d'adapter très finement les régimes de traitement au génome individualisé du cancer - ce qui est peut-être possible, mais très coûteux en termes de temps et d'argent. L'IA permettra également d'adapter très finement les schémas thérapeutiques au génome individualisé du cancer, ce qui est peut-être possible, mais très coûteux en termes de temps et d'expertise humaine.

- Prévention très efficace et traitement efficace des maladies génétiques.Une meilleure sélection des embryons pourrait nous permettre de prévenir la plupart des maladies génétiques, et une descendance CRISPR plus sûre et plus fiable pourrait guérir la plupart des maladies génétiques dans les populations existantes. Les maladies systémiques, qui affectent la plupart des cellules, pourraient être les dernières molécules récalcitrantes.

- Prévention de la maladie d'Alzheimer.Nous avons du mal à comprendre ce qui cause la maladie d'Alzheimer (c'est lié à la bêta-amyloïde, mais les détails semblent très complexes). Il semble que l'on puisse résoudre ce problème grâce à de meilleurs outils de mesure qui isolent les effets biologiques ; je suis donc optimiste quant à la capacité de l'IA à résoudre ce problème. Une fois que nous aurons vraiment compris ce qui se passe, il y a de fortes chances que l'on puisse prévenir la maladie par des interventions relativement simples. Néanmoins, les dommages déjà causés par la maladie d'Alzheimer pourraient être difficiles à inverser.

- Amélioration du traitement de la plupart des autres maladies.Cette catégorie englobe d'autres maladies, notamment le diabète, l'obésité, les maladies cardiaques et les maladies auto-immunes. La plupart de ces maladies semblent plus faciles à traiter que le cancer et la maladie d'Alzheimer et, dans de nombreux cas, elles sont déjà en forte régression. Par exemple, les taux de mortalité dus aux maladies cardiaques ont diminué de plus de 501 TP3T, et des interventions simples, telles que les agonistes du GLP-1, ont permis de faire de grands progrès dans la lutte contre l'obésité et le diabète.

- Liberté biologique.Au cours des 70 dernières années, nous avons fait des progrès en matière de contraception, de gestion de la fertilité, de gestion du poids, etc., mais je pense que la biologie accélérée par l'IA va élargir considérablement le champ des possibles : le poids, l'apparence, la reproduction et d'autres processus biologiques seront entièrement sous le contrôle des individus. Nous parlerons de "liberté biologique", ce qui signifie que chacun devrait avoir le droit de choisir qui il veut être et de vivre sa vie de la manière qui lui plaît le plus. Bien entendu, la question de l'égalité d'accès au niveau mondial se pose ; elle est abordée au point 3.

- Doublement de la longévité humaine[18].Cela peut sembler radical, mais l'espérance de vie a presque triplé au cours du 20e siècle (passant d'environ 40 ans à environ 75 ans), de sorte qu'un "21e siècle comprimé" doublant à nouveau pour atteindre 150 ans constitue la "tendance". Il est clair que les interventions nécessaires pour ralentir le processus de vieillissement sont différentes de celles nécessaires pour prévenir les décès prématurés dus à la maladie (principalement chez les enfants) au siècle dernier, mais l'ampleur du changement n'est pas sans précédent [19]. Plus précisément, il existe déjà un certain nombre de médicaments qui augmentent la durée de vie maximale des rats de 25-501 TP3T avec des effets secondaires limités. Certains animaux (par exemple, certains types de tortues) ont vécu 200 ans, de sorte que les humains n'ont manifestement pas atteint la limite supérieure théorique. À tout le moins, ce dont on a le plus besoin, c'est de biomarqueurs fiables du vieillissement humain, moins susceptibles d'être manipulés, car cela permettrait une itération rapide dans les essais expérimentaux et cliniques. Lorsque la durée de vie humaine atteindra 150 ans, nous pourrons peut-être atteindre la "vitesse d'évasion" et gagner suffisamment de temps pour permettre à la plupart des personnes en vie aujourd'hui de vivre aussi longtemps qu'elles le souhaitent, bien qu'il n'y ait aucune garantie que cela soit biologiquement possible.

Il vaut la peine de jeter un coup d'œil à cette liste et de réfléchir à la façon dont le monde serait différent si tout cela se réalisait d'ici 7 à 12 ans (ce qui correspondrait à une version positive de la chronologie de l'IA). Il ne fait aucun doute qu'il s'agirait d'un triomphe humaniste inimaginable, éliminant d'un seul coup la plupart des catastrophes qui ont frappé l'humanité pendant des milliers d'années. Nombre de mes amis et collègues élèvent des enfants, et lorsque ces enfants grandiront, j'espère que toute mention de maladie leur semblera comparable à ce que nous entendons à propos du scorbut, de la variole ou de la peste bubonique. Cette génération bénéficiera également d'une liberté biologique et d'une expression personnelle accrues et, avec un peu de chance, de la possibilité de vivre aussi longtemps qu'elle le souhaite.

Il est difficile de surestimer à quel point ces changements seront surprenants pour tout le monde (à l'exception des petites communautés qui anticipent une IA puissante). Aux États-Unis, par exemple, des milliers d'économistes et d'experts politiques débattent actuellement de la manière de maintenir la solvabilité de la sécurité sociale et de Medicare et, plus généralement, de la manière de réduire les coûts des soins de santé (qui sont en grande partie imputables aux personnes âgées de plus de 70 ans et, en particulier, à celles atteintes de maladies en phase terminale telles que le cancer). Si tout cela se concrétise, la situation de ces programmes pourrait s'améliorer radicalement [20], car le rapport entre la population en âge de travailler et la population retraitée changerait radicalement. Ces défis seront sans doute remplacés par d'autres, comme la manière d'assurer un accès généralisé aux nouvelles technologies, mais il vaut la peine de réfléchir à l'ampleur des changements que connaîtra le monde même si la biologie est le seul domaine qui réussit à s'accélérer.

2. les neurosciences et l'esprit

Dans la section précédente, je me suis concentrée sur les maladies du corps et la biologie en général, sans aborder les neurosciences ou la santé mentale. Or, les neurosciences sont une sous-discipline de la biologie et la santé mentale est tout aussi importante que la santé physique. En fait, la santé mentale a un impact plus direct sur le bien-être humain que la santé physique. Des centaines de millions de personnes ont une qualité de vie très médiocre en raison de problèmes tels que la toxicomanie, la dépression, la schizophrénie, l'autisme de bas niveau, le syndrome de stress post-traumatique, la psychopathie[21] ou la déficience intellectuelle. Des milliards d'autres personnes luttent contre des problèmes quotidiens qui peuvent souvent être interprétés comme des versions plus légères de ces troubles cliniques graves. À l'instar de la biologie en général, il est peut-être possible d'aller au-delà de la résolution de problèmes pour améliorer la qualité de base de l'expérience humaine.

Le cadre de base que j'ai décrit pour la biologie s'applique également aux neurosciences. Dans la liste ci-dessus, l'optogénétique est une découverte des neurosciences, et les progrès récents de la microscopie CLARITY et de la microscopie d'expansion vont dans le même sens, en plus d'un certain nombre de méthodes courantes de biologie cellulaire directement applicables aux neurosciences. Je pense que le rythme de ces progrès sera accéléré de la même manière par l'IA, de sorte que le cadre "100 ans de progrès en 5-10 ans" s'applique de la même manière aux neurosciences qu'à la biologie, et pour les mêmes raisons. Comme en biologie, les progrès des neurosciences au 20e siècle ont été énormes - par exemple, jusqu'aux années 1950, nous ne comprenions même pas comment ou pourquoi les neurones se déclenchaient. Il semble donc raisonnable de penser que les neurosciences accélérées par l'IA produiront des progrès rapides d'ici quelques années.

Il convient d'ajouter à ce tableau de base qu'une partie de ce que nous avons appris (ou apprenons) sur l'IA au cours des dernières années peut contribuer à faire progresser les neurosciences, même si elles continuent d'être réalisées uniquement par des êtres humains. L'interprétabilité est un exemple évident : bien que les neurones biologiques fonctionnent ostensiblement très différemment des neurones artificiels (ils communiquent par le biais de pointes et de taux de pointes, ce qui implique un élément temporel qui n'existe pas dans les neurones artificiels, et de nombreux détails liés à la physiologie cellulaire et aux neurotransmetteurs qui modifient considérablement leur fonctionnement), la question de savoir "comment un réseau cellulaire simple, distribué et entraîné, réalise des combinaisons linéaires/non linéaires" n'a pas été résolue. ), la question de savoir "comment un réseau cellulaire simple distribué et entraîné effectue des opérations combinatoires linéaires/non linéaires pour réaliser conjointement des calculs importants" est la même, et je soupçonne fortement que les détails de la communication des neurones individuels seront abstraits dans la plupart des questions intéressantes sur le calcul et les circuits [22]. À titre d'exemple, les chercheurs en interprétabilité des systèmes d'IA ont récemment redécouvert des mécanismes de calcul dans le cerveau de la souris.

Il est beaucoup plus facile de réaliser des expériences sur les réseaux neuronaux artificiels que sur les réseaux réels (dans ce dernier cas, il faut généralement découper des cerveaux d'animaux), de sorte que l'interprétabilité pourrait devenir un outil permettant d'améliorer notre compréhension des neurosciences. En outre, une IA puissante pourrait être en mesure de développer et d'appliquer cet outil mieux que les humains.

Bien sûr, outre l'interprétabilité, ce que nous avons appris de l'IA sur la manière dont les systèmes intelligents sont "entraînés" devrait (bien que je ne sois pas sûr que cela ait été le cas) provoquer une révolution dans les neurosciences.

Lorsque je travaillais dans le domaine des neurosciences, de nombreuses personnes se concentraient sur ce que je considère aujourd'hui comme de mauvaises questions sur l'apprentissage, car la notion d'hypothèses d'échelle/de leçons douloureuses n'avait pas encore émergé. L'idée que des fonctions objectives simples associées à de grandes quantités de données pouvaient engendrer des comportements incroyablement complexes rendait plus intéressante la compréhension des fonctions objectives et des biais architecturaux que les détails du calcul urgent. Je n'ai pas suivi le domaine de près ces dernières années, mais j'ai le vague sentiment que les neuroscientifiques computationnels n'ont pas complètement assimilé cette leçon. Mon attitude à l'égard de l'hypothèse de l'échelle a toujours été "aha - c'est une explication de haut niveau du fonctionnement de l'intelligence et de la facilité avec laquelle elle évolue", mais je ne pense pas que ce soit le point de vue du neuroscientifique moyen, et dans le domaine de l'IA, l'hypothèse de l'échelle sert de "secret de l'intelligence" et n'est même pas encore connue. "secret de l'intelligence" n'est même pas totalement acceptée.

Je pense que les neuroscientifiques devraient combiner ces connaissances fondamentales avec les particularités du cerveau humain (contraintes biophysiques, histoire de l'évolution, topologie, détails des entrées/sorties motrices et sensorielles) pour tenter de résoudre les principales énigmes neuroscientifiques. C'est peut-être le cas, mais je ne pense pas que ce soit suffisant, et les neuroscientifiques de l'IA seront en mesure d'utiliser cette perspective plus efficacement pour accélérer les progrès.

Je pense que l'IA accélérera les progrès des neurosciences par quatre voies différentes, qui peuvent toutes se conjuguer pour guérir la plupart des maladies mentales et améliorer le fonctionnement :

- Biologie moléculaire traditionnelle, chimie et génétique.Il s'agit essentiellement de la même biologie générale que celle décrite à la section 1, et l'IA peut l'accélérer par les mêmes mécanismes.

Il existe de nombreux médicaments qui modulent les neurotransmetteurs pour modifier les fonctions cérébrales, affecter la vigilance ou la perception, modifier l'humeur, etc. et l'IA peut nous aider à en inventer d'autres.

- Mesures et interventions neurologiques fines.Il s'agit de la capacité de mesurer ce que font de nombreux neurones ou circuits neuronaux individuels et d'intervenir pour modifier leur comportement. L'optogénétique et les sondes neuronales technologiques sont des techniques qui permettent d'effectuer des mesures et d'intervenir simultanément dans les organismes vivants, et certaines méthodes très avancées (par exemple, des bandes moléculaires pour lire les schémas d'allumage d'un grand nombre de neurones individuels) ont également été proposées et semblent être possibles en principe.

- Neurosciences computationnelles avancées.Comme indiqué ci-dessus, les connaissances spécifiques de l'IA moderne et de The Whole peuvent être appliquées avec succès à des problèmes de neurosciences systémiques, y compris pour révéler les véritables causes et la dynamique de troubles complexes tels que la psychose ou les troubles de l'humeur.

- Interventions comportementales.Étant donné l'accent mis sur les aspects biologiques des neurosciences, je n'en ai pas trop parlé, mais la psychiatrie et la psychologie ont certainement développé un large éventail d'interventions comportementales au cours du 20e siècle ; l'IA peut certainement accélérer ces interventions également, à la fois en termes de développement de nouvelles approches et en aidant les patients à adhérer à celles qui existent déjà. Plus largement, la notion de "coach IA" qui vous aide en permanence à donner le meilleur de vous-même, en étudiant vos interactions et en vous aidant à apprendre à être plus efficace, semble très prometteuse.

Je pense que ces quatre voies de progrès, en travaillant ensemble, permettront, à l'instar de la lutte contre les maladies physiques, de guérir ou de prévenir la plupart des maladies mentales au cours des 100 prochaines années - et donc probablement dans les 5 à 10 ans qui suivront l'accélération de l'IA. Plus précisément, je pense que

- La plupart des maladies mentales peuvent être guéries.Je ne suis pas un expert en troubles psychiatriques (je passe mon temps en neurosciences à construire des sondes pour étudier de petits groupes de neurones), mais je soupçonne que des troubles tels que le SSPT, la dépression, la schizophrénie, la toxicomanie, etc. pourraient être élucidés et traités très efficacement en combinant les quatre orientations ci-dessus. La réponse pourrait être "quelque chose ne va pas au niveau biochimique" (bien que cela puisse être très complexe) et "quelque chose ne va pas au niveau du réseau neuronal, à un niveau élevé". En d'autres termes, il s'agit d'un problème de neurosciences systémiques, ce qui n'exclut pas l'impact des interventions comportementales évoquées plus haut. Les outils de mesure et d'intervention humaine in vivo semblent susceptibles de conduire à une itération et à des progrès rapides.

- Une situation très "structurelle" peut être plus difficile, mais pas impossible.Certains éléments indiquent que la psychopathie est associée à des différences neuroanatomiques marquées : certaines zones du cerveau sont tout simplement plus petites ou moins développées chez les psychopathes. On pense également que les psychopathes manquent d'empathie dès leur plus jeune âge, ce qui a peut-être toujours été le cas, quelles que soient les différences dans leur cerveau. Il en va de même pour certaines déficiences intellectuelles et peut-être d'autres pathologies. Recâbler le cerveau semble difficile, mais il s'agit d'une tâche très payante pour l'intelligence. Il existe peut-être des moyens d'amener le cerveau adulte à un état plus précoce ou plus plastique afin qu'il puisse être remodelé. Je suis très incertain à ce sujet, mais mon instinct me pousse à être optimiste quant à ce que l'IA peut inventer dans ce domaine.

- Une prévention génétique efficace de la psychose semble possible.La plupart des troubles psychiatriques sont partiellement héréditaires et les études d'association à l'échelle du génome commencent à progresser dans l'identification des facteurs associés, qui sont généralement nombreux. La prévention de la plupart de ces troubles par le dépistage embryonnaire pourrait être possible, comme pour les maladies physiques. La différence réside dans le fait que les maladies mentales sont plus susceptibles d'être polygéniques (de nombreux gènes y contribuent), d'où le risque de sélectionner sans le savoir des traits positifs associés à la maladie en raison de la complexité de celle-ci. Curieusement, les études GWAS de ces dernières années semblent suggérer que ces corrélations pourraient être surestimées. Quoi qu'il en soit, les neurosciences accélérées par l'IA pourraient nous aider à résoudre ces problèmes. Bien entendu, le dépistage embryonnaire de traits complexes soulève des questions sociales et sera controversé, même si je suppose que la plupart des gens seraient favorables au dépistage de troubles psychiatriques graves ou invalidants.

- Nous ne pensons pas que les problèmes quotidiens des maladies cliniques seront également abordés.La plupart d'entre nous ont des problèmes psychologiques quotidiens qui ne sont généralement pas considérés comme des maladies cliniques. Certaines personnes sont sujettes à la colère, d'autres ont des difficultés de concentration ou sont souvent somnolentes, d'autres encore sont craintives ou anxieuses, ou réagissent mal au changement. Aujourd'hui, il existe des médicaments pour aider, par exemple, à la vigilance ou à la concentration (caféine, modafinil, Ritalin), mais comme dans de nombreux domaines auparavant, il existe peut-être d'autres possibilités. Il est possible que de nombreux autres médicaments de ce type n'aient pas encore été découverts et qu'il existe des moyens d'intervention entièrement nouveaux, tels que la stimulation lumineuse ciblée (voir optogénétique ci-dessus) ou les champs magnétiques. Compte tenu du nombre de médicaments mis au point au 20e siècle pour moduler les fonctions cognitives et les états émotionnels, je suis très optimiste quant à l'avènement d'un "21e siècle compressé" dans lequel chacun pourra améliorer les performances de son cerveau et vivre des expériences quotidiennes plus épanouissantes.

- L'expérience humaine de base peut s'améliorer.Pour aller plus loin, de nombreuses personnes vivent des moments extraordinaires de révélation, d'inspiration créative, de compassion, de plénitude, de transcendance, d'amour, de beauté ou de paix méditative. La nature et la fréquence de ces expériences varient d'une personne à l'autre, à des moments différents, et peuvent parfois être déclenchées par divers médicaments (mais souvent avec des effets secondaires). Tout cela suggère que "l'espace des expériences possibles" est très vaste et que la vie d'un plus grand nombre de personnes pourrait être constituée de ces moments extraordinaires. Elle peut également améliorer diverses fonctions cognitives. Il pourrait s'agir de la version neuroscientifique de la "liberté biologique" ou de la "prolongation de la vie".

Un sujet qui revient souvent dans la science-fiction, mais que je n'ai délibérément pas abordé ici, est l'idée du "téléchargement de la conscience", qui consiste à capturer les schémas et les dynamiques du cerveau humain et à les instancier dans un logiciel. Ce sujet pourrait faire l'objet d'un article à part entière, mais la réponse courte est que si je pense que le téléchargement est possible en principe, il se heurte en pratique à d'importants défis techniques et sociétaux qui, même avec une IA puissante, pourraient le placer en dehors de la fenêtre de 5 à 10 ans dont nous parlons.

En bref, les neurosciences accélérées par l'IA pourraient améliorer considérablement le traitement, voire guérir la plupart des maladies mentales, et étendre considérablement la "liberté cognitive et spirituelle" et les capacités cognitives et émotionnelles de l'homme. Cette évolution sera aussi radicale que les améliorations de la santé physique décrites à la section 1. Le monde ne serait peut-être pas très différent de l'extérieur, mais le monde de l'expérience humaine serait meilleur, plus humain et offrirait davantage de possibilités d'accomplissement personnel. Je soupçonne également qu'une meilleure santé mentale améliorerait de nombreux autres problèmes sociaux, y compris ceux qui semblent être d'ordre politique ou économique.

3. le développement économique et la pauvreté

Les deux premières sections traitent des nouvelles technologies de l'UNDG pour guérir les maladies et améliorer la qualité de la vie humaine. Cependant, d'un point de vue humanitaire, une question évidente se pose : "Tout le monde aura-t-il accès à ces technologies ?"

Mettre au point un traitement pour une maladie est une chose, l'éradiquer du monde en est une autre. Plus généralement, de nombreuses interventions sanitaires existantes doivent encore être appliquées dans d'autres parties du monde, et il en va souvent de même pour les améliorations technologiques (non liées à la santé). En d'autres termes, le niveau de vie dans de nombreuses régions du monde est encore extrêmement bas : l'Afrique subsaharienne a un PIB par habitant d'environ 2 000 dollars, contre environ 75 000 dollars aux États-Unis. Si l'IA augmente encore la croissance économique et la qualité de vie dans le monde développé tout en ne faisant pas grand-chose pour aider le monde en développement, nous devrions considérer cela comme un terrible échec moral et une tache sur les vraies victoires humanitaires des deux sections précédentes. Idéalement, une IA puissante devrait aider le monde en développement à "rattraper" le monde développé, même si elle révolutionne ce dernier.

Je ne suis pas aussi confiant dans la capacité de l'IA à inventer la technologie sous-jacente qui résoudra les problèmes d'inégalité et de croissance économique que je le suis dans sa capacité à le faire, étant donné que la technologie a un gain d'intelligence nettement élevé (y compris la capacité à contourner la complexité et le manque de données) alors que l'économie implique beaucoup de contraintes de la part des êtres humains ainsi qu'une grande complexité inhérente. Je suis un peu sceptique quant à la capacité de l'IA à résoudre le fameux "problème de l'informatique socialiste" [23], et même si c'était le cas, je ne pense pas que les gouvernements confieraient (ou devraient confier) leurs politiques économiques à une telle entité. Il y a aussi la question de savoir comment convaincre les gens d'accepter des traitements qui sont efficaces mais dont ils peuvent être sceptiques.

Les défis auxquels sont confrontés les pays en développement sont aggravés par une corruption omniprésente, tant dans le secteur public que dans le secteur privé. La corruption crée un cercle vicieux : elle exacerbe la pauvreté qui, à son tour, engendre davantage de corruption. Les programmes de développement économique pilotés par l'IA doivent tenir compte de la corruption, de la faiblesse des institutions et d'autres défis très humains.

Néanmoins, je vois des raisons évidentes d'être optimiste. Les maladies ont été éradiquées, de nombreux pays sont passés de la pauvreté à la richesse, et il est clair que les décisions impliquées dans ces tâches présentent un rendement élevé de l'intelligence (malgré les contraintes et la complexité humaines), de sorte que l'IA peut être en mesure de faire mieux qu'elle ne le fait actuellement. Il peut également y avoir des interventions ciblées qui peuvent contourner les contraintes humaines, et l'IA peut se concentrer sur celles-ci. Plus important encore, nous devons essayer. Les entreprises d'IA et les décideurs politiques du monde développé doivent faire leur part pour s'assurer que le monde en développement n'est pas laissé pour compte ; l'impératif moral est trop grand. Dans cette section, je continuerai donc à plaider en faveur de l'optimisme, tout en rappelant que le succès n'est pas garanti et qu'il dépend de nos efforts collectifs.

Ci-dessous, je spécule sur la façon dont je pense que le monde en développement pourrait se présenter dans 5 à 10 ans après le développement d'une IA puissante :

- Distribution des interventions sanitaires.Le domaine dans lequel je suis probablement le plus optimiste est celui de la répartition des interventions sanitaires dans le monde. Des maladies ont été virtuellement éradiquées par des campagnes descendantes : la variole a été complètement éradiquée dans les années 1970, et la polio et la dracunculose ont été virtuellement éradiquées avec moins de 100 cas par an. La modélisation épidémiologique mathématiquement sophistiquée a joué un rôle actif dans les campagnes d'éradication des maladies, et il semble très probable que des systèmes d'intelligence artificielle plus intelligents que l'homme pourraient faire le travail mieux que lui. La logistique de la distribution pourrait également être grandement optimisée. L'une des choses que j'ai apprises en étant l'un des premiers donateurs de GiveWell est que certaines organisations caritatives de santé sont plus efficaces que d'autres ; j'espère que les efforts accélérés par l'IA seront plus efficaces. En outre, certaines avancées biologiques ont en fait facilité la logistique de la distribution : le paludisme, par exemple, est difficile à éradiquer parce qu'il nécessite un traitement à chaque fois que la maladie est contractée ; les vaccins qui ne nécessitent qu'une seule vaccination simplifient la logistique (en fait, un tel vaccin contre le paludisme est actuellement en cours de développement). Des mécanismes de distribution plus simples sont possibles : par exemple, éradiquer certaines maladies en ciblant leurs vecteurs animaux, par exemple en libérant des moustiques infectés par une bactérie qui les empêche de porter la maladie (et d'infecter ensuite tous les autres moustiques) ou simplement en utilisant un lecteur de gènes pour éliminer les moustiques. Cela nécessiterait une ou quelques actions ciblées plutôt qu'une campagne coordonnée qui devrait traiter des millions de personnes individuellement. Dans l'ensemble, je pense qu'un délai de 5 à 10 ans est raisonnable et qu'une partie importante des avantages sanitaires générés par l'IA (peut-être 50%) se sera répandue dans les pays les plus pauvres du monde. Un bon objectif pourrait être que les pays en développement soient au moins en aussi bonne santé que les pays développés dans les 5 à 10 ans suivant l'apparition de l'IA, même s'ils restent à la traîne par rapport aux pays développés. Bien entendu, la réalisation de cet objectif nécessitera un effort considérable en matière de santé mondiale, de philanthropie, de plaidoyer politique et dans bien d'autres domaines, et les développeurs d'IA comme les décideurs politiques devraient y contribuer.

- La croissance économique.Le monde en développement peut-il rapidement rattraper le monde développé, non seulement en termes de santé, mais aussi dans tous les aspects de l'économie ? Il existe un précédent : au cours des dernières décennies du XXe siècle, plusieurs économies d'Asie de l'Est ont atteint des taux de croissance annuels soutenus du PIB réel d'environ 10%, ce qui leur a permis de rattraper le monde développé. Les planificateurs économiques humains ont pris les décisions qui ont conduit à ce succès en actionnant quelques leviers clés (par exemple, la politique industrielle pour une croissance tirée par les exportations et la résistance à la tentation de s'appuyer sur les richesses en ressources naturelles) plutôt qu'en prenant le contrôle direct de l'économie dans son ensemble ; les "ministres des finances et gouverneurs de banque centrale artificiellement intelligents" peuvent reproduire ou même surpasser cette réalisation de 10%. 10%. Une question importante est de savoir comment amener les gouvernements des pays en développement à adopter les principes de l'autodétermination tout en les respectant - certains peuvent être enthousiastes, mais d'autres peuvent être sceptiques. Du côté optimiste, bon nombre des interventions sanitaires mentionnées au point précédent peuvent naturellement stimuler la croissance économique : l'éradication du sida, du paludisme et des vers parasites aurait un impact transformateur sur la productivité, sans compter que certaines interventions neuroscientifiques (par exemple, l'amélioration de l'humeur et de la concentration) auraient des retombées économiques à la fois dans les pays développés et dans les pays en voie de développement. Enfin, les technologies d'accélération de l'IA non liées à la santé (par exemple, les technologies énergétiques, les drones de transport, les matériaux de construction améliorés, une meilleure logistique et une meilleure distribution, etc. D'un point de vue plus négatif, malgré les nombreux avantages potentiels de l'IA et de l'automatisation, elles représentent également un défi pour le développement économique, en particulier pour les pays qui ne sont pas encore industrialisés. Trouver des moyens pour que ces pays puissent continuer à développer et à améliorer leurs économies à l'ère de l'automatisation est un défi important à relever pour les économistes et les décideurs politiques. Dans l'ensemble, un scénario de rêve - et peut-être un objectif - serait un taux de croissance annuel du PIB de 201 TP3T dans le monde en développement, dont 101 TP3T proviendraient de la prise de décision économique facilitée par l'IA et 101 autres TP3T de l'accélération de la croissance par l'IA. la diffusion naturelle de la technologie, y compris, mais sans s'y limiter, dans le domaine de la santé. Si cela se réalisait, l'Afrique subsaharienne pourrait atteindre le PIB par habitant actuel de la Chine d'ici 5 à 10 ans, tout en permettant à de nombreux autres pays en développement d'atteindre des niveaux supérieurs au PIB actuel des États-Unis. Encore une fois, il s'agit là d'un scénario de rêve, qui ne se réalisera pas par défaut : c'est quelque chose que nous devons tous travailler à rendre plus possible.

- Sécurité alimentaire[24].Les progrès technologiques dans le domaine des cultures, tels que l'amélioration des engrais et des pesticides, l'automatisation et l'utilisation plus efficace des terres, ont permis d'augmenter considérablement le rendement des cultures et de sauver des millions de personnes de la famine au cours du 20e siècle. Le génie génétique permet aujourd'hui d'améliorer encore de nombreuses cultures. En trouvant d'autres moyens de le faire et en rendant les chaînes d'approvisionnement agricole plus efficaces, nous pourrions assister à une deuxième révolution verte alimentée par l'IA, qui contribuerait à combler le fossé entre les pays en développement et les pays développés.

- Atténuation du changement climatique.Le changement climatique sera ressenti plus fortement dans les pays en développement, ce qui entravera leur développement. Nous pouvons nous attendre à ce que l'IA débouche sur des technologies améliorées permettant d'atténuer ou de stopper le changement climatique, qu'il s'agisse de l'élimination du carbone atmosphérique, des technologies d'énergie propre ou de la viande élevée en laboratoire qui réduit notre dépendance à l'égard de l'élevage industriel à forte intensité de carbone. Bien entendu, comme nous l'avons vu plus haut, la technologie n'est pas la seule à limiter les progrès en matière de changement climatique. Mais il y a de bonnes raisons de penser que la recherche sur l'IA nous donnera les moyens de rendre l'atténuation du changement climatique moins coûteuse et moins dommageable, ce qui rendra bon nombre des objections sans objet et ouvrira la voie à un plus grand développement économique dans les pays en développement.

- Inégalité au sein de l'État.J'ai principalement abordé l'inégalité en tant que phénomène mondial (qui est, selon moi, sa manifestation la plus importante), mais il est évident que l'inégalité existe également au sein des pays. Avec l'augmentation spectaculaire des interventions de santé avancées, en particulier les médicaments de longévité ou d'amélioration cognitive, il y a certainement une inquiétude légitime que ces technologies ne soient "que pour les riches". Je suis particulièrement optimiste en ce qui concerne les inégalités au sein des pays développés, et ce pour deux raisons. Tout d'abord, les marchés fonctionnent mieux dans les pays développés et ils parviennent généralement à réduire le coût des technologies de grande valeur au fil du temps [25]. Deuxièmement, les institutions politiques du monde développé sont plus sensibles aux citoyens et ont une plus grande capacité nationale à mettre en œuvre des programmes d'AU - je m'attends à ce que les citoyens demandent l'accès aux technologies qui améliorent si fondamentalement leur qualité de vie. Bien entendu, cela ne veut pas dire que ces demandes aboutiront - et c'est là que nous devons collectivement faire tout ce qui est en notre pouvoir pour garantir une société équitable. L'inégalité des richesses (par opposition à l'inégalité d'accès aux technologies qui sauvent et améliorent la vie) est une question distincte qui semble plus difficile à traiter et que j'aborde dans la section 5.

- Questions relatives à l'exclusion.. Il existe un problème, tant dans les pays développés que dans les pays en développement, où les gens "refusent" de bénéficier des avantages de l'IA (à l'instar du mouvement anti-vaccin ou, plus généralement, du mouvement luddite). Il pourrait y avoir de mauvaises boucles de rétroaction, par exemple les personnes les moins aptes à prendre de bonnes décisions qui choisiraient de ne pas bénéficier du développement technologique qui améliore leur capacité à prendre des décisions, ce qui creuserait les écarts et créerait même une sous-classe anti-utopique (dont certains chercheurs pensent qu'elle minerait la démocratie, un sujet que j'aborde plus en détail dans la section suivante). Une fois de plus, les progrès de l'IA seraient entachés d'une tache morale. Il s'agit d'un problème difficile à résoudre, car je ne pense pas qu'il soit possible, d'un point de vue éthique, de forcer les gens, mais nous pouvons au moins essayer d'améliorer la compréhension scientifique des gens - peut-être que l'IA elle-même peut nous y aider. Un signe encourageant est que, historiquement, les campagnes anti-technologie ont eu tendance à être plus bruyantes que l'action réelle : l'opposition à la technologie moderne est populaire, mais la plupart des gens finissent par l'adopter, du moins lorsqu'il s'agit d'une question de choix personnel. Les individus ont tendance à adopter la plupart des technologies de la santé et de la consommation, tandis que les technologies qui sont réellement entravées, comme l'énergie nucléaire, ont tendance à faire l'objet de décisions politiques collectives.

Dans l'ensemble, je suis optimiste quant à la possibilité d'apporter rapidement les progrès biologiques de l'IA aux populations des pays en développement. J'ai bon espoir, mais je ne suis pas certain, que l'IA puisse atteindre des taux de croissance économique sans précédent qui placeront les pays en développement au moins au-dessus des niveaux actuels des pays développés. Je m'inquiète du problème de la "non-participation", tant dans les pays développés que dans les pays en développement, mais je pense qu'il disparaîtra avec le temps et que l'IA peut contribuer à accélérer le processus. Le monde ne sera pas parfait, et ceux qui sont en retard ne le rattraperont pas tout à fait, du moins pas dans les premières années. Mais grâce à nos efforts, nous pouvons progresser rapidement dans la bonne direction. Et si nous y parvenons, nous pourrons au moins contribuer à la réalisation des promesses de dignité et d'égalité que nous faisons à chaque être humain sur la planète.

4. la paix et la gouvernance

Supposons que tout se passe bien dans les trois premières composantes : la maladie, la pauvreté et l'inégalité sont réduites de manière significative et les conditions de base de l'expérience humaine sont grandement améliorées. Cela ne signifie pas que toutes les causes majeures de la souffrance humaine ont été traitées. Les êtres humains constituent toujours une menace les uns pour les autres.

S'il existe une tendance à ce que le progrès technologique et le développement économique conduisent à la démocratie et à la paix, il s'agit d'une tendance très floue qui s'est souvent (et récemment) inversée. Au début du vingtième siècle, on pensait avoir laissé la guerre derrière soi ; puis vinrent les deux guerres mondiales. Il y a trente ans, Francis Fukuyama parlait de la "fin de l'histoire" et du triomphe ultime de la démocratie libérale ; cela ne s'est pas encore produit. Il y a vingt ans, les responsables politiques américains pensaient que le libre-échange avec la Chine conduirait à la libéralisation de ce pays au fur et à mesure qu'il s'enrichirait ; cela ne s'est tout simplement pas produit, et nous semblons maintenant nous diriger vers une deuxième guerre froide avec un bloc autoritaire ravivé. Des théories crédibles suggèrent que la technologie de l'internet pourrait en fait favoriser l'autoritarisme au détriment de la démocratie, comme on le pensait à l'origine (par exemple lors du printemps arabe). Il semble important d'essayer de comprendre comment l'IA puissante va croiser les questions de paix, de démocratie et de liberté.

Malheureusement, je n'ai pas plus de raisons de croire que l'IA fera préférentiellement ou structurellement progresser la démocratie et la paix que je n'en ai de croire qu'elle fera structurellement progresser la santé humaine et qu'elle réduira la pauvreté. Les conflits humains sont contradictoires et l'IA peut en principe aider à la fois les "bons" et les "méchants". Au contraire, certains facteurs structurels semblent inquiétants : l'IA peut faciliter la propagande et la surveillance, deux outils clés dans la boîte à outils des dirigeants autoritaires. En tant qu'acteurs individuels, nous devons donc essayer de faire avancer les choses dans la bonne direction : si nous voulons que l'IA favorise la démocratie et les droits individuels, nous devrons nous battre pour obtenir ce résultat. Je suis plus convaincu par cette question que par celle de l'inégalité internationale : le triomphe de la démocratie libérale et de la stabilité politique n'est pas garanti, peut-être même pas possible, et exigera de nous tous beaucoup de sacrifices et d'engagement, comme cela a souvent été le cas par le passé.

Je pense que le problème comporte deux volets : les conflits internationaux et la structure interne de l'État. Sur le plan international, il semble important que les démocraties s'imposent sur la scène mondiale lorsque des IA puissantes sont créées. L'autoritarisme induit par l'IA semble trop effrayant pour être envisagé, de sorte que les démocraties doivent être en mesure de fixer les conditions dans lesquelles des IA puissantes peuvent entrer dans le monde, à la fois pour éviter d'être submergées par des autoritaires et pour empêcher que des violations des droits de l'homme ne se produisent au sein d'États autoritaires.

À mon avis, le meilleur moyen d'y parvenir est d'adopter une "stratégie de concordance" [26], dans laquelle une coalition de démocraties cherche à obtenir un avantage clair (même temporaire) sur une IA puissante en sécurisant sa chaîne d'approvisionnement, en se développant rapidement et en empêchant ou en retardant l'accès de l'adversaire à des ressources clés (par exemple, les puces et les équipements de semi-conducteurs). ). La coalition utiliserait l'IA pour obtenir un solide avantage militaire (le bâton) tout en proposant de distribuer les avantages d'une IA puissante à un nombre croissant de pays (la carotte) en échange d'un soutien à la stratégie de la coalition visant à promouvoir la démocratie (ce qui s'apparenterait en quelque sorte à l'"atome de paix"). L'objectif de la Coalition est d'obtenir le soutien d'un nombre croissant de pays, d'isoler nos pires adversaires et, en fin de compte, de les mettre dans une meilleure position pour renoncer à concurrencer les démocraties pour tous les avantages et ne pas combattre des adversaires supérieurs : renoncer à concurrencer les démocraties pour tous les avantages et ne pas combattre des adversaires supérieurs.

Si nous parvenons à faire tout cela, nous aurons un monde dans lequel les démocraties domineront la scène mondiale et disposeront de la puissance économique et militaire nécessaire pour éviter d'être sapées, subjuguées ou détruites par des États autoritaires, et pourront peut-être transformer leurs avantages en matière d'intelligence artificielle en avantages durables. Cela pourrait conduire de manière optimiste à un "1991 éternel" - un monde où les démocraties prévalent et où le rêve de Fukuyama se réalise. Une fois encore, ce rêve sera très difficile à réaliser, d'autant plus qu'il nécessitera une coopération étroite entre les entreprises privées d'IA et les gouvernements démocratiques, ainsi qu'une prise de décision extrêmement sage quant à l'équilibre entre la carotte et le bâton.

Même si tout se passe bien, la question de la lutte entre la démocratie et l'autoritarisme au sein de chaque pays reste ouverte. Il est évidemment difficile de prédire ce qui se passera, mais je suis optimiste : dans un environnement mondial où les démocraties contrôlent les IA les plus puissantes, les IA pourraient être structurées de manière à soutenir la démocratie partout. En particulier, dans un tel environnement, les gouvernements démocratiques pourraient utiliser leur super IA pour gagner la guerre de l'information : ils pourraient contrer les opérations d'influence et de propagande des États autoritaires, et peut-être même créer un environnement mondial d'information libre en fournissant un accès à l'information et aux services d'IA que les États autoritaires n'ont pas la capacité technologique de bloquer ou de surveiller. Il ne sera peut-être pas nécessaire de faire de la propagande, mais simplement de contrer les attaques malveillantes et d'empêcher la libre circulation de l'information. Bien qu'elle ne soit pas immédiate, une telle égalité des conditions de concurrence a de bonnes chances de faire évoluer progressivement la gouvernance mondiale vers la démocratie, et ce pour plusieurs raisons.

Premièrement, les progrès réalisés dans l'amélioration de la qualité de vie dans les sections 1 à 3 devraient, toutes choses égales par ailleurs, promouvoir la démocratie : historiquement, ils l'ont fait, au moins dans une certaine mesure. En particulier, je m'attends à ce que l'amélioration de la santé mentale, du bonheur et de l'éducation renforce la démocratie, puisque ces trois éléments sont négativement corrélés avec le soutien aux dirigeants autoritaires. En général, les gens veulent s'exprimer davantage lorsque leurs autres besoins sont satisfaits, et la démocratie est une forme d'expression de soi. En revanche, l'autoritarisme se nourrit de la peur et du ressentiment.

Deuxièmement, il y a de fortes chances que l'information libre ébranle effectivement l'autoritarisme, tant que les autoritaires ne peuvent pas la censurer. L'IA non censurée peut également fournir aux individus des outils puissants pour saper les gouvernements oppressifs. Les gouvernements oppressifs survivent en privant les gens d'un certain type de connaissances communes, les empêchant de réaliser que "l'empereur n'a pas d'habits". Par exemple, Srdja Popovic, qui a contribué à renverser le gouvernement de Milosevic, a beaucoup écrit sur les techniques permettant de priver psychologiquement les autoritaires de leur pouvoir, de briser les sortilèges et de rallier l'opposition aux dictateurs. Une version surhumainement efficace de l'IA dans la poche de tout un chacun (dont les compétences semblent être très rentables pour l'intelligence) pourrait apporter un soutien aux dissidents et aux réformateurs dans le monde entier. Encore une fois, le combat sera long et difficile, et la victoire n'est pas garantie, mais si nous concevons et construisons l'IA de la bonne manière, ce combat pourrait au moins donner un avantage aux défenseurs de la liberté partout dans le monde.

À l'instar des neurosciences et de la biologie, nous pouvons nous demander comment rendre les choses "meilleures que la normale" - non seulement comment éviter l'autoritarisme, mais aussi comment rendre la démocratie meilleure qu'elle ne l'est aujourd'hui. Même dans les démocraties, des injustices se produisent souvent. Les sociétés régies par l'État de droit promettent à leurs citoyens que tous seront égaux devant la loi et que tous jouiront des droits de l'homme fondamentaux, mais il est clair que les gens ne bénéficient pas toujours de ces droits dans la pratique. Nous pouvons être fiers de cette promesse, même si elle n'est que partiellement tenue, mais l'IA peut-elle nous aider à faire mieux ?

Par exemple, l'IA peut-elle améliorer nos systèmes juridiques et judiciaires en rendant les décisions et les processus plus justes ? Aujourd'hui, on craint fortement que les systèmes d'IA ne soient une cause de discrimination dans les contextes juridiques ou judiciaires, et ces craintes sont importantes et doivent être défendues. Dans le même temps, la viabilité de la démocratie dépend de l'utilisation des nouvelles technologies pour améliorer les institutions démocratiques, et pas seulement pour réagir aux risques. Une mise en œuvre de l'IA réellement mature et réussie a le potentiel de réduire les préjugés et d'être plus équitable pour tous.

Depuis des siècles, le système juridique est confronté au dilemme suivant : le droit, qui se veut juste, est intrinsèquement subjectif et doit donc être interprété par des êtres humains partiaux. Les tentatives de mécanisation totale du droit n'ont pas fonctionné car le monde réel est chaotique et ne peut pas toujours être décrit par des formules mathématiques. Au lieu de cela, le système juridique s'appuie sur des critères notoirement imprécis, tels que les "peines cruelles et inhabituelles" ou "l'absence totale de valeur sociale rédemptrice", qui sont ensuite interprétés par des êtres humains - et souvent d'une manière qui témoigne d'un parti pris, de préjugés et d'une absence de valeur sociale. Ils sont ensuite interprétés par des humains - et souvent d'une manière qui témoigne d'un parti pris, de préjugés et d'un manque de valeur sociale. Les "contrats intelligents" des crypto-monnaies n'ont pas révolutionné le droit, car le code ordinaire n'est pas assez intelligent pour statuer sur toutes les questions intéressantes. Mais l'IA pourrait être assez intelligente : c'est la première technologie capable d'émettre des jugements larges et ambigus de manière répétable et mécanique.

Je ne suggère pas que nous remplacions littéralement les juges par des systèmes d'IA, mais la combinaison de l'impartialité et de la capacité à comprendre et à traiter les situations désordonnées du monde réel Le sentiment devrait avoir des applications positives sérieuses pour le droit et la justice. À tout le moins, un tel système pourrait servir d'aide à la prise de décision humaine. La transparence est importante dans un tel système, et une science de l'IA sophistiquée pourrait l'assurer : le processus d'apprentissage de ces systèmes pourrait être étudié de manière approfondie, et des techniques interprétables avancées pourraient être utilisées pour regarder à l'intérieur du modèle final et l'évaluer pour y déceler des biais cachés, ce qui serait impossible avec des êtres humains. De tels outils d'IA pourraient également être utilisés pour surveiller les violations des droits fondamentaux dans les contextes judiciaires ou policiers, ce qui rendrait les constitutions plus auto-applicables.

De même, l'IA peut être utilisée pour rassembler les opinions et favoriser le consensus entre les citoyens, résoudre les conflits, trouver un terrain d'entente et rechercher des compromis. Certaines idées préliminaires à cet égard ont été reprises par le projet "Computational Democracy", notamment dans le cadre d'une collaboration avec Anthropic. Des citoyens mieux informés et plus réfléchis renforcent certainement les institutions démocratiques.

Il existe également une opportunité évidente d'utiliser l'IA pour aider à fournir des services gouvernementaux - tels que les prestations de santé ou les services sociaux - qui sont en principe disponibles pour tous, mais qui, dans la pratique, font souvent cruellement défaut et sont moins bien lotis dans certains endroits que dans d'autres. Il s'agit notamment des services de santé, des registres de véhicules, des impôts, de la sécurité sociale, de l'application du code de la construction, etc. Disposer d'une IA très réfléchie et bien informée dont le travail consiste à vous donner accès à tout ce que le gouvernement est censé fournir de manière compréhensible - et à vous aider à respecter les règles souvent déroutantes de l'administration - serait une bonne chose. Le renforcement des capacités de l'État contribue à la réalisation de la promesse d'égalité devant la loi et renforce le respect de la gouvernance démocratique. Des services mal exécutés sont l'un des principaux moteurs du cynisme actuel à l'égard des pouvoirs publics [27].

Toutes ces idées sont vagues et, comme je l'ai dit au début de cette section, j'ai beaucoup moins confiance en leur faisabilité qu'en mes progrès en matière de biologie, de neurosciences et de lutte contre la pauvreté. Il peut s'agir d'idées utopiques irréalisables. Mais il est important d'avoir une vision ambitieuse et d'être prêt à rêver avec audace et à essayer de nouvelles choses. La vision de l'IA en tant que garante de la liberté, des droits individuels et de l'égalité devant la loi est trop puissante pour être ignorée. Un système politique du XXIe siècle fondé sur l'IA peut être à la fois un meilleur protecteur des libertés individuelles et une lueur d'espoir, en contribuant à faire de la démocratie libérale la forme de gouvernement que le monde entier souhaite adopter.

5. le travail et le sens

Même si tout se passe bien dans les quatre premières parties - non seulement nous réduisons les maladies, la pauvreté et les inégalités, mais la démocratie libérale devient la forme dominante de gouvernement, et les démocraties libérales existantes deviennent de meilleures versions d'elles-mêmes - au moins une question importante reste posée. "C'est formidable de vivre dans un monde aussi technologiquement avancé, aussi juste et décent", pourrait-on objecter, "mais avec l'IA qui fait tout, comment les humains auront-ils un sens ? Comment survivront-ils économiquement, d'ailleurs ?".

Je pense que ce problème est plus difficile que d'autres. Ce que je veux dire, c'est que cette question est plus imprévisible que d'autres parce qu'elle implique des macro questions sur la façon dont les sociétés sont organisées, des questions qui ne peuvent souvent être résolues qu'avec le temps et de façon décentralisée. Par exemple, les sociétés historiques de chasseurs-cueilleurs ont pu imaginer que la vie n'aurait pas de sens sans la chasse et les divers rituels religieux qui y sont associés, et elles ont pu imaginer que notre société technologique rassasiée n'avait pas de but. Elles peuvent également ne pas comprendre comment notre économie subvient aux besoins de tous, ou quelles fonctions les gens peuvent effectivement remplir dans une société mécanisée.

Néanmoins, il vaut la peine d'en dire au moins quelques mots, en gardant à l'esprit que la brièveté de cette section ne suggère en aucun cas que je ne prends pas ces questions au sérieux - au contraire, c'est le signe d'un manque de réponses claires.

En ce qui concerne le sens, je pense qu'il est probable que l'on pense à tort que si l'on effectue une tâche qui n'a pas de sens, c'est uniquement parce que l'IA peut mieux le faire. La plupart des gens ne sont pas les meilleurs au monde dans quelque domaine que ce soit, et cela ne semble pas les déranger particulièrement. Bien sûr, aujourd'hui, ils peuvent encore contribuer grâce à l'avantage comparatif et peuvent tirer un sens de la valeur économique qu'ils produisent, mais les gens aiment aussi beaucoup les activités qui ne produisent pas de valeur économique. Je passe beaucoup de temps à jouer à des jeux vidéo, à nager, à sortir et à parler à mes amis, autant d'activités qui ne produisent pas de valeur économique. Je peux passer une journée à essayer de m'améliorer dans un jeu vidéo ou à rouler plus vite à vélo en montagne, et cela ne me dérange vraiment pas si quelqu'un, quelque part, est meilleur que moi dans ces domaines. Quoi qu'il en soit, je pense que le sens vient surtout des relations et des liens, et non du travail économique. Les gens veulent un sentiment d'accomplissement, même s'il s'agit d'un sentiment de compétition, et dans un monde post-AI, il est parfaitement possible de passer des années à tenter d'accomplir des tâches très difficiles avec des stratégies complexes, comme le font aujourd'hui les gens qui démarrent un projet de recherche, essaient de devenir un acteur d'Hollywood ou créent une entreprise [28]. Le fait que (a) une IA quelque part pourrait en principe mieux faire cette tâche, et (b) que cette tâche n'est plus un élément de rendement économique dans l'économie mondiale, ne me semble pas avoir d'importance.

En fait, il me semble que la partie économique est plus difficile que la partie significative. Par "économique" dans cette section, j'entends le problème éventuel de l'incapacité de la plupart ou de la totalité des humains à contribuer de manière significative à une économie suffisamment avancée pilotée par l'IA. Il s'agit d'un problème beaucoup plus macro que la question distincte de l'inégalité, en particulier l'inégalité d'accès aux nouvelles technologies, que j'aborde dans la section 3.

Premièrement, à court terme, je conviens que l'argument de l'avantage comparatif continuera à rendre les humains pertinents et à augmenter leur productivité, voire à égaliser les chances d'une certaine manière. Tant que l'IA n'est que 90% meilleure dans un travail particulier, les 10% restants feront que les humains deviendront très utiles, augmenteront leur rémunération et créeront de nombreux nouveaux emplois humains qui complèteront et amplifieront ce que l'IA sait faire, permettant ainsi aux "10%" de s'étendre pour continuer à employer presque tout le monde. En effet, même si l'IA peut faire 100% choses mieux que les humains, la logique de l'avantage comparatif continue de s'appliquer si elle reste inefficace ou coûteuse pour certaines tâches, ou si les ressources utilisées par les humains et l'IA sont sensiblement différentes. Le monde physique est un domaine dans lequel les humains peuvent conserver un avantage relatif (voire absolu) au fil du temps. Je pense donc que l'économie humaine peut continuer à être pertinente même lorsque nous aurons atteint "l'état de génie centré sur les données".

Cependant, je pense qu'à long terme, l'IA deviendra si efficace et si bon marché que cela ne s'appliquera plus. À ce moment-là, notre structure économique actuelle n'aura plus de sens et il sera nécessaire d'engager un dialogue sociétal plus large sur la manière dont l'économie devrait être organisée.

Cela peut sembler fou, mais le fait est que la civilisation a réussi à faire face à des changements économiques majeurs dans le passé : de la chasse-cueillette à l'agriculture, de l'agriculture au féodalisme, et du féodalisme à l'industrialisme. Je pense que quelque chose de nouveau et d'étrange sera nécessaire, une vision que personne ne fait très bien aujourd'hui. Il pourrait s'agir d'un revenu de base universel pour tous, bien que je soupçonne que ce ne soit qu'une petite partie de la solution. Il pourrait s'agir d'une économie capitaliste gérée par un système d'IA, qui alloue ensuite des ressources aux humains (en raison de ce que le système d'IA pense qu'il est logique de récompenser parmi les humains) sur la base du jugement du système d'IA (qui découle en fin de compte des valeurs humaines) sur la base d'une sorte d'économie secondaire. Peut-être que l'économie fonctionne avec des points Whuffie. Ou peut-être que les humains finissent par avoir encore une valeur économique, d'une manière qui n'est pas prévue par les modèles économiques habituels. Toutes ces solutions présentent un grand nombre de problèmes possibles, et il n'est pas certain qu'elles aient un sens à moins de procéder à un grand nombre d'itérations et d'expérimentations. Comme pour d'autres défis, il se peut que nous devions nous battre pour obtenir de bons résultats : l'exploitation ou les orientations anti-utopiques sont également possibles et doivent être découragées. Il y aurait beaucoup à écrire sur ces questions, et j'espère le faire à l'avenir.

résumés

À travers les différents thèmes mentionnés ci-dessus, j'ai essayé de présenter une vision d'un monde qui, si tout se passe bien avec l'IA, est un monde bien meilleur que celui que nous connaissons aujourd'hui. Je ne sais pas si ce monde est réaliste, et même s'il l'est, il ne se réalisera pas sans un travail acharné et une lutte acharnée de la part de nombreuses personnes courageuses et dévouées. Tout le monde (y compris les entreprises d'IA !) ) doit faire sa part, à la fois pour prévenir les risques et pour en tirer tous les avantages.

Mais c'est un monde pour lequel il vaut la peine de se battre. Si cela se produit dans cinq ou dix ans - la défaite de la plupart des maladies, la croissance de la liberté biologique et cognitive, la sortie de milliards de personnes de la pauvreté, le partage des nouvelles technologies, la renaissance de la démocratie libérale et des droits de l'homme - je doute que tous ceux qui en seront témoins en ressentiront l'effet . Je veux dire, être témoin des avantages personnels de toutes les nouvelles technologies, ce serait certainement extraordinaire. Je veux dire être témoin de l'expérience d'un ensemble d'idéaux que nous avons défendus pendant si longtemps et qui se réalisent simultanément pour tous. Je pense que beaucoup en seront émus aux larmes.

Au cours de la rédaction de cet article, j'ai remarqué une tension intéressante. Dans un sens, la vision présentée ici est extrêmement radicale : tout le monde ne s'attend pas à ce qu'elle se réalise au cours de la prochaine décennie, et elle peut sembler à beaucoup une fantaisie absurde. Certains pourraient même la trouver indésirable ; elle incarne des valeurs et des choix politiques avec lesquels tout le monde ne sera pas d'accord. Mais en même temps, il y a quelque chose de très évident - quelque chose de surdéterminé - à son sujet, comme si de nombreuses tentatives différentes d'imaginer un monde bon conduisaient inévitablement à cette situation.

Dans The Game Player [29] de Iain M. Banks, le protagoniste, malgré tout cela, reste d'une beauté transcendante. Nous avons la possibilité de contribuer modestement à sa réalisation. Malgré tout, il reste d'une beauté transcendante. Nous avons la possibilité de contribuer modestement à sa réalisation. -Les membres d'une société appelée Culture, dont les fondements coïncident avec ce que je propose ici, voyagent dans un empire répressif et militariste, dans lequel le leadership est déterminé par une compétition complexe de jeux de combat. Le jeu est cependant suffisamment complexe pour que les stratégies des joueurs tendent à refléter leurs propres opinions politiques et philosophiques. Le fait que le protagoniste parvienne à vaincre l'empereur dans le jeu suggère que ses valeurs (les valeurs de la culture) représentent une stratégie gagnante, même dans les règles d'un jeu conçu par une société de compétition impitoyable et de survie du plus fort.Un billet bien connu de Scott Alexander avance le même argument, à savoir que la compétition est autodestructrice Un billet bien connu de Scott Alexander présente le même argument, à savoir que la concurrence s'autodétruit et tend à conduire à une société fondée sur la compassion et la coopération. L'"arc de l'univers moral" est un autre concept similaire.

Je pense que les valeurs de la culture sont une stratégie gagnante parce qu'elles sont la somme d'un million de petites décisions qui ont une force morale évidente et tendent à tirer tout le monde du même côté. Les intuitions humaines fondamentales telles que l'équité, la coopération, la curiosité et l'autonomie sont difficilement contestables, et de manière cumulative, ce qui n'est pas le cas de nos impulsions plus destructrices. Il est facile de penser que les enfants ne devraient pas mourir de maladies que nous pouvons prévenir et, à partir de là, il est facile de penser que l'enfant de chaque homme mérite ce droit. À partir de là, il est facile d'affirmer que nous devrions nous unir et mettre en œuvre notre ingéniosité pour parvenir à ce résultat. Peu de gens contestent le fait que les personnes qui attaquent ou blessent inutilement d'autres personnes doivent être punies et, à partir de là, il n'est pas difficile de penser que la punition doit être cohérente et systématique. Il en va de même pour l'idée que les gens devraient être autonomes et responsables de leur vie et de leurs choix. Ces simples intuitions, lorsqu'elles sont poussées jusqu'à leurs conclusions logiques, conduisent finalement à l'État de droit, à la démocratie et aux valeurs des Lumières. Si ce n'est pas nécessairement inévitable, du moins en tant que tendance statistique, c'est vers cela que l'humanité se dirige déjà. L'informatique offre simplement l'occasion de nous y conduire plus rapidement - en rendant la logique plus nette et la destination plus claire.

Elle n'en demeure pas moins d'une beauté transcendante. Nous avons la possibilité de contribuer modestement à sa réalisation.

Merci à Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe et à de nombreuses personnes d'Anthropic pour avoir relu les versions préliminaires de cet article.

Merci au lauréat du prix Nobel de chimie 2024 de nous avoir montré la voie.

# note de bas de page

01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace

02 Je m'attends à ce que la réaction de certaines personnes soit "c'est trop fade". Je pense que ces personnes ont besoin, dans le langage de Twitter, de "toucher l'herbe". Mais surtout, la fadeur est une bonne chose d'un point de vue social. Je pense qu'il y a une limite à la quantité de changements que les gens peuvent supporter en même temps, et le rythme que je décris est probablement proche de la limite de ce que la société peut absorber sans bouleversement extrême.

03. je pense que l'AGI est un terme imprécis qui accumule beaucoup de bagages de science-fiction

et le battage médiatique. Je préfère "IA puissante" ou "science et ingénierie expertes", qui correspondent à ce que je veux dire sans le battage médiatique.

04 Dans cet article, j'utilise le terme "intelligence" pour désigner une capacité générique de résolution de problèmes qui peut s'appliquer à différents domaines. Cela inclut des capacités telles que le raisonnement, l'apprentissage, la planification et la créativité. Bien que j'utilise le terme "intelligence" comme raccourci tout au long de cet article, je reconnais que la nature de l'intelligence est un sujet complexe et controversé dans le domaine des sciences cognitives et de la recherche sur l'intelligence artificielle. Certains chercheurs soutiennent que l'intelligence n'est pas un concept unique et unifié, mais plutôt un ensemble de capacités cognitives indépendantes. D'autres pensent qu'il existe un facteur général d'intelligence (le facteur g) qui sous-tend les différentes aptitudes cognitives. Il s'agit là d'un débat pour une autre fois.

05. C'est à peu près la vitesse des systèmes d'IA actuels - par exemple, ils peuvent lire une page de texte en quelques secondes, et peut-être écrire une page de texte en 20 secondes, ce qui est 10 à 100 fois plus rapide que ce que peut faire un humain. Au fil du temps, les modèles plus grands tendent à ralentir cette vitesse, mais les puces plus puissantes tendent à l'accélérer ; jusqu'à présent, les deux effets se sont à peu près annulés.

06. Cela peut sembler être une position d'homme de paille, mais des penseurs prudents comme Tyler Cowen et Matt Yglesias l'ont soulevée comme une question sérieuse (bien que je ne pense pas qu'ils la soutiennent entièrement) et je ne pense pas qu'elle soit folle.

07 Le travail économique le plus proche de cette question, à ma connaissance, est le travail sur les "technologies à usage général" et les "investissements incorporels", qui complètent les technologies à usage général.

08. cet apprentissage pourrait comprendre un apprentissage ad hoc, en contexte, ou une formation traditionnelle ; les deux seraient limités par le monde physique.

09. dans les systèmes chaotiques, les petites erreurs s'accumulent de manière exponentielle avec le temps, de sorte que même si une forte augmentation de la puissance de calcul n'entraîne qu'une faible augmentation du pouvoir de prédiction, les erreurs de mesure peuvent en fait le réduire encore davantage.

10) L'autre facteur est bien sûr que l'IA puissante elle-même peut être utilisée pour créer une IA encore plus puissante. mon hypothèse est que cela peut se produire (en fait, cela se produira probablement), mais son impact sera plus faible que vous ne le pensez, précisément en raison des "rendements marginaux décroissants de l'intelligence" dont il est question ici. En d'autres termes, l'IA continuera à devenir plus intelligente très rapidement, mais son impact sera finalement limité par des facteurs non intelligents, et l'analyse de ces facteurs est essentielle à la rapidité des progrès scientifiques au-delà de l'IA.

11 Ces réalisations sont une source d'inspiration pour moi et constituent peut-être l'exemple le plus puissant de l'utilisation de l'IA pour transformer la biologie.

12) "Le progrès scientifique dépend de nouvelles technologies, de nouvelles découvertes et de nouvelles idées, probablement dans cet ordre." - Sydney Brenner

13) Merci à Parag Mallick d'avoir soulevé ce point.

14 Je ne veux pas remplir le texte de spéculations sur les découvertes futures que la science fondée sur l'IA pourrait faire, mais voici un brainstorming de certaines possibilités : - Conception de meilleurs outils de calcul tels qu'AlphaFold et AlphaProteo - c'est-à-dire un système d'IA à usage général qui accélère notre capacité à créer des outils de biologie informatique spécialisés - CRISPR plus efficace et plus sélectif - Thérapies cellulaires plus avancées. - CRISPR plus efficace et plus sélectif - Thérapies cellulaires plus avancées. - Des percées en science des matériaux et en miniaturisation conduisant à de meilleurs dispositifs implantables. - Meilleur contrôle des cellules souches, de la différenciation et de la dédifférenciation cellulaires, et de la capacité de régénération ou de remodelage des tissus qui en découle. - Meilleur contrôle du système immunitaire : activation sélective pour lutter contre le cancer et les maladies infectieuses, et désactivation sélective pour lutter contre les maladies auto-immunes.

15 Bien entendu, l'IA peut également aider à faire des choix plus judicieux quant aux expériences à mener : améliorer la conception des expériences, tirer davantage d'enseignements de la première série d'expériences afin que la deuxième série permette de réduire les questions clés, etc.

16 Merci à Matthew Yglesias d'avoir soulevé ce point.

17) Les maladies à évolution rapide, telles que les souches multirésistantes, qui utilisent essentiellement les hôpitaux comme des laboratoires d'évolution pour améliorer continuellement leur résistance au traitement, peuvent être particulièrement difficiles à traiter et pourraient être le genre de choses qui nous empêchent d'atteindre 100%.

18) Notez qu'il peut être difficile de savoir si nous avons doublé la longévité humaine dans 5 à 10 ans. Il est possible que nous y soyons parvenus, mais il se peut que nous ne le sachions pas dans le délai imparti pour l'étude.

19 C'est ce que je voudrais dire, non pas en dépit des différences biologiques évidentes dans le traitement des maladies et le ralentissement du processus de vieillissement lui-même, mais plutôt en regardant les tendances statistiques avec plus de distance : "Même si les détails sont différents, je pense que les sciences humaines sont susceptibles de poursuivre cette tendance ; après tout, les tendances lisses dans les choses complexes sont inévitablement composées d'éléments très hétérogènes".

20 On m'a dit, par exemple, qu'une augmentation de la croissance de la productivité de 11 TP3T ou même de 0,51 TP3T par an aurait un effet transformateur sur les projections associées à ces programmes. Si les idées envisagées dans le présent document devaient se concrétiser, la croissance de la productivité pourrait être bien plus importante que cela.

21) Les médias aiment présenter des psychopathes de haut niveau, mais le psychopathe moyen peut être une personne ayant de faibles perspectives financières et un mauvais contrôle de ses impulsions, qui finit par passer beaucoup de temps en prison.

22 Je pense que cela est quelque peu analogue au fait que de nombreux résultats que nous avons tirés de l'interprétabilité resteront pertinents même si certains détails architecturaux de nos réseaux neuronaux artificiels actuels, tels que le mécanisme d'attention, sont modifiés ou remplacés.

23 Je soupçonne qu'il s'agit d'un système chaotique classique, en proie à une complexité irréductible qui doit être gérée de manière essentiellement décentralisée. Bien que, comme je le soutiens dans une section ultérieure, des interventions plus modestes puissent être possibles. Un contre-argument que l'économiste Erik Brynjolfsson m'a présenté est que les grandes entreprises (par exemple Wal-Mart ou YouTuber) commencent à avoir suffisamment de connaissances centralisées pour comprendre les consommateurs mieux que n'importe quel processus décentralisé, ce qui nous oblige peut-être à revoir les idées de Hayek sur la question de savoir qui a les meilleures connaissances locales.

24 Merci à Kevin Esvelt d'avoir soulevé ce point.

25 Par exemple, les téléphones portables ont d'abord été une technologie pour les riches, mais ils sont rapidement devenus très bon marché et les améliorations d'année en année ont été si rapides que l'avantage d'acheter un téléphone portable "de luxe" n'existait plus et qu'aujourd'hui la plupart des gens possèdent des téléphones portables d'une qualité similaire.

26 C'est le titre de l'étude RAND à paraître, qui expose dans les grandes lignes la stratégie que je décris.

27 Lorsque les gens ordinaires pensent aux institutions publiques, ils peuvent penser à leurs expériences avec DMV, IRS, Medicare ou d'autres fonctions similaires. Rendre ces expériences plus positives qu'elles ne le sont actuellement semble être un moyen efficace de lutter contre un cynisme excessif.

28 En effet, dans un monde régi par l'IA, la portée de ces défis et projets possibles sera beaucoup plus grande qu'aujourd'hui.

29 J'ai enfreint ma propre règle de ne pas en faire de la science-fiction, mais je trouve difficile d'au moins le mentionner. La vérité est que la science-fiction est l'une des seules sources dont nous disposons pour des expériences de pensée expansives sur l'avenir ; je pense que c'est une mauvaise chose qu'elle soit si étroitement liée à une sous-culture très étroite.