Anthropisch Die jüngsten Artikel von Dario Amodei, CEO von OpenAI, und Sam Altman, CEO von OpenAI, zeigen die unterschiedlichen Schwerpunkte ihrer jeweiligen Unternehmen bei der Entwicklung von KI. Dario Amodei betont die Interpretierbarkeit und Sicherheit von KI-Modellen als Schlüssel zur Gewährleistung zuverlässiger und kontrollierbarer KI-Systeme, während Sam Altman sich mehr auf die Kommerzialisierung von KI-Anwendungen und technologische Durchbrüche, wobei er die Förderung von KI-Fähigkeiten durch groß angelegte und datengesteuerte Datenverarbeitung hervorhebt. Unterschiede zwischen den beiden gibt es hinsichtlich der langfristigen Ziele der KI-Entwicklung, wobei Dario Amodei sich mehr auf die langfristigen Auswirkungen der KI auf die menschliche Gesellschaft und die Sicherheit konzentriert, während Sam Altman eher dazu neigt, den kommerziellen Wert der KI und den sozialen Wandel durch technologischen Fortschritt zu realisieren.
Dario Amodei hat in Stanford in Neurowissenschaften promoviert. In seinem neuesten Artikel Machines of Loving Grace beschreibt er die positiven Auswirkungen zukünftiger starker künstlicher Intelligenz (er zieht es vor, dies nicht AGI zu nennen) auf den Menschen, mit rigorosen und detaillierten Argumentationsprozessen in jedem Bereich, die viel rationaler, objektiver und relevanter sind als Sam Altman!
Dieser 10.000 Wörter umfassende Artikel ist für jeden lesenswert, der sich für KI interessiert.
Aufgrund seiner Länge habe ich die wichtigsten Teile des Artikels zusammengefasst. Dennoch empfehle ich Ihnen, den Originalartikel zu lesen, dem eine Übersetzung des Originaltextes folgt.
Hauptargument: Amodei glaubt, dass starke KI (er vermeidet den Begriff AGI) das Potenzial hat, das menschliche Leben trotz der Risiken radikal zu verbessern. Er sagt voraus, dass wir innerhalb von 5-10 Jahren nach dem Aufkommen starker KI große Fortschritte in den Bereichen Biologie, Neurowissenschaften, wirtschaftliche Entwicklung, friedliche Staatsführung sowie Arbeit und Sinn erleben werden.
Schlüsselkomponente:
Das Potenzial einer starken KI wird unterschätzt: Amodei argumentiert, dass die meisten Menschen die potenziellen Vorteile einer starken KI unterschätzen, genauso wie sie ihre Risiken unterschätzen. Er argumentiert, dass starke KI zu einer grundsätzlich positiven Zukunft führen wird und dass das Risiko das einzige Hindernis auf dem Weg zu dieser Zukunft ist." Ich denke, die meisten Menschen unterschätzen die potenziellen Vorteile einer starken KI ebenso wie ihre Risiken."
Definitionen und Rahmenwerke für starke KI:Amodei definiert starke KI als ein KI-System, das den heutigen groß angelegten Sprachmodellen ähnelt, intelligenter ist als Nobelpreisträger und über eine dem Menschen vergleichbare Interaktions- und Handlungsfähigkeit verfügt. Er prognostiziert, dass starke KI im Jahr 2026 oder früher auftauchen und die Form einer "Nation datenzentrierter Genies" annehmen wird. Starke KI, womit ich ein KI-Modell meine, das den heutigen großmaßstäblichen Sprachmodellen formal ähnlich sein dürfte, auch wenn es auf einer anderen Architektur beruhen, mehrere Interaktionsmodelle umfassen und anders trainiert werden kann, hat die folgenden Eigenschaften:
Was die reine Intelligenz betrifft, so ist er in den meisten relevanten Bereichen - Biologie, Programmierung, Mathematik, Technik, Schreiben usw. - klüger als ein Nobelpreisträger. Das heißt, er kann ungelöste mathematische Theoreme beweisen, sehr gute Romane schreiben, schwierige Code-Basen von Grund auf neu schreiben usw.
Grenzen des KI-Fortschritts: Amodei schlägt das Konzept der "marginalen Intelligenzgewinne" vor und argumentiert, dass andere Faktoren als die Intelligenz selbst die Geschwindigkeit des KI-Fortschritts begrenzen können, z. B. die Geschwindigkeit der Außenwelt, der Bedarf an Daten, die intrinsische Komplexität, menschliche Beschränkungen und die Gesetze der Physik.
"Ich denke, wir sollten im Zeitalter der KI über die marginalen Vorteile der Intelligenz sprechen und versuchen herauszufinden, welche anderen Faktoren die Intelligenz ergänzen und welche die begrenzenden Faktoren sind, wenn die Intelligenz sehr hoch ist."
Fünf Schlüsselbereiche des Wandels:
1) Biologie und Gesundheit: Amodei sagt voraus, dass eine starke KI den gesamten Prozess der biologischen Forschung beschleunigen und die nächsten 50-100 Jahre biologischer und medizinischer Fortschritte auf 5-10 Jahre komprimieren wird. Dies wird zur zuverlässigen Vorbeugung und Behandlung praktisch aller natürlichen Infektionskrankheiten, zur Eliminierung der meisten Krebsarten, zur wirksamen Vorbeugung und Behandlung genetischer Störungen, zur Vorbeugung der Alzheimer-Krankheit und zur Verlängerung der menschlichen Lebensspanne führen.
"Meine grundlegende Vorhersage ist, dass die KI-gestützte Biologie und Medizin es uns ermöglichen wird, die Fortschritte, die menschliche Biologen in den nächsten 50 bis 100 Jahren machen werden, in 5 bis 10 Jahren zu erreichen. Ich nenne dies das "komprimierte 21. Jahrhundert": Das heißt, dass wir nach der Entwicklung einer starken KI alle Fortschritte in Biologie und Medizin, die wir im 21. Jahrhundert gemacht haben, innerhalb weniger Jahre erreichen werden.
2. neurowissenschaftliche und psychologische Aspekte:Amodei glaubt, dass starke KI die Bereiche Neurowissenschaften und psychische Gesundheit revolutionieren wird, indem sie die Entdeckung neurowissenschaftlicher Werkzeuge und Techniken beschleunigt und die Erkenntnisse der KI selbst (z. B. Interpretierbarkeit und Skalierung von Hypothesen) anwendet. Dies wird zur Heilung oder Vorbeugung der meisten psychischen Krankheiten sowie zu einer enormen Erweiterung der kognitiven und emotionalen Fähigkeiten des Menschen führen.
"Ich vermute, dass diese vier Fortschrittslinien, wenn sie zusammenarbeiten, ähnlich wie bei körperlichen Krankheiten, die meisten psychischen Krankheiten innerhalb der nächsten 100 Jahre heilen oder verhindern können, auch ohne die Beteiligung von KI - sie könnten also mit 5-10 Jahren KI-Beschleunigung geheilt werden."
3. die wirtschaftliche Entwicklung und die Armut: Amodei räumte ein, dass die Fähigkeit der KI, Ungleichheiten zu beseitigen und das Wirtschaftswachstum zu fördern, weniger sicher sei als ihre Fähigkeit, Technologien zu erfinden. Er bleibt jedoch optimistisch, dass KI den Entwicklungsländern helfen kann, mit den Industrieländern gleichzuziehen, indem sie die Verteilung von Gesundheitsmaßnahmen optimiert, das Wirtschaftswachstum fördert, die Ernährungssicherheit garantiert, den Klimawandel eindämmt und Ungleichheiten innerhalb der Länder beseitigt.
"Insgesamt bin ich optimistisch, dass die biologischen Fortschritte in der KI den Menschen in den Entwicklungsländern bald zugute kommen werden. Ich bin hoffnungsvoll, aber nicht zuversichtlich, dass die KI auch zu einem noch nie dagewesenen Wirtschaftswachstum führen wird, das es den Entwicklungsländern ermöglicht, zumindest das derzeitige Niveau der Industrieländer zu erreichen.
4. frieden und governance: Amodei argumentiert, dass KI an sich keine Garantie für die Förderung von Demokratie und Frieden ist, da sie sowohl von autoritären als auch von demokratischen Regimen ausgenutzt werden kann. Er plädiert dafür, dass Demokratien eine "konzertierte Strategie" verfolgen, um sich einen Vorteil zu verschaffen, indem sie sich Lieferketten für leistungsstarke KI sichern, diese schnell ausbauen und verhindern oder verzögern, dass ihre Gegner Zugang zu wichtigen Ressourcen wie Chips und Halbleiterausrüstung erhalten. Dies würde die Demokratien in die Lage versetzen, die Weltbühne zu dominieren und letztlich die Verbreitung der globalen Demokratie zu fördern.
"Ich glaube, dass KI an sich keine Garantie für den Fortschritt von Demokratie und Frieden ist, weil sie von autoritären und demokratischen Regimen genutzt werden kann.
5. die Arbeit und die Bedeutung: Amodei argumentiert, dass der Mensch auch in einer Welt, in der KI die meisten Aufgaben übernimmt, noch Sinn und Zweck finden kann. Er argumentiert, dass Sinn in erster Linie aus Beziehungen und Verbindungen und nicht aus wirtschaftlicher Arbeit entsteht. Er räumt jedoch ein, dass eine KI-gesteuerte Wirtschaft unser derzeitiges Wirtschaftssystem in Frage stellen könnte und dass ein breiterer gesellschaftlicher Dialog erforderlich ist, um zu erkunden, wie die Wirtschaft der Zukunft organisiert sein wird.
"Ich glaube, dass der Mensch auch in einer Welt, in der die KI die meisten Aufgaben übernimmt, noch Sinn und Zweck finden kann. Ich glaube, dass Sinn in erster Linie aus Beziehungen und Verbindungen entsteht, nicht aus wirtschaftlicher Arbeit.
Amodei glaubt, dass eine starke KI, wenn sie richtig eingesetzt wird, zu einer besseren Welt als der heutigen führen kann, einer Welt ohne Krankheiten, Armut und Ungleichheit, einer Welt, die von liberaler Demokratie und Menschenrechten geprägt ist. Er räumt ein, dass die Verwirklichung dieser Vision enorme Anstrengungen und Kämpfe sowie eine gemeinsame Anstrengung von Einzelpersonen, KI-Unternehmen und politischen Entscheidungsträgern erfordern wird.
"Wenn dies in 5 bis 10 Jahren geschieht - der Sieg über die meisten Krankheiten, das Wachstum der biologischen und kognitiven Freiheit, die Befreiung von Milliarden von Menschen aus der Armut und die Teilhabe an neuen Technologien, die Renaissance der liberalen Demokratie und der Menschenrechte -, dann denke ich, dass jeder, der dies sieht, davon betroffen sein wird. Auswirkungen auf sie haben."
Schlussfolgerung: In seinem Artikel entwirft Amodei eine überzeugende Vision, wie starke KI die menschliche Gesellschaft umgestalten könnte. Er hebt das enorme Potenzial der starken KI hervor, weist aber auch auf die damit verbundenen Herausforderungen und Risiken hin. Er ruft zu proaktivem Handeln auf, um die Entwicklung der KI so zu lenken, dass sie der gesamten Menschheit zugutekommt.
Es ist sehr schwierig, den Artikel zu organisieren und Korrektur zu lesen, daher bitte den Link vor dem Lesen verdreifachen. Nachstehend finden Sie den Originalartikel.
Maschinen der Liebende Anmut[01]
Wie KI die Welt zum Besseren verändern könnte
--Dario Amodei
Ursprünglicher Link: https://darioamodei.com/machines-of-loving-grace
Ich denke und spreche viel über die Risiken einer starken KI. Anthropic, das Unternehmen, dessen CEO ich bin, hat viel darüber geforscht, wie diese Risiken gemildert werden können. Daraus ziehen die Leute manchmal den Schluss, dass ich ein Pessimist oder ein "Schwarzmaler" bin und dass KI in erster Linie schlecht oder gefährlich ist. Das glaube ich ganz und gar nicht. Einer der Hauptgründe, warum ich mich auf das Risiko konzentriere, ist, dass es das Einzige ist, das zwischen uns und der radikal positiven Zukunft steht, die ich sehe.Ich glaube, die meisten Menschen unterschätzen die enormen Vorteile, die KI haben könnteIch glaube, die meisten Menschen unterschätzen das Ausmaß des Risikos, das sie eingehen können.
In diesem Artikel habe ich versucht, die Vorteile zu skizzieren - wie eine Welt mit starker KI aussehen könnte, wenn alles gut geht. Natürlich kann niemand die Zukunft mit Sicherheit oder Genauigkeit vorhersehen, und die Auswirkungen starker KI sind wahrscheinlich noch schwieriger vorherzusagen als frühere technologische Veränderungen, so dass all dies unweigerlich aus Spekulationen besteht. Mein Ziel ist es jedoch, zumindest fundierte, brauchbare Vermutungen anzustellen, die aufzeigen, was passieren wird, selbst wenn sich die meisten Details als falsch herausstellen. Ich bin sehr detailliert, vor allem weil ich glaube, dass eine konkrete Vision die Diskussion besser voranbringt als eine höchst unklare und abstrakte.
Zunächst möchte ich jedoch kurz erklären, warum Anthropic und ich nicht viel über die Vorteile einer starken KI gesprochen haben und warum wir wahrscheinlich weiterhin viel über die Risiken im Allgemeinen sprechen werden. Konkret habe ich diese Entscheidung aus folgendem Wunsch heraus getroffen:
- Maximierung der Hebelwirkung.Die grundlegende Entwicklung der KI-Technologie und viele (nicht alle) ihrer Vorteile scheinen unvermeidlich zu sein (es sei denn, das Risiko verdirbt alles) und werden im Wesentlichen von starken Marktkräften angetrieben. Risiken hingegen sind nicht vorherbestimmt, und unser Handeln kann die Wahrscheinlichkeit ihres Eintretens dramatisch verändern.
- Vermeiden Sie es, mit Propaganda verwechselt zu werden.Unternehmen, die sich mit künstlicher Intelligenz beschäftigen, sprechen von all den erstaunlichen Vorteilen der KI, was sich wie Propaganda anfühlen kann oder wie ein Versuch, von den Schattenseiten abzulenken. Ich glaube auch, dass es grundsätzlich schlecht für die Seele ist, wenn man zu viel Zeit damit verbringt, "über sein Buch zu sprechen".
- Vermeiden Sie Übertreibungen.Mich stört oft die Art und Weise, wie viele Persönlichkeiten des öffentlichen Lebens, die sich mit KI befassen (ganz zu schweigen von den Führungskräften von KI-Unternehmen), über die Welt nach der KI sprechen, als ob es ihre Aufgabe wäre, diese Welt allein zu erreichen, wie ein Prophet, der sein Volk zur Erlösung führt. Ich denke, es ist gefährlich, sich vorzustellen, dass Unternehmen die Welt einseitig gestalten, und es ist auch gefährlich, über die tatsächlichen technischen Ziele in religiösen Begriffen zu denken.
- Vermeiden Sie "Science-Fiction"-Geschichten.Ich glaube, dass die meisten Menschen die Vorteile einer starken KI unterschätzen, aber die wenigen, die über radikale KI-Zukünfte sprechen, tun dies oft in einem übertrieben "Science-Fiction"-Ton (z. B. das Hochladen von Gedanken, Weltraumforschung oder eine allgemeine Cyberpunk-Stimmung). Ich denke, dass dies dazu führt, dass die Menschen diese Behauptungen weniger ernst nehmen und ihnen ein Gefühl der Unwirklichkeit verliehen wird. Um es klar zu sagen: Es geht nicht darum, ob die beschriebenen Technologien möglich oder wahrscheinlich sind (im Hauptartikel wird dies ausführlich erörtert) - es geht vielmehr darum, dass der "Vibe" einen Haufen kulturelles Gepäck und unausgesprochene Annahmen darüber impliziert, welche Art von Zukunft wünschenswert ist, wie sich soziale Probleme entwickeln werden, usw. soziale Probleme, und so weiter. Das Ergebnis liest sich dann oft wie die Fantasien einer engen Subkultur und schreckt die meisten Menschen ab.
Trotz all dieser Bedenken halte ich es für wichtig, darüber zu diskutieren, wie eine bessere Welt mit starker KI aussehen würde, und dabei zu versuchen, die oben genannten Fallstricke zu vermeiden. Ich denke sogar, dass es wichtig ist, eine wirklich inspirierende Vision der Zukunft zu haben, nicht nur einen Plan zur Brandbekämpfung. Viele der Auswirkungen einer starken KI sind konfrontativ oder gefährlich, aber letztlich müssen wir für sie kämpfen, für positive Ergebnisse, bei denen es allen besser geht, und dafür, die Menschen zu vereinen, damit sie sich den Herausforderungen der Zukunft stellen können. Angst ist ein motivierender Faktor, aber sie reicht nicht aus: Wir brauchen auch Hoffnung.
Es gibt so viele positive Anwendungsbereiche für leistungsstarke KI (einschließlich Robotik, Fertigung, Energie usw.), aber ich werde mich auf eine Handvoll konzentrieren, die meiner Meinung nach das größte Potenzial haben, die Lebensqualität der Menschen direkt zu verbessern. Die fünf Kategorien, die mich am meisten interessieren, sind:
- Biologie und körperliche Gesundheit
- Neurowissenschaften und psychische Gesundheit
- Wirtschaftliche Entwicklung und Armut
- Frieden und Regierungsführung
- Arbeit und Bedeutung
Meine Vorhersagen werden nach den meisten Maßstäben radikal sein (mit Ausnahme der Science-Fiction-Vision "Singularität" [02]), aber ich meine sie in gutem Glauben. Alles, was ich sage, kann leicht falsch sein (um meinen obigen Punkt zu wiederholen), aber ich versuche zumindest, meine Ansichten auf eine halb-analytische Einschätzung zu stützen, wie stark sich der Fortschritt in verschiedenen Bereichen wahrscheinlich beschleunigen wird und was das in der Praxis bedeutet. Ich habe das Glück, sowohl in der Biologie als auch in den Neurowissenschaften berufliche Erfahrung zu haben, und ich bin ein gelehrter Amateur auf dem Gebiet der wirtschaftlichen Entwicklung, aber ich bin sicher, dass ich viele Fehler machen werde. Beim Schreiben dieses Artikels wurde mir klar, dass es wertvoll wäre, eine Gruppe von Experten auf ihren Gebieten (Biologie, Wirtschaft, internationale Beziehungen und andere) zusammenzubringen, um eine bessere und aufschlussreichere Version dessen zu schreiben, was ich hier geschrieben habe. Es ist am besten, meine Bemühungen hier als Ausgangspunkt für diese Gruppe zu betrachten.
Grundlegende Annahmen und Rahmenbedingungen
Um den gesamten Artikel präziser und informierter zu gestalten, ist es hilfreich, zu klären, was wir mit leistungsfähiger KI meinen (d. h. wann der Countdown von 5-10 Jahren beginnt), und einen Rahmen zu schaffen, um über die Auswirkungen einer solchen KI nachzudenken, sobald sie existiert.
Wie eine leistungsfähige KI (ich mag den Begriff AGI nicht)[03] aussehen wird und wann (oder ob) sie eintrifft, ist ein großes Thema für sich. Es ist ein Thema, das ich offen diskutiert habe und über das ich wahrscheinlich irgendwann einmal einen ganz eigenen Beitrag schreiben werde. Natürlich sind viele Menschen skeptisch, dass eine leistungsfähige KI in absehbarer Zeit gebaut werden kann, und einige bezweifeln sogar, dass sie überhaupt gebaut werden wird. Meiner Meinung nach könnte es schon 2026 so weit sein, obwohl es auch länger dauern könnte. Aber für diesen Beitrag möchte ich diese Fragen beiseite lassen, davon ausgehen, dass sie innerhalb eines angemessenen Zeitraums kommen wird, und mich darauf konzentrieren, was in den 5-10 Jahren danach passieren wird. Ich möchte auch davon ausgehen, wie ein solches System aussehen würde, welche Fähigkeiten es hätte und wie es interagieren würde, auch wenn man darüber unterschiedlicher Meinung sein kann.
Mit Powerful AI habe ich ein KI-Modell - das wahrscheinlich formal dem heutigen LLM ähnelt, obwohl es auf einer anderen Architektur basieren, mehrere interagierende Modelle umfassen und auf andere Weise trainiert werden kann - mit den den folgenden Eigenschaften:
- In Bezug auf die reine Intelligenz [04] ist er klüger als die meisten Nobelpreisträger in verwandten Bereichen - Biologie, Programmierung, Mathematik, Ingenieurwesen, Schreiben usw. Das heißt, er kann ungelöste mathematische Theoreme beweisen, sehr gute Romane schreiben, schwierige Code-Basen von Grund auf neu schreiben usw.
- Es ist nicht nur ein "intelligentes Ding, mit dem man spricht", sondern verfügt über alle "Schnittstellen", die einem virtuell arbeitenden Menschen zur Verfügung stehen, einschließlich Text, Audio, Video, Maus- und Tastatursteuerung und Internetzugang. Es kann jede Operation, Kommunikation oder Teleoperation durchführen, die durch diese Schnittstelle ermöglicht wird, einschließlich der Durchführung von Aktionen im Internet, dem Geben oder Empfangen von Anweisungen an oder von einem Menschen, dem Bestellen von Materialien, dem Anleiten von Experimenten, dem Anschauen von Videos, dem Erstellen von Videos und so weiter. Auch hier übertrifft er die Fähigkeiten der fähigsten Menschen der Welt.
- Es geht nicht nur um die passive Beantwortung von Fragen, sondern auch darum, Aufgaben zu übernehmen, deren Erledigung Stunden, Tage oder Wochen in Anspruch nimmt, und sie dann wie ein kluger Angestellter zu erledigen, der bei Bedarf um Klärung bittet.
- Es hat keine physische Verkörperung (außer dem Leben auf einem Computerbildschirm), aber es kann vorhandene physische Werkzeuge, Roboter oder Laborgeräte über einen Computer steuern; theoretisch könnte es sogar Roboter oder Geräte für sich selbst entwerfen.
- Die zum Trainieren des Modells verwendeten Ressourcen können für die Ausführung von Millionen von Instanzen des Modells verwendet werden (was der prognostizierten Clustergröße um das Jahr 2027 entspricht), und das Modell kann Informationen aufnehmen und Operationen mit einer etwa 10- bis 100-fachen Geschwindigkeit im Vergleich zum Menschen erzeugen [05]. Allerdings kann es durch die Reaktionszeit der physischen Welt oder der Software, mit der es interagiert, eingeschränkt sein.
- Jedes dieser Millionen von Exemplaren könnte unabhängig voneinander an nicht zusammenhängenden Aufgaben arbeiten oder, falls gewünscht, wie Menschen zusammenarbeiten, vielleicht mit verschiedenen Untergruppen, die speziell auf bestimmte Aufgaben abgestimmt sind.
Wir können dies als die "Genius Nation of Data Centres" zusammenfassen.
Offensichtlich wäre eine solche Einrichtung in der Lage, sehr schwierige Probleme sehr schnell zu lösen, aber es ist nicht leicht herauszufinden, wie schnell. Zwei "extreme" Positionen scheinen mir falsch zu sein. Erstens könnte man meinen, dass sich die Welt innerhalb von Sekunden oder Tagen sofort verändert ("Singularität"), da eine überlegene Intelligenz auf ihr aufbaut und sofort alle möglichen wissenschaftlichen, technischen und betrieblichen Aufgaben löst. Das Problem dabei ist, dass es echte physikalische und praktische Grenzen gibt, z. B. beim Bau von Hardware oder bei der Durchführung biologischer Experimente. Selbst eine neue Nation von Genies wird an diese Grenzen stoßen. Intelligenz ist in der Tat sehr mächtig, aber sie ist keine Magie für alle.
Zweitens, und umgekehrt, glauben Sie vielleicht, dass der technologische Fortschritt durch reale Daten oder soziale Faktoren gesättigt oder begrenzt ist, so dass es nur eine sehr geringe Zunahme der Intelligenz gibt, die intelligenter ist als die des Menschen [06]. Ich kann mir Hunderte wissenschaftlicher oder sogar sozialer Probleme vorstellen, bei denen eine Gruppe wirklich intelligenter Menschen den Fortschritt dramatisch beschleunigen würde, vor allem, wenn sie sich nicht nur auf die Analyse beschränken und in der realen Welt etwas bewirken könnten (was unsere hypothetische Nation von Genies könnte, einschließlich der Betreuung oder Unterstützung menschlicher Teams).
Ich denke, die Wahrheit ist wahrscheinlich eine Art verwirrende Mischung aus diesen beiden extremen Bildern, je nach Aufgabe und Bereich, sowie aus sehr subtilen Details. Ich denke, wir brauchen neue Rahmenbedingungen, um über diese Details auf produktive Weise nachzudenken.
Wirtschaftswissenschaftler sprechen oft von "Produktionsfaktoren": Arbeit, Land und Kapital. Der Ausdruck "Grenzerträge von Arbeit/Land/Kapital" beschreibt die Idee, dass ein bestimmter Faktor in einer bestimmten Situation der begrenzende Faktor sein kann oder auch nicht - zum Beispiel braucht die Luftwaffe Flugzeuge und Piloten, und die Einstellung von mehr Piloten hilft nicht viel, wenn man keine Flugzeuge hat. Mehr Piloten helfen nicht viel. Ich glaube, dass wir im Zeitalter der KI über den "Grenznutzen der Intelligenz" [07] sprechen und versuchen sollten, herauszufinden, welche anderen Faktoren die Intelligenz ergänzen und welche sie begrenzen, wenn die Intelligenz sehr hoch ist. Wir sind es nicht gewohnt, auf diese Weise zu denken - und zu fragen: "Wie sehr hilft es bei dieser Aufgabe, intelligenter zu werden, und auf welcher Zeitskala? -- aber das scheint der richtige Weg zu sein, um sich eine Welt mit sehr leistungsfähiger KI vorzustellen.
Eine Liste von Faktoren, von denen ich vermute, dass sie die Intelligenz einschränken oder ergänzen, lautet wie folgt
- Geschwindigkeit der Außenwelt. Intelligente Agenten müssen mit der Welt interagieren, um Dinge zu erledigen, und sie müssen auch lernen [08]. Aber die Welt bewegt sich so langsam. Zellen und Tiere laufen mit einer festen Geschwindigkeit, so dass Experimente an ihnen eine gewisse Zeit in Anspruch nehmen, die möglicherweise nicht reduzierbar ist. Das Gleiche gilt für die Kommunikation mit Menschen und unsere bestehende Software-Infrastruktur. Hinzu kommt, dass in der Wissenschaft viele Experimente in der Regel nacheinander durchgeführt werden müssen, wobei jedes Experiment aus dem vorhergehenden lernt oder darauf aufbaut. All dies bedeutet, dass es eine nicht reduzierbare Mindestgeschwindigkeit geben kann, mit der ein Großprojekt - wie die Entwicklung eines Heilmittels für Krebs - abgeschlossen werden kann, die sich auch dann nicht weiter verringern lässt, wenn die Intelligenz weiter zunimmt.
- Nachfrage nach Daten. Manchmal fehlt es an Rohdaten, und in Ermangelung von Daten hilft auch mehr Intelligenz nicht weiter. Die heutigen Teilchenphysiker sind sehr intelligent und haben eine Reihe von Theorien entwickelt, aber da die Daten der Teilchenbeschleuniger sehr begrenzt sind, fehlen ihnen die Daten, um zwischen ihnen zu wählen. Mit einer Superintelligenz würden sie wahrscheinlich nicht viel besser abschneiden - außer vielleicht durch den beschleunigten Bau größerer Beschleuniger.
- Intrinsische Komplexität. Manche Dinge sind von Natur aus so unvorhersehbar oder chaotisch, dass selbst die leistungsfähigste KI sie nicht besser vorhersagen oder enträtseln kann als heutige Menschen oder Computer. So können selbst sehr leistungsfähige KI chaotische Systeme (wie das Dreikörperproblem) im Allgemeinen nur geringfügig längerfristig vorhersagen als heutige Menschen und Computer [09].
- Beschränkungen durch den Menschen. Viele Dinge können nicht getan werden, ohne gegen das Gesetz zu verstoßen, Menschen zu schaden oder die Gesellschaft zu stören. Eine ausgerichtete KI wird diese Dinge nicht tun wollen (und wenn wir eine nicht ausgerichtete KI haben, sprechen wir wieder über das Risiko). Viele menschliche Gesellschaftsstrukturen sind ineffizient oder sogar schädlich, lassen sich aber nur schwer ändern, wenn man gesetzliche Vorschriften, die Bereitschaft der Menschen, ihre Gewohnheiten zu ändern, oder das Verhalten der Regierung beachtet. Technologische Fortschritte wie die Kernenergie, der Überschallflug und sogar Aufzüge haben technisch gut funktioniert, aber ihre Auswirkungen wurden durch Vorschriften oder unangebrachte Ängste drastisch reduziert.
- physikalisches Gesetz. Dies ist eine offensichtlichere Version des ersten Punktes. Es gibt physikalische Gesetze, die unumstößlich zu sein scheinen. Es ist unmöglich, schneller als mit Lichtgeschwindigkeit zu reisen. Der Pudding rührt sich nicht von selbst. Chips können nur eine bestimmte Anzahl von Transistoren pro Quadratzentimeter haben, bevor sie unzuverlässig werden. Für die Datenverarbeitung ist eine Mindestmenge an Energie pro gelöschtem Bit erforderlich, was die Dichte der Datenverarbeitung in der Welt einschränkt.
Es gibt eine weitere Unterscheidung auf der Zeitskala. Dinge, die sich kurzfristig nur schwer einschränken lassen, können langfristig eher für Intelligenz empfänglich sein. Intelligenz könnte zum Beispiel eingesetzt werden, um ein neues Versuchsparadigma zu entwickeln, das es uns ermöglicht, in vitro zu lernen, was früher Versuche an lebenden Tieren erforderte, oder um die Instrumente zu bauen, die für die Sammlung neuer Daten erforderlich sind (z. B. größere Teilchenbeschleuniger), oder um (innerhalb ethischer Grenzen) Wege zu finden, um auf den Menschen bezogene Beschränkungen zu umgehen (z. B. zur Verbesserung des Systems klinischer Versuche, zur Schaffung neuer Rechtssysteme, in denen klinische Versuche weniger bürokratisch sind oder Verbesserung der Wissenschaft selbst, um klinische Versuche am Menschen weniger notwendig oder billiger zu machen).
Wir sollten uns daher ein Bild vorstellen, bei dem die Intelligenz anfangs durch andere Produktionsfaktoren stark behindert wird, die Intelligenz selbst aber im Laufe der Zeit die anderen Faktoren immer mehr umgeht, auch wenn sie nie ganz verschwinden (einige Dinge, wie die Gesetze der Physik, sind absolut) [10]. Die Schlüsselfrage ist, wie schnell alles geschieht und in welcher Reihenfolge.
Vor dem Hintergrund dieses Rahmens werde ich versuchen, Fragen zu den fünf in der Einleitung genannten Bereichen zu beantworten.
1. biologie und gesundheit
Die Biologie ist wahrscheinlich der Bereich, in dem der wissenschaftliche Fortschritt das größte Potenzial hat, die Lebensqualität der Menschen direkt und endgültig zu verbessern. Einige der ältesten menschlichen Krankheiten (z. B. die Pocken) wurden im letzten Jahrhundert endlich besiegt, aber es gibt noch viele weitere, deren Überwindung eine große humanitäre Leistung wäre. Auch über die Heilung von Krankheiten hinaus könnten die biologischen Wissenschaften im Prinzip die Qualität der Grundlagen der menschlichen Gesundheit verbessern, indem sie die gesunde Lebensspanne des Menschen verlängern, die Kontrolle und Freiheit über unsere eigenen biologischen Prozesse erhöhen und die alltäglichen Probleme lösen, die wir derzeit als unveränderlichen Teil des menschlichen Daseins betrachten.
In der Sprache der Einschränkungen aus dem vorangegangenen Abschnitt sind die größten Herausforderungen bei der direkten Anwendung von Intelligenz auf die Biologie die Daten, die Geschwindigkeit der physikalischen Welt und die inhärente Komplexität (alle drei sind in der Tat miteinander verbunden). In einem späteren Stadium, wenn es um klinische Studien geht, kommen auch menschliche Grenzen ins Spiel. Lassen Sie uns diese Probleme einzeln angehen.
Experimente an Zellen, Tieren und sogar chemischen Prozessen sind durch die Geschwindigkeit der physikalischen Welt begrenzt: Viele biologische Protokolle beinhalten die Kultivierung von Bakterien oder anderen Zellen oder einfach das Abwarten einer chemischen Reaktion, was manchmal Tage oder sogar Wochen dauert, ohne dass es eine offensichtliche Möglichkeit gibt, dies zu beschleunigen. Tierversuche können Monate (oder sogar länger) dauern, und Experimente am Menschen dauern oft Jahre (oder sogar Jahrzehnte bei Langzeitstudien). In gewissem Zusammenhang damit steht die Tatsache, dass es oft an Daten mangelt - nicht in Bezug auf die Quantität, sondern in Bezug auf die Qualität: Es fehlt immer an klaren, eindeutigen Daten, die die biologische Wirkung, die von Interesse ist, von den anderen 10.000 Dingen, die passieren, isolieren, oder die kausal in einen bestimmten Prozess eingreifen, oder die bestimmte Wirkungen direkt messen (und nicht auf irgendeine indirekte oder verrauschte Weise). eine indirekte oder verrauschte Art und Weise, die Folgen abzuleiten). Selbst große, quantitative molekulare Daten wie die Proteomics-Daten, die ich bei meiner Arbeit mit der Massenspektrometrie erhebe, sind verrauscht und lassen viel vermissen (in welchen Zelltypen befinden sich diese Proteine? In welchem Teil der Zelle? In welchem Stadium des Zellzyklus?) .
Ein Teil der Schuld für das Datenproblem liegt in der inhärenten Komplexität: Wenn Sie sich jemals Diagramme über die Biochemie des menschlichen Stoffwechsels angesehen haben, wissen Sie, dass es sehr schwierig ist, die Auswirkungen eines beliebigen Teils dieses komplexen Systems zu isolieren, geschweige denn, präzise oder vorhersehbar einzugreifen. Abgesehen von dem Zeitaufwand, der für die Durchführung von Experimenten am Menschen erforderlich ist, sind klinische Studien mit zahlreichen bürokratischen und behördlichen Auflagen verbunden, die (nach Meinung vieler, mich eingeschlossen) unnötig viel Zeit und Verzögerung verursachen.
Angesichts dessen sind viele Biologen skeptisch, was den Wert von KI und "Big Data" in der Biologie angeht. In der Vergangenheit haben Mathematiker, Informatiker und Physiker ihre Fähigkeiten in den letzten 30 Jahren mit beträchtlichem Erfolg auf die Biologie angewandt, ohne jedoch die ursprünglich erhoffte wirklich transformative Wirkung zu erzielen. Eine gewisse Skepsis wurde durch bedeutende und revolutionäre Durchbrüche wie AlphaFold (das seinem Schöpfer gerade verdientermaßen den Nobelpreis für Chemie eingebracht hat) und AlphaProteo [11] abgebaut, aber es besteht immer noch die Auffassung, dass KI nur in einer begrenzten Anzahl von Situationen nützlich war (und ist). Eine gängige Formulierung lautet: "KI kann Daten besser analysieren, aber sie kann nicht mehr Daten produzieren oder die Qualität dieser Daten verbessern. Müll rein, Müll raus".
Aber ich denke, dass es die pessimistische Sichtweise ist, die über KI auf die falsche Art und Weise denkt. Wenn unsere Kernannahmen über den Fortschritt der KI richtig sind, dann ist die richtige Art und Weise, über KI zu denken, nicht als eine Methode der Datenanalyse, sondern als ein virtueller Biologe, der "alle" Aufgaben ausführt, die Biologen tun, einschließlich des Entwerfens und Durchführens von Experimenten in der realen Welt (entweder durch die Steuerung von Laborrobotern oder indem er einfach Menschen sagt, welche Experimente durchgeführt werden sollen - so wie es leitende Forscher für ihre Doktoranden tun, usw.). Dazu gehören das Entwerfen und Durchführen von Experimenten in der realen Welt (entweder durch die Steuerung von Laborrobotern oder indem man Menschen einfach sagt, welche Experimente durchgeführt werden sollen - so wie es leitende Forscher für ihre Doktoranden tun), das Erfinden neuer biologischer Methoden oder Messverfahren usw. Indem sie den gesamten Forschungsprozess beschleunigt, kann die KI die Biologie wirklich vorantreiben.Ich möchte dies wiederholen, weil es das häufigste Missverständnis ist, das mir begegnet, wenn ich über die Fähigkeit der KI spreche, die Biologie zu verändern: Ich spreche nicht von KI als einem Werkzeug, das nur Daten analysiert. Basierend auf der Definition von leistungsfähiger KI am Anfang des Artikels spreche ich über den Einsatz von KI, um fast alles, was Biologen tun, durchzuführen, anzuleiten und zu verbessern.
Um genauer zu sagen, woher die Beschleunigung meiner Meinung nach kommen könnte: Ein erheblicher Teil des Fortschritts in der Biologie geht auf eine wirklich winzige Anzahl von Entdeckungen zurück, die sich in der Regel auf Werkzeuge oder Techniken beziehen, die präzise, aber generische oder programmierbare Eingriffe in biologische Systeme ermöglichen [12]. Diese Entdeckungen machen vielleicht eine pro Jahr aus, und insgesamt sind sie wohl für mehr als 501 TP3T des biologischen Fortschritts verantwortlich. Was diese Entdeckungen so mächtig macht, ist die Tatsache, dass sie die inhärente Komplexität und die Datenbeschränkungen verringern und unser Verständnis und unsere Kontrolle über biologische Prozesse direkt verbessern. Einige der im Laufe der Jahrzehnte gemachten Entdeckungen haben es uns ermöglicht, ein grundlegendes wissenschaftliches Verständnis der Biologie zu erlangen, und haben viele der wirksamsten therapeutischen Ansätze ermöglicht.
Einige Beispiele sind:
- CRISPR: eine Technologie, die die Echtzeit-Editierung eines beliebigen Gens in einem lebenden Organismus ermöglicht (Ersetzen einer beliebigen Gensequenz durch eine andere beliebige Sequenz). Seit der Entwicklung der ursprünglichen Technologie wurden kontinuierlich Verbesserungen vorgenommen, um spezifische Zelltypen anzusteuern, die Genauigkeit zu erhöhen und das Editieren fehlerhafter Gene zu reduzieren - all dies ist für eine sichere Anwendung beim Menschen erforderlich.
- Verschiedene Arten von Mikroskopen zur genauen Beobachtung des Geschehens: fortgeschrittene optische Mikroskope (mit verschiedenen Fluoreszenztechniken, Spezialoptiken usw.), Elektronenmikroskope, Rasterkraftmikroskope usw.
- Genomsequenzierung und -synthese, deren Kosten in den letzten Jahrzehnten um mehrere Größenordnungen gesunken sind.
- Optogenetische Technologie, bei der Neuronen durch Lichteinwirkung zum Feuern gebracht werden können.
- Mit mRNA-Impfstoffen können wir im Prinzip einen Impfstoff gegen alles Mögliche entwickeln und ihn dann schnell anpassen (mRNA-Impfstoffe wurden durch COVID berühmt).
- Mit Zelltherapien wie CAR-T können Immunzellen aus dem Körper entnommen und "umprogrammiert" werden, um prinzipiell alles anzugreifen.
- Konzeptuelle Erkenntnisse wie die Keimtheorie von Krankheiten und die Verbindung zwischen dem Immunsystem und Krebs [13].
Ich habe mir die Mühe gemacht, alle diese Techniken aufzulisten, weil ich eine wichtige Aussage über sie machen möchte:Ich denke, die Rate dieser Entdeckungen könnte um den Faktor 10 oder mehr erhöht werden, wenn es mehr talentierte und kreative Forscher gäbe.Oder mit anderen Worten.Ich denke, dass sich diese Erkenntnisse für den Nachrichtendienst lohnen.und alles andere in der Biologie und Medizin folgt ihnen im Wesentlichen.
Warum denke ich das? Weil wir uns daran gewöhnen sollten, einige Fragen zu stellen, wenn wir versuchen, die "Rendite der Intelligenz" zu bestimmen. Erstens werden diese Entdeckungen in der Regel von einer sehr kleinen Zahl von Forschern gemacht, oft wiederholt von derselben Gruppe von Personen, was eher auf Geschicklichkeit als auf Zufall schließen lässt (letzteres könnte bedeuten, dass langwierige Experimente der begrenzende Faktor sind). Zweitens können sie oft "Jahre vor ihrer Zeit" gemacht werden: CRISPR, ein natürlich vorkommender Bestandteil des Immunsystems von Bakterien, ist beispielsweise seit den 1980er Jahren bekannt, aber es dauerte weitere 25 Jahre, bis man erkannte, dass es für die allgemeine Genbearbeitung eingesetzt werden kann. Sie wurden auch deshalb viele Jahre lang verzögert, weil die wissenschaftliche Gemeinschaft vielversprechende Ansätze nicht unterstützte (siehe das Profil des Erfinders des mRNA-Impfstoffs; ähnliche Geschichten gibt es viele). Drittens handelt es sich bei erfolgreichen Projekten oft um Randprojekte oder um nachträgliche Überlegungen, die zunächst nicht als vielversprechend angesehen wurden, und nicht um massiv finanzierte Unternehmungen. Dies deutet darauf hin, dass nicht nur die Bündelung von Ressourcen in großem Maßstab die Entdeckung vorantreibt, sondern auch der Einfallsreichtum.
Schließlich sind einige dieser Entdeckungen zwar "serienabhängig" (man muss zuerst Entdeckung A machen, um die Werkzeuge oder das Wissen zu haben, um Entdeckung B zu machen) - was wiederum zu Versuchsverzögerungen führen kann -, aber viele, vielleicht die meisten, sind unabhängig, was bedeutet, dass viele gleichzeitig gemacht werden können. -Aber viele, vielleicht die meisten, sind unabhängig, was bedeutet, dass viele gleichzeitig gemacht werden können. Beides und meine allgemeine Erfahrung als Biologe deuten stark darauf hin, dass es Hunderte solcher Entdeckungen geben würde, wenn Wissenschaftler klüger und besser darin wären, Verbindungen zwischen den riesigen Mengen an biologischem Wissen herzustellen, über die der Mensch verfügt (siehe das Beispiel von CRISPR), und nur darauf warten, gemacht zu werden. Der Erfolg von AlphaFold/AlphaProteo bei der Lösung wichtiger Probleme, die effektiver sind als die des Menschen, stellt einen Grundsatzbeweis dar (wenn auch mit begrenzten Mitteln in einem begrenzten Bereich), der den Weg in die Zukunft weisen sollte.
Daher vermute ich, dass eine leistungsstarke KI die Geschwindigkeit dieser Entdeckungen mindestens um den Faktor 10 erhöhen könnte, so dass wir die nächsten 50-100 Jahre biologischen Fortschritts in 5-10 Jahren erleben würden. [14] Warum nicht das Hundertfache? Vielleicht ist es möglich, aber hier ist die Serie
Abhängigkeit und Experimentierzeit werden wichtig: Um 100 Jahre Fortschritt in einem Jahr zu erreichen, müssen viele Dinge beim ersten Mal richtig gemacht werden, z. B. Tierversuche und die Entwicklung von Mikroskopen oder teuren Laboreinrichtungen. Ich bin offen für die (möglicherweise absurd klingende) Idee, dass wir in 5-10 Jahren 1000 Jahre Fortschritt erzielen könnten, aber ich bin sehr skeptisch, dass wir in 1 Jahr 100 Jahre Fortschritt erzielen werden. Alternativ dazu denke ich, dass es eine unvermeidliche konstante Verzögerung gibt: Experimente und Hardware sind mit einer gewissen "Verzögerung" konzipiert und erfordern eine bestimmte Anzahl "irreduzibler" Iterationen, um Dinge zu lernen, die nicht logisch hergeleitet werden können. Darüber hinaus kann es aber auch massive Parallelität geben [15].
Was ist mit klinischen Studien? Bei aller Bürokratie und Langsamkeit, die mit ihnen verbunden sind, ist ein Großteil ihrer Langsamkeit letztlich auf die Notwendigkeit zurückzuführen, Medikamente, die kaum oder nur vage wirken, streng zu prüfen. Dies trifft leider auf die meisten Therapien zu: Das durchschnittliche Krebsmedikament verlängert die Überlebenszeit um Monate, hat aber erhebliche Nebenwirkungen, die sorgfältig gemessen werden müssen (ähnlich verhält es sich mit Alzheimer-Medikamenten). Dies führt zu umfangreichen Studien (um eine statistische Aussagekraft zu erhalten) und schwierigen Abwägungen, und die Regulierungsbehörden sind im Allgemeinen nicht gut darin, Entscheidungen zu treffen, was wiederum an der Bürokratie und der Komplexität der konkurrierenden Interessen liegt.
Wenn etwas tatsächlich funktioniert, geht es viel schneller: Es gibt beschleunigte Zulassungsverfahren, und wenn die Wirkung groß ist, ist die Zulassung viel einfacher. mRNA-Impfstoffe für COVID wurden in 9 Monaten zugelassen - viel schneller als üblich. Doch selbst unter diesen Bedingungen waren die klinischen Versuche zu langsam - der mRNA-Impfstoff hätte wahrscheinlich in etwa 2 Monaten zugelassen werden müssen. Aber diese Verzögerungen (insgesamt ~1 Jahr für Medikamente) sind sehr gut mit massiver Parallelität und der Notwendigkeit einiger, aber nicht zu vieler Iterationen ("ein paar Versuche") vereinbar, die in 5-10 Jahren zu einer grundlegenden Veränderung führen könnten. Optimistischer betrachtet könnte die KI-gesteuerte Biowissenschaft den Bedarf an Iterationen in klinischen Versuchen verringern, indem sie bessere Modelle (oder sogar Simulationen) von Tier- und Zellexperimenten entwickelt, die genauer vorhersagen, was beim Menschen passieren wird. Dies wird vor allem bei der Entwicklung von Medikamenten wichtig sein, die auf den Alterungsprozess abzielen, der Jahrzehnte dauert und für den wir einen schnelleren Iterationszyklus benötigen.
Zum Thema klinische Versuche und soziale Barrieren ist schließlich noch anzumerken, dass biomedizinische Innovationen im Vergleich zu anderen Technologien in mancher Hinsicht eine ungewöhnlich gute Erfolgsbilanz aufweisen [16]. Wie bereits in der Einleitung erwähnt, werden viele dieser Technologien, obwohl sie technisch gut funktionieren, durch soziale Faktoren behindert. Dies könnte auf eine pessimistische Sicht der Möglichkeiten der KI hindeuten. Die Biomedizin ist jedoch insofern einzigartig, als dass sie trotz des übermäßig schwerfälligen Prozesses der Medikamentenentwicklung oft erfolgreich eingesetzt und genutzt wird.
Zusammengefasst lautet meine grundsätzliche Vorhersage, dass die KI-gesteuerte Biologie und Medizin uns in die Lage versetzen wird, die Fortschritte, die menschliche Biologen in den nächsten 50-100 Jahren machen werden, in 5-10 Jahren zu komprimieren. Ich nenne dies das "komprimierte 21. Jahrhundert": die Vorstellung, dass wir alle biologischen und medizinischen Fortschritte, die wir im Laufe des 21.
Während Vorhersagen darüber, was eine leistungsfähige KI in den nächsten Jahren leisten kann, naturgemäß schwierig und spekulativ sind, hat die Frage "Was kann der Mensch in den nächsten 100 Jahren ohne äußere Einflüsse leisten?" eine gewisse Aussagekraft. Ein Blick auf das, was wir im 20. Jahrhundert erreicht haben, oder eine Extrapolation aus den ersten 20 Jahren des 21. Jahrhunderts oder die Frage, was uns "10 CRISPR und 50 CAR-T" bringen werden, bieten praktische und fundierte Möglichkeiten, das allgemeine Niveau des Fortschritts abzuschätzen, das wir von einer leistungsstarken KI erwarten können.
Im Folgenden habe ich versucht, aufzulisten, was wir erwarten können. Diese Auflistung basiert nicht auf einer strengen Methodik und wird sich in den Details mit Sicherheit als falsch erweisen, aber sie versucht, das allgemeine Niveau des Radikalismus zu vermitteln, das wir erwarten sollten:
- Zuverlässige Vorbeugung und Behandlung von fast allen natürlichen Infektionskrankheiten[17].In Anbetracht der enormen Fortschritte bei der Bekämpfung von Infektionskrankheiten im 20. Jahrhundert ist es nicht radikal, sich vorzustellen, dass wir es im komprimierten 21. Ob Infektionskrankheiten von Armut und Ungleichheit in der GESAMTEN Ausrottung (und nicht nur an einigen Orten) abhängen, wird in Abschnitt 3 diskutiert.
- Beseitigung der meisten Krebsarten.Die Zahl der Krebstoten ist in den letzten Jahrzehnten um etwa 2% pro Jahr zurückgegangen; wir sind also auf dem besten Weg, die meisten Krebsarten im 21. Jahrhundert zu eliminieren, wenn wir das derzeitige Tempo der menschlichen Wissenschaft halten. Einige Subtypen wurden bereits in großer Zahl geheilt (z. B. bestimmte Arten von Leukämie durch CAR-T-Therapie), und ich bin sogar noch begeisterter von sehr selektiven Medikamenten, die auf die frühen Stadien des Krebses abzielen und ihn am Wachsen hindern.Die KI wird es auch ermöglichen, Behandlungsschemata sehr genau auf das individuelle Genom des Krebses zuzuschneiden - etwas, das zwar möglich, aber sehr teuer ist. Das ist zwar möglich, aber sehr kostspielig in Bezug auf Zeit und menschliches Fachwissen, und die KI sollte es uns ermöglichen, den Umfang zu erhöhen.
- Sehr wirksame Vorbeugung und wirksame Behandlung genetischer Krankheiten.Durch ein verbessertes Embryo-Screening können wir möglicherweise die meisten genetischen Krankheiten verhindern, und einige sicherere, zuverlässigere CRISPR-Nachkommen könnten die meisten genetischen Krankheiten in bestehenden Populationen heilen. Systemische Krankheiten, die die meisten Zellen betreffen, könnten die letzten widerspenstigen Moleküle sein.
- Prävention der Alzheimer-Krankheit.Es fällt uns schwer herauszufinden, was die Alzheimer-Krankheit auslöst (es besteht ein Zusammenhang mit Beta-Amyloid, aber die tatsächlichen Details scheinen sehr komplex zu sein). Es scheint etwas zu sein, das mit besseren Messinstrumenten gelöst werden kann, die biologische Effekte isolieren; daher bin ich optimistisch, dass die KI dieses Problem lösen wird. Wenn wir erst einmal verstanden haben, was vor sich geht, besteht eine gute Chance, dass sich die Krankheit mit relativ einfachen Maßnahmen verhindern lässt. Die bereits vorhandenen Schäden der Alzheimer-Krankheit sind jedoch möglicherweise nur schwer rückgängig zu machen.
- Verbesserte Behandlung der meisten anderen Krankheiten.Diese Kategorie umfasst auch andere Krankheiten wie Diabetes, Fettleibigkeit, Herzkrankheiten, Autoimmunkrankheiten usw. Die meisten dieser Krankheiten scheinen "leichter" zu bekämpfen zu sein als Krebs und Alzheimer. Die meisten dieser Krankheiten scheinen "leichter" zu bekämpfen zu sein als Krebs und Alzheimer, und in vielen Fällen sind sie bereits stark rückläufig. So ist beispielsweise die Sterblichkeitsrate bei Herzkrankheiten um mehr als 501 TP3T zurückgegangen, und einfache Interventionen wie GLP-1-Agonisten haben große Fortschritte bei der Bekämpfung von Fettleibigkeit und Diabetes gemacht.
- Biologische Freiheit.In den letzten 70 Jahren haben wir Fortschritte bei der Empfängnisverhütung, dem Fruchtbarkeitsmanagement, der Gewichtskontrolle usw. gemacht, aber ich glaube, dass die von der KI beschleunigte Biologie das Spektrum der Möglichkeiten dramatisch erweitern wird: Gewicht, Aussehen, Fortpflanzung und andere biologische Prozesse werden vollständig unter der Kontrolle des Menschen stehen. Wir nennen dies "biologische Freiheit", was bedeutet, dass jeder das Recht haben sollte, zu wählen, wer er sein möchte und sein Leben so zu leben, wie es ihm am besten gefällt. Natürlich stellt sich die Frage nach der globalen Gleichberechtigung; diese wird in Abschnitt 3 erörtert.
- Verdoppelung der menschlichen Lebenserwartung[18].Dies mag radikal erscheinen, aber die Lebenserwartung hat sich im 20. Jahrhundert fast verdreifacht (von etwa 40 Jahren auf etwa 75 Jahre), so dass eine weitere Verdoppelung auf 150 Jahre im "komprimierten 21. Die Maßnahmen, die zur Verlangsamung des Alterungsprozesses erforderlich sind, unterscheiden sich natürlich von denen, die zur Verhinderung eines vorzeitigen Todes durch Krankheiten (vor allem bei Kindern) im letzten Jahrhundert notwendig waren, aber das Ausmaß der Veränderung ist nicht beispiellos [19]. So gibt es bereits eine Reihe von Medikamenten, die die maximale Lebensspanne von Ratten um 25-501 TP3T mit begrenzten Nebenwirkungen erhöhen. Einige Tiere (z. B. bestimmte Schildkrötenarten) sind 200 Jahre alt geworden, so dass der Mensch die theoretische Obergrenze eindeutig noch nicht erreicht hat. Zumindest könnten zuverlässige, weniger manipulationsanfällige Biomarker für die menschliche Alterung benötigt werden, die eine rasche Iteration in experimentellen und klinischen Studien ermöglichen würden. Sobald die menschliche Lebenserwartung 150 Jahre erreicht hat, könnten wir die "Fluchtgeschwindigkeit" erreichen und genug Zeit gewinnen, um den meisten heute lebenden Menschen zu ermöglichen, so lange zu leben, wie sie wollen, obwohl es keine Garantie gibt, dass dies biologisch möglich ist.
Es lohnt sich, einen Blick auf diese Liste zu werfen und darüber nachzudenken, wie anders die Welt aussehen würde, wenn all dies in 7-12 Jahren verwirklicht würde (was in eine positive Version der KI-Zeitlinie passen würde). Zweifellos wäre dies ein unvorstellbarer humanistischer Triumph, der die meisten Katastrophen, die die Menschheit seit Tausenden von Jahren geplagt haben, mit einem Schlag beseitigen würde. Viele meiner Freunde und Kollegen ziehen Kinder auf, und wenn diese Kinder groß sind, hoffe ich, dass ihnen jede Erwähnung einer Krankheit so vorkommen wird, wie wir es von Skorbut, Pocken oder der Beulenpest hören. Diese Generation wird auch von einer größeren biologischen Freiheit und Selbstverwirklichung profitieren und, mit etwas Glück, so lange leben können, wie sie wollen.
Es ist kaum zu überschätzen, wie überraschend diese Veränderungen für alle sein werden (außer für kleine Gemeinschaften, die sich auf eine leistungsstarke KI einstellen). In den Vereinigten Staaten beispielsweise debattieren derzeit Tausende von Wirtschaftswissenschaftlern und Politikexperten darüber, wie die Zahlungsfähigkeit der Sozialversicherung und von Medicare aufrechterhalten werden kann und wie im weiteren Sinne die Kosten für das Gesundheitswesen gesenkt werden können (die weitgehend von Menschen über 70 Jahren und insbesondere von Menschen mit unheilbaren Krankheiten wie Krebs verursacht werden). Wenn all dies eintritt, könnte sich die Situation für diese Programme radikal verbessern [20], da sich das Verhältnis zwischen der Bevölkerung im erwerbsfähigen Alter und der Bevölkerung im Ruhestand drastisch ändern würde. Zweifelsohne werden diese Herausforderungen durch andere ersetzt werden, z. B. durch die Frage, wie ein breiter Zugang zu neuen Technologien sichergestellt werden kann, aber es lohnt sich, darüber nachzudenken, wie sehr sich die Welt auch dann verändern wird, wenn die Biologie der einzige Bereich ist, der es schafft, sich zu beschleunigen.
2. die Neurowissenschaften und der Geist
Im vorigen Abschnitt habe ich mich auf die Krankheiten des Körpers und die Biologie im Allgemeinen konzentriert und bin nicht auf die Neurowissenschaften oder die geistige Gesundheit eingegangen. Die Neurowissenschaften sind jedoch eine Teildisziplin der Biologie, und die geistige Gesundheit ist ebenso wichtig wie die körperliche. Wenn überhaupt, dann hat die geistige Gesundheit einen direkteren Einfluss auf das menschliche Wohlbefinden als die körperliche Gesundheit. Hunderte von Millionen Menschen haben aufgrund von Problemen wie Sucht, Depression, Schizophrenie, Autismus mit geringen Funktionen, PTBS, Psychopathie[21] oder geistiger Behinderung eine sehr geringe Lebensqualität. Weitere Milliarden von Menschen kämpfen mit alltäglichen Problemen, die oft als mildere Version dieser schweren klinischen Störungen interpretiert werden können. Und wie in der Biologie im Allgemeinen könnte es möglich sein, über die Problemlösung hinauszugehen und die Grundqualität der menschlichen Erfahrung zu verbessern.
Der grundlegende Rahmen, den ich für die Biologie skizziert habe, lässt sich ebenso gut auf die Neurowissenschaften anwenden. Das Feld wird von einer Handvoll Entdeckungen angetrieben, die mit Messungen oder präzisen Eingriffswerkzeugen zu tun haben - in der obigen Liste ist die Optogenetik eine neurowissenschaftliche Entdeckung, und die jüngsten Fortschritte in der CLARITY- und Expansionsmikroskopie sind Fortschritte in dieselbe Richtung, zusätzlich zu einer Reihe allgemeiner zellbiologischer Methoden, die direkt auf die Neurowissenschaften anwendbar sind. Ich denke, dass das Tempo dieser Fortschritte durch die künstliche Intelligenz in ähnlicher Weise beschleunigt werden wird, so dass der Rahmen "100 Jahre Fortschritt in 5-10 Jahren" für die Neurowissenschaften in gleicher Weise gilt wie für die Biologie, und zwar aus den gleichen Gründen. Wie in der Biologie waren die Fortschritte in der Neurowissenschaft im 20. Jahrhundert enorm - bis in die 1950er Jahre wussten wir zum Beispiel nicht einmal, wie oder warum Neuronen feuern. Es scheint daher vernünftig, dass die durch KI beschleunigte Neurowissenschaft innerhalb weniger Jahre rasche Fortschritte machen wird.
Zu diesem grundlegenden Bild sollten wir noch hinzufügen, dass einiges von dem, was wir in den letzten Jahren über künstliche Intelligenz gelernt haben (oder gerade lernen), die Neurowissenschaften voranbringen kann, auch wenn sie weiterhin nur von Menschen betrieben werden. Ein offensichtliches Beispiel ist die Interpretierbarkeit: Obwohl biologische Neuronen scheinbar ganz anders funktionieren als künstliche Neuronen (sie kommunizieren über Spikes und Spike-Raten, es gibt also ein zeitliches Element, das bei künstlichen Neuronen nicht vorhanden ist, und viele Details im Zusammenhang mit der Zellphysiologie und den Neurotransmittern, die ihre Funktionsweise stark verändern), stellt sich die Frage, "wie ein verteiltes, trainiertes wie ein verteiltes, trainiertes, einfaches zelluläres Netzwerk kombinatorische lineare/nichtlineare Operationen durchführt, um gemeinsam wichtige Berechnungen durchzuführen", und ich vermute stark, dass die Details der individuellen Neuronenkommunikation bei den meisten interessanten Fragen zu Berechnungen und Schaltkreisen wegabstrahiert werden [22]. Als Beispiel hierfür haben Forscher, die sich mit der Interpretierbarkeit von KI-Systemen befassen, kürzlich Rechenmechanismen im Mäusegehirn wiederentdeckt.
Es ist viel einfacher, Experimente an künstlichen neuronalen Netzen durchzuführen als an echten Netzen (für letztere müssen normalerweise Tiergehirne aufgeschnitten werden), so dass die Interpretierbarkeit zu einem Werkzeug werden kann, das unser Verständnis der Neurowissenschaften verbessert. Darüber hinaus kann eine leistungsstarke KI dieses Werkzeug möglicherweise besser entwickeln und anwenden als der Mensch.
Neben der Interpretierbarkeit sollte natürlich auch das, was wir von der künstlichen Intelligenz darüber gelernt haben, wie intelligente Systeme trainiert werden, eine Revolution in den Neurowissenschaften auslösen (obwohl ich nicht sicher bin, ob das schon geschehen ist).
Als ich in den Neurowissenschaften arbeitete, konzentrierten sich viele Leute auf Fragen, die ich heute als die falschen Fragen zum Thema Lernen bezeichnen würde, weil der Begriff der Skalenannahmen/schmerzhaften Lektionen noch nicht aufgetaucht war. Die Vorstellung, dass einfache objektive Funktionen in Verbindung mit großen Datenmengen unglaublich komplexe Verhaltensweisen hervorrufen können, machte es interessanter, objektive Funktionen und architektonische Verzerrungen zu verstehen, als die Details der dringenden Berechnungen. Ich habe das Feld in den letzten Jahren nicht so genau verfolgt, aber ich habe das vage Gefühl, dass die Computer-Neurowissenschaftler diese Lektion noch nicht ganz verinnerlicht haben. Meine Einstellung zur Skalenhypothese war immer: "Aha - das ist eine Erklärung auf hohem Niveau dafür, wie Intelligenz funktioniert und warum sie sich so leicht entwickelt", aber ich glaube nicht, dass dies die Ansicht des durchschnittlichen Neurowissenschaftlers ist, und im Bereich der KI dient die Skalenhypothese als das "Geheimnis der Intelligenz" nicht einmal vollständig akzeptiert wird.
Ich denke, Neurowissenschaftler sollten diese grundlegenden Erkenntnisse mit den Besonderheiten des menschlichen Gehirns (biophysikalische Zwänge, Evolutionsgeschichte, Topologie, Details der motorischen und sensorischen Ein- und Ausgänge) kombinieren, um zu versuchen, wichtige neurowissenschaftliche Rätsel zu lösen. Einiges davon mag der Fall sein, aber ich glaube nicht, dass es ausreicht, und KI-Neurowissenschaftler werden diese Perspektive effektiver nutzen können, um den Fortschritt zu beschleunigen.
Ich gehe davon aus, dass die KI den Fortschritt in der Neurowissenschaft auf vier verschiedenen Wegen beschleunigen wird, die alle zusammen zur Heilung der meisten psychischen Krankheiten und zur Verbesserung der Funktionsfähigkeit beitragen können:
- Traditionelle Molekularbiologie, Chemie und Genetik.Es handelt sich im Wesentlichen um dieselbe allgemeine Biologie wie in Abschnitt 1, und die KI kann sie durch dieselben Mechanismen beschleunigen.
Es gibt viele Medikamente, die Neurotransmitter modulieren, um die Gehirnfunktion zu verändern, die Wachheit oder Wahrnehmung zu beeinflussen, die Stimmung zu verändern usw., und die KI kann uns helfen, weitere zu erfinden.
- Feinkörnige neurologische Messungen und Eingriffe.Dies ist die Fähigkeit, zu messen, was viele einzelne Neuronen oder neuronale Schaltkreise tun, und einzugreifen, um ihr Verhalten zu ändern. Optogenetik und technologische neuronale Sonden sind Techniken, die es ermöglichen, gleichzeitig Messungen vorzunehmen und in lebende Organismen einzugreifen, und einige sehr fortschrittliche Methoden (z. B. molekulare Bänder zum Ablesen der Feuermuster einer großen Anzahl einzelner Neuronen) wurden ebenfalls vorgeschlagen und scheinen prinzipiell möglich zu sein.
- Fortgeschrittene Computational Neuroscience.Wie bereits erwähnt, können die spezifischen Erkenntnisse der modernen KI und von The Whole erfolgreich auf Probleme der Systemneurowissenschaften angewandt werden, einschließlich der möglichen Aufdeckung der wahren Ursachen und der Dynamik komplexer Störungen wie Psychosen oder Gemütskrankheiten.
- Verhaltensorientierte Interventionen.Da der Schwerpunkt auf den biologischen Aspekten der Neurowissenschaften liegt, habe ich sie nicht allzu oft erwähnt, aber Psychiatrie und Psychologie haben im 20. Jahrhundert eine breite Palette von Verhaltensinterventionen entwickelt; die KI kann diese Interventionen sicherlich ebenfalls beschleunigen, sowohl bei der Entwicklung neuer Ansätze als auch bei der Unterstützung der Patienten bei der Befolgung bestehender Ansätze. Ganz allgemein scheint die Vorstellung eines "KI-Coaches" sehr vielversprechend zu sein, der Ihnen immer hilft, Ihr Bestes zu geben, der Ihre Interaktionen studiert und Ihnen hilft, zu lernen, effektiver zu sein.
Ich denke, dass diese vier Wege des Fortschritts, wenn sie zusammenwirken, wie der Kampf gegen körperliche Krankheiten, hoffentlich die meisten psychischen Krankheiten innerhalb der nächsten 100 Jahre heilen oder verhindern werden - und damit wahrscheinlich innerhalb von 5-10 Jahren nach der Beschleunigung der KI. Konkret lautet meine Vermutung:
- Die meisten psychischen Krankheiten können geheilt werden.Ich bin kein Experte für psychiatrische Störungen (ich verbringe meine Zeit in den Neurowissenschaften damit, Sonden zu bauen, um kleine Gruppen von Neuronen zu untersuchen), aber ich vermute, dass Störungen wie PTBS, Depression, Schizophrenie, Sucht usw. durch eine Kombination der vier oben genannten Richtungen herausgefunden und sehr wirksam behandelt werden könnten. Die Antwort könnte lauten: "Irgendetwas stimmt biochemisch nicht" (auch wenn es sehr komplex sein mag) und "irgendetwas stimmt mit dem neuronalen Netzwerk nicht, auf einer hohen Ebene". Das heißt, es handelt sich um ein systemneurowissenschaftliches Problem - auch wenn dies die Auswirkungen der oben erörterten verhaltensbezogenen Maßnahmen nicht außer Acht lässt. Instrumente zur In-vivo-Messung und -Intervention beim Menschen werden wahrscheinlich zu einer raschen Iteration und zu Fortschritten führen.
- Eine sehr "strukturelle" Situation kann schwieriger sein, ist aber nicht unmöglich.Es gibt einige Hinweise darauf, dass Psychopathie mit ausgeprägten neuroanatomischen Unterschieden einhergeht - bestimmte Bereiche des Gehirns sind bei Psychopathen einfach kleiner oder weniger entwickelt. Man geht auch davon aus, dass es Psychopathen von klein auf an Empathie mangelt; möglicherweise war dies schon immer der Fall, unabhängig von den Unterschieden in ihren Gehirnen. Das Gleiche könnte für bestimmte geistige Behinderungen und vielleicht auch für andere Krankheiten gelten. Die Neuverdrahtung des Gehirns hört sich schwierig an, aber es scheint eine Aufgabe zu sein, die sich für die Intelligenz auszahlt. Vielleicht gibt es Möglichkeiten, das erwachsene Gehirn in einen früheren oder plastischeren Zustand zu versetzen, so dass es umgestaltet werden kann. Ich bin mir in dieser Hinsicht sehr unsicher, aber mein Instinkt stimmt mich optimistisch, was die KI in diesem Bereich erfinden kann.
- Eine wirksame genetische Prävention von Psychosen scheint möglich zu sein.Die meisten psychiatrischen Störungen werden teilweise vererbt, und genomweite Assoziationsstudien machen erste Fortschritte bei der Identifizierung der damit verbundenen Faktoren, die in der Regel zahlreich sind. Ähnlich wie bei körperlichen Erkrankungen könnte es möglich sein, die meisten dieser Störungen durch ein Embryoscreening zu verhindern. Ein Unterschied besteht darin, dass psychische Erkrankungen mit größerer Wahrscheinlichkeit polygen sind (viele Gene tragen dazu bei), so dass aufgrund der Komplexität das Risiko besteht, unwissentlich nach positiven Merkmalen zu selektieren, die mit der Krankheit verbunden sind. Seltsamerweise scheinen die GWAS-Studien der letzten Jahre darauf hinzudeuten, dass diese Korrelationen möglicherweise überschätzt werden. In jedem Fall kann uns die KI-beschleunigte Neurowissenschaft dabei helfen, diese Probleme zu lösen. Natürlich wirft das Embryo-Screening auf komplexe Merkmale eine Reihe sozialer Fragen auf und wird umstritten sein, obwohl ich vermute, dass die meisten Menschen ein Screening auf schwere oder behindernde psychiatrische Störungen befürworten würden.
- Wir glauben nicht, dass auch die alltäglichen Probleme der klinischen Krankheit behandelt werden.Die meisten von uns haben alltägliche psychische Probleme, die in der Regel nicht als klinische Krankheit angesehen werden. Manche Menschen neigen zu Wutausbrüchen, andere haben Konzentrationsschwierigkeiten oder sind oft schläfrig, manche sind ängstlich oder nervös oder reagieren schlecht auf Veränderungen. Heute gibt es Medikamente, die z. B. die Wachsamkeit oder die Konzentration fördern (Koffein, Modafinil, Ritalin), aber wie in vielen anderen Bereichen gibt es vielleicht noch mehr Möglichkeiten. Möglicherweise gibt es noch viele weitere Medikamente, die erst noch entdeckt werden müssen, und vielleicht gibt es auch ganz neue Möglichkeiten der Intervention, wie z. B. gezielte Lichtstimulation (siehe Optogenetik oben) oder Magnetfelder. Wenn man bedenkt, wie viele Medikamente wir im 20. Jahrhundert entwickelt haben, um kognitive Funktionen und emotionale Zustände zu modulieren, bin ich sehr optimistisch im Hinblick auf ein "komprimiertes 21. Jahrhundert", in dem jeder seine Gehirnleistung verbessern und erfüllendere tägliche Erfahrungen machen kann.
- Die menschliche Grunderfahrung kann besser werden.Um noch einen Schritt weiter zu gehen: Viele Menschen erleben außergewöhnliche Momente der Offenbarung, der kreativen Inspiration, des Mitgefühls, der Erfüllung, der Transzendenz, der Liebe, der Schönheit oder des meditativen Friedens. Der Charakter und die Häufigkeit dieser Erfahrungen variieren von Mensch zu Mensch, zu verschiedenen Zeiten und können manchmal durch verschiedene Medikamente ausgelöst werden (wenn auch oft mit Nebenwirkungen). All dies deutet darauf hin, dass der "Raum möglicher Erfahrungen" sehr groß ist und dass das Leben von mehr Menschen aus diesen außergewöhnlichen Momenten bestehen könnte. Sie kann auch verschiedene kognitive Funktionen verbessern. Dies könnte die neurowissenschaftliche Version der "biologischen Freiheit" oder der "Lebensverlängerung" sein.
Ein Thema, das in der Science-Fiction häufig auftaucht, das ich hier aber bewusst nicht erörtert habe, ist die Idee des "Bewusstseins-Uploads", d. h. die Erfassung der Muster und der Dynamik des menschlichen Gehirns und ihre Umsetzung in Software. Dieses Thema könnte Gegenstand eines eigenen Aufsatzes sein, aber die kurze Antwort ist, dass ich das Hochladen zwar für prinzipiell möglich halte, aber in der Praxis mit erheblichen technischen und gesellschaftlichen Herausforderungen konfrontiert bin, die selbst mit leistungsfähiger KI außerhalb des Zeitfensters von 5-10 Jahren liegen könnten, von dem wir hier sprechen.
Kurz gesagt, die KI-beschleunigte Neurowissenschaft könnte die Behandlung dramatisch verbessern, möglicherweise sogar die meisten psychischen Krankheiten heilen und die "kognitive und geistige Freiheit" sowie die kognitiven und emotionalen Fähigkeiten des Menschen dramatisch erweitern. Dies wird ebenso radikal sein wie die in Abschnitt 1 beschriebenen Verbesserungen der körperlichen Gesundheit. Vielleicht würde die Welt äußerlich nicht wesentlich anders aussehen, aber die Welt der menschlichen Erfahrung wäre ein besserer, menschlicherer Ort, der mehr Möglichkeiten zur Selbstverwirklichung bietet. Ich vermute auch, dass eine verbesserte psychische Gesundheit viele andere soziale Probleme lindern würde, auch solche, die scheinbar politischer oder wirtschaftlicher Natur sind.
3. wirtschaftliche Entwicklung und Armut
Die ersten beiden Abschnitte befassen sich mit den neuen Technologien der UNDG zur Heilung von Krankheiten und zur Verbesserung der Lebensqualität der Menschen. Aus humanitärer Sicht stellt sich jedoch die offensichtliche Frage: "Werden alle Menschen Zugang zu diesen Technologien haben?"
Ein Heilmittel für eine Krankheit zu entwickeln ist eine Sache, sie weltweit auszurotten eine andere. Allgemeiner ausgedrückt: Viele bestehende Gesundheitsmaßnahmen müssen erst noch in anderen Teilen der Welt angewandt werden, und dasselbe gilt oft auch für (nicht gesundheitsbezogene) technologische Verbesserungen. Mit anderen Worten: Der Lebensstandard in vielen Teilen der Welt ist immer noch extrem niedrig: Das Pro-Kopf-BIP der afrikanischen Länder südlich der Sahara liegt bei etwa 2.000 Dollar, verglichen mit 75.000 Dollar in den USA. Wenn die KI das Wirtschaftswachstum und die Lebensqualität in den Industrieländern weiter steigert, während sie den Entwicklungsländern kaum hilft, sollten wir dies als schreckliches moralisches Versagen und als Schandfleck auf den echten humanitären Erfolgen der beiden vorangegangenen Abschnitte betrachten. Im Idealfall sollte eine leistungsfähige KI den Entwicklungsländern helfen, zu den Industrieländern aufzuschließen, selbst wenn sie letztere revolutioniert.
Ich bin nicht so zuversichtlich, dass KI in der Lage sein wird, die zugrundeliegende Technologie zu erfinden, die die Probleme der Ungleichheit und des Wirtschaftswachstums lösen wird, da die Technologie eine wesentlich höhere Rendite für die Intelligenz bringt (einschließlich der Fähigkeit, mit Komplexität und Datenmangel umzugehen), während die Wirtschaft viele Einschränkungen durch den Menschen und eine hohe inhärente Komplexität aufweist. Ich bin etwas skeptisch, dass KI das berühmte "sozialistische Computerproblem" [23] lösen kann, und selbst wenn sie es könnte, glaube ich nicht, dass Regierungen ihre Wirtschaftspolitik einem solchen Wesen anvertrauen würden (oder sollten). Außerdem stellt sich die Frage, wie man Menschen davon überzeugen kann, Behandlungen zu akzeptieren, die zwar wirksam sind, denen sie aber möglicherweise skeptisch gegenüberstehen.
Die Herausforderungen, mit denen die Entwicklungsländer konfrontiert sind, werden durch die weit verbreitete Korruption sowohl im öffentlichen als auch im privaten Sektor noch verschärft. Korruption schafft einen Teufelskreis: Sie verschlimmert die Armut, die wiederum zu mehr Korruption führt. KI-gesteuerte wirtschaftliche Entwicklungsprogramme müssen Korruption, schwache Institutionen und andere sehr menschliche Herausforderungen berücksichtigen.
Dennoch sehe ich klare Gründe für Optimismus. Krankheiten wurden ausgerottet, viele Länder haben sich von Armut in Wohlstand verwandelt, und es ist klar, dass die mit diesen Aufgaben verbundenen Entscheidungen eine hohe Intelligenzrendite aufweisen (trotz menschlicher Einschränkungen und Komplexität), so dass die KI in der Lage sein könnte, besser abzuschneiden als sie es derzeit tut. Möglicherweise gibt es auch gezielte Maßnahmen, mit denen menschliche Zwänge umgangen werden können, und die KI kann sich auf diese konzentrieren. Noch wichtiger ist, dass wir es versuchen müssen. Sowohl die KI-Unternehmen als auch die politischen Entscheidungsträger in den Industrieländern müssen ihren Teil dazu beitragen, dass die Entwicklungsländer nicht auf der Strecke bleiben; der moralische Imperativ ist zu groß. In diesem Abschnitt werde ich also weiterhin für Optimismus plädieren, aber nicht vergessen, dass der Erfolg nicht garantiert ist und von unseren gemeinsamen Anstrengungen abhängt.
Im Folgenden spekuliere ich darüber, wie die Entwicklungsländer meiner Meinung nach in 5-10 Jahren aussehen könnten, wenn eine leistungsfähige KI entwickelt ist:
- Verteilung von Gesundheitsinterventionen.Der Bereich, in dem ich wahrscheinlich am optimistischsten bin, ist die Verteilung der Gesundheitsmaßnahmen in der Welt. Krankheiten wurden durch Top-Down-Kampagnen praktisch ausgerottet: Die Pocken wurden in den 1970er Jahren vollständig ausgerottet, und die Kinderlähmung und die Guineawurm-Krankheit wurden mit weniger als 100 Fällen pro Jahr praktisch ausgerottet. Mathematisch ausgefeilte epidemiologische Modelle haben bei Kampagnen zur Ausrottung von Krankheiten eine aktive Rolle gespielt, und es ist sehr wahrscheinlich, dass KI-Systeme, die intelligenter sind als Menschen, diese Aufgabe besser erledigen könnten als Menschen. Auch die Logistik der Verteilung könnte erheblich optimiert werden. Eine Sache, die ich als früher Spender bei GiveWell gelernt habe, ist, dass einige Wohltätigkeitsorganisationen im Gesundheitsbereich effektiver sind als andere; hoffentlich werden KI-beschleunigte Bemühungen noch effektiver sein. Darüber hinaus haben einige biologische Fortschritte die Logistik der Verteilung vereinfacht: Malaria zum Beispiel ist schwer auszurotten, weil sie jedes Mal behandelt werden muss, wenn die Krankheit ausbricht; Impfstoffe, die nur eine einzige Impfung erfordern, machen die Logistik einfacher (ein solcher Impfstoff gegen Malaria befindet sich derzeit in der Entwicklung). Es sind auch einfachere Verbreitungsmechanismen denkbar: z. B. die Ausrottung einiger Krankheiten durch gezielte Bekämpfung ihrer tierischen Überträger, z. B. durch die Freisetzung von Moskitos, die mit einem Bakterium infiziert sind, das sie daran hindert, die Krankheit zu übertragen (und dann alle anderen Moskitos ansteckt), oder die einfache Ausrottung von Moskitos mit Hilfe eines Gentriebs. Dies würde eine oder einige wenige gezielte Maßnahmen erfordern und nicht eine koordinierte Kampagne, bei der Millionen von Menschen einzeln behandelt werden müssten. Insgesamt halte ich 5-10 Jahre für einen vernünftigen Zeitrahmen, in dem ein signifikanter Teil der KI-bedingten Gesundheitsvorteile (vielleicht 50%) in den ärmsten Ländern der Welt Einzug gehalten haben wird. Ein gutes Ziel könnte sein, dass die Entwicklungsländer innerhalb von 5-10 Jahren nach dem Einsatz leistungsfähiger KI mindestens so gesund sind wie die Industrieländer, auch wenn sie weiterhin hinter den Industrieländern zurückbleiben. Um dieses Ziel zu erreichen, sind natürlich enorme Anstrengungen in den Bereichen globale Gesundheit, Philanthropie, politische Interessenvertretung und in vielen anderen Bereichen erforderlich, und sowohl KI-Entwickler als auch politische Entscheidungsträger sollten dabei helfen.
- Wirtschaftswachstum.Können die Entwicklungsländer schnell zu den Industrieländern aufschließen, nicht nur in Bezug auf die Gesundheit, sondern auch in allen Bereichen der Wirtschaft? Es gibt einen Präzedenzfall: In den letzten Jahrzehnten des 20. Jahrhunderts erreichten mehrere ostasiatische Volkswirtschaften anhaltende jährliche Wachstumsraten des realen BIP von etwa 10%, was ihnen ermöglichte, mit den Industrieländern gleichzuziehen. Die menschlichen Wirtschaftsplaner trafen die Entscheidungen, die zu diesem Erfolg führten, indem sie einige wichtige Hebel betätigten (z. B. Industriepolitik für exportorientiertes Wachstum und Widerstehen der Versuchung, sich auf den Reichtum an natürlichen Ressourcen zu verlassen), anstatt die Wirtschaft als Ganzes direkt zu steuern; "künstlich intelligente Finanzminister und Zentralbankgouverneure" könnten diese 10%-Leistung wiederholen oder sogar übertreffen. 10%-Erfolg. Eine wichtige Frage ist, wie man die Regierungen in den Entwicklungsländern dazu bringen kann, die Grundsätze der Selbstbestimmung zu übernehmen und gleichzeitig zu respektieren - einige mögen begeistert sein, andere sind skeptisch. Was die optimistische Seite betrifft, so können viele der oben genannten Maßnahmen im Gesundheitsbereich das Wirtschaftswachstum auf natürliche Weise steigern: Die Ausrottung von AIDS/Malaria/parasitären Würmern würde sich positiv auf die Produktivität auswirken, ganz zu schweigen davon, dass einige neurowissenschaftliche Maßnahmen (z. B. zur Verbesserung von Stimmung und Konzentration) sowohl in den Industrie- als auch in den Entwicklungsländern wirtschaftliche Vorteile bringen würden. Und schließlich können Technologien, die nicht die Gesundheit betreffen und die KI beschleunigen (z. B. Energietechnologie, Transportdrohnen, verbesserte Baumaterialien, bessere Logistik und Verteilung usw.), die Welt auf natürliche Weise durchdringen; so werden beispielsweise selbst in Afrika südlich der Sahara Mobiltelefone durch Marktmechanismen und ohne philanthropische Bemühungen schnell alltäglich. Auf der negativen Seite stellen KI und Automatisierung trotz ihrer vielen potenziellen Vorteile auch eine Herausforderung für die wirtschaftliche Entwicklung dar, insbesondere für Länder, die noch nicht industrialisiert sind. Die Suche nach Wegen, die sicherstellen, dass diese Länder ihre Wirtschaft auch im Zeitalter der Automatisierung weiterentwickeln und verbessern können, ist eine wichtige Herausforderung, der sich Wirtschaftswissenschaftler und politische Entscheidungsträger stellen müssen. Insgesamt wäre ein Traumszenario - und vielleicht auch ein Ziel - eine jährliche BIP-Wachstumsrate von 201 TP3T in den Entwicklungsländern, wobei 101 TP3T aus KI-gestützten wirtschaftlichen Entscheidungen und weitere 101 TP3T aus KI-beschleunigten die natürliche Verbreitung von Technologie, einschließlich, aber nicht beschränkt auf das Gesundheitswesen. Wenn dies realisiert wird, könnte Afrika südlich der Sahara innerhalb von 5-10 Jahren das derzeitige Pro-Kopf-BIP Chinas erreichen, während viele andere Entwicklungsländer ein Niveau über dem derzeitigen BIP der USA erreichen könnten. Wie gesagt, dies ist ein Traumszenario und nicht etwas, das von selbst eintritt: Wir müssen alle zusammenarbeiten, um dies zu ermöglichen.
- Ernährungssicherheit[24].Technologische Fortschritte bei Nutzpflanzen wie bessere Düngemittel und Pestizide, mehr Automatisierung und effizientere Landnutzung haben die Ernteerträge drastisch erhöht und im 20. Jahrhundert Millionen von Menschen vor dem Hungertod bewahrt. Mit Hilfe der Gentechnik werden nun viele Nutzpflanzen weiter verbessert. Wenn es gelingt, weitere Möglichkeiten zu finden und die landwirtschaftlichen Lieferketten effizienter zu gestalten, könnte dies zu einer KI-gestützten zweiten grünen Revolution führen, die dazu beiträgt, die Kluft zwischen den Entwicklungsländern und den Industrienationen zu schließen.
- Abschwächung des Klimawandels.Der Klimawandel wird sich in den Entwicklungsländern noch stärker bemerkbar machen und deren Entwicklung behindern. Wir können davon ausgehen, dass die KI zu verbesserten Technologien führen wird, die den Klimawandel eindämmen oder aufhalten, von der Kohlenstoffentfernung aus der Atmosphäre über saubere Energietechnologien bis hin zu Fleisch aus Laborhaltung, das unsere Abhängigkeit von der kohlenstoffintensiven Massentierhaltung verringert. Wie bereits erwähnt, ist die Technologie natürlich nicht das Einzige, was den Fortschritt im Kampf gegen den Klimawandel behindert - wie bei allen anderen in diesem Artikel behandelten Themen spielen auch hier soziale Faktoren eine Rolle. Aber es gibt gute Gründe für die Annahme, dass die KI-gestützte Forschung uns die Mittel an die Hand geben wird, um den Klimaschutz weniger kostspielig und weniger schädlich zu machen, so dass viele der Einwände irrelevant werden und das Potenzial für eine stärkere wirtschaftliche Entwicklung in den Entwicklungsländern freigesetzt wird.
- Ungleichheit innerhalb des Staates.Ich habe die Ungleichheit hauptsächlich als globales Phänomen erörtert (was meiner Meinung nach ihre wichtigste Ausprägung ist), aber natürlich gibt es auch innerhalb der Länder Ungleichheit. Angesichts der dramatischen Zunahme fortschrittlicher Gesundheitsmaßnahmen, insbesondere von Medikamenten zur Verlängerung der Lebenserwartung oder zur Verbesserung der kognitiven Fähigkeiten, besteht sicherlich die berechtigte Sorge, dass diese Technologien "nur für die Reichen" sind. Was die Ungleichheit innerhalb der entwickelten Länder betrifft, bin ich aus zwei Gründen besonders optimistisch. Erstens funktionieren die Märkte in den Industrieländern besser, und sie sind im Allgemeinen gut in der Lage, die Kosten für hochwertige Technologien im Laufe der Zeit zu senken [25]. Zweitens haben die politischen Institutionen in den Industrieländern ein größeres Gespür für ihre Bürger und verfügen über größere nationale Kapazitäten zur Umsetzung von UA-Programmen - ich gehe davon aus, dass die Bürger Zugang zu Technologien fordern werden, die ihre Lebensqualität so grundlegend verbessern. Das heißt natürlich nicht, dass solche Forderungen Erfolg haben werden - und hier müssen wir gemeinsam alles tun, was wir können, um eine gerechte Gesellschaft zu gewährleisten. Das Problem der Ungleichheit beim Wohlstand (im Gegensatz zur Ungleichheit beim Zugang zu lebensrettenden und lebensverbessernden Technologien) scheint schwieriger zu lösen zu sein und wird in Abschnitt 5 behandelt.
- Opt-out-Fragen.. Sowohl in den Industrie- als auch in den Entwicklungsländern besteht das Problem, dass die Menschen sich gegen die Vorteile der KI entscheiden (ähnlich wie bei der Anti-Impf-Bewegung oder der Ludditen-Bewegung im Allgemeinen). Es könnte zu schlechten Rückkopplungsschleifen kommen, z. B. wenn Menschen, die am wenigsten in der Lage sind, gute Entscheidungen zu treffen, sich gerade gegen die technologische Entwicklung entscheiden, die ihre Entscheidungsfähigkeit verbessert, was zu einer Vergrößerung der Kluft und sogar zur Entstehung einer anti-utopischen Unterschicht führt (was nach Ansicht einiger Forscher die Demokratie untergraben wird, ein Thema, das ich im nächsten Abschnitt näher erörtere). Dies würde den positiven Fortschritt der KI einmal mehr mit einem moralischen Makel versehen. Das ist ein schwer zu lösendes Problem, denn ich glaube nicht, dass es ethisch möglich ist, die Menschen zu zwingen, aber wir können zumindest versuchen, das wissenschaftliche Verständnis der Menschen zu verbessern - vielleicht kann uns die KI selbst dabei helfen. Ein ermutigendes Zeichen ist, dass technikfeindliche Kampagnen in der Regel lauter sind als die tatsächlichen Maßnahmen: Der Widerstand gegen moderne Technologien ist populär, aber die meisten Menschen nehmen sie schließlich an, zumindest wenn es sich um eine persönliche Entscheidung handelt. Die meisten Gesundheits- und Verbrauchertechnologien werden von Einzelpersonen übernommen, während Technologien, die wirklich behindert werden, wie die Kernenergie, eher kollektive politische Entscheidungen sind.
Insgesamt bin ich optimistisch, dass die biologischen Fortschritte der KI den Menschen in den Entwicklungsländern rasch zugute kommen werden. Ich bin hoffnungsvoll, wenn auch nicht zuversichtlich, dass die KI beispiellose wirtschaftliche Wachstumsraten erreichen kann, die die Entwicklungsländer zumindest über das derzeitige Niveau der Industrieländer heben werden. Ich mache mir Sorgen über das Problem des "Opting-out" sowohl in den Industrie- als auch in den Entwicklungsländern, vermute aber, dass es mit der Zeit verschwinden wird und dass die KI dazu beitragen kann, diesen Prozess zu beschleunigen. Die Welt wird nicht perfekt sein, und diejenigen, die im Rückstand sind, werden nicht ganz aufholen, zumindest nicht in den ersten paar Jahren. Aber durch unsere Anstrengungen können wir schnell Fortschritte in die richtige Richtung machen. Und wenn wir das tun, können wir zumindest einen gewissen Beitrag zu den Versprechungen von Würde und Gleichheit leisten, die wir für jeden Menschen auf der Erde halten.
4. frieden und governance
Nehmen wir an, dass bei den ersten drei Komponenten alles gut läuft: Krankheit, Armut und Ungleichheit werden deutlich reduziert, und die Ausgangslage für die menschliche Erfahrung wird erheblich verbessert. Das bedeutet nicht, dass alle Hauptursachen für menschliches Leid beseitigt sind. Die Menschen sind immer noch eine Bedrohung für einander.
Es gibt zwar einen Trend zu technischem Fortschritt und wirtschaftlicher Entwicklung, der zu Demokratie und Frieden führt, aber es handelt sich um einen sehr losen Trend, der oft (und in letzter Zeit) rückwärts verläuft. Zu Beginn des zwanzigsten Jahrhunderts glaubte man, den Krieg hinter sich gelassen zu haben; dann kamen die beiden Weltkriege. Vor dreißig Jahren schrieb Francis Fukuyama über das "Ende der Geschichte" und den endgültigen Triumph der liberalen Demokratie; das ist bis heute nicht eingetreten. Vor zwanzig Jahren glaubten die US-Politiker, dass der Freihandel mit China zu dessen Liberalisierung führen würde, wenn es reicher wird; das ist einfach nicht geschehen, und jetzt scheinen wir auf einen zweiten Kalten Krieg mit einem wiederbelebten autoritären Block zuzusteuern. Glaubwürdige Theorien deuten darauf hin, dass die Internettechnologie tatsächlich den Autoritarismus gegenüber der Demokratie begünstigt, wie ursprünglich angenommen (z. B. während des Arabischen Frühlings). Es scheint wichtig zu sein, zu verstehen, wie sich leistungsstarke KI mit Fragen des Friedens, der Demokratie und der Freiheit überschneiden wird.
Leider habe ich ebenso wenig Grund zu der Annahme, dass KI Demokratie und Frieden bevorzugt oder strukturell fördern wird, wie ich glaube, dass sie die menschliche Gesundheit strukturell fördern und die Armut lindern wird. Menschliche Konflikte sind kontraproduktiv, und KI kann im Prinzip sowohl den "Guten" als auch den "Bösen" helfen. Wenn überhaupt, dann scheinen einige strukturelle Faktoren besorgniserregend zu sein: KI könnte Propaganda und Überwachung erleichtern, beides Schlüsselwerkzeuge im Instrumentarium autoritärer Herrscher. Wir als einzelne Akteure müssen daher versuchen, die Dinge in die richtige Richtung zu lenken: Wenn wir wollen, dass KI die Demokratie und die Rechte des Einzelnen fördert, müssen wir dafür kämpfen. Dies ist mir wichtiger als die Frage der internationalen Ungleichheit: Der Sieg der liberalen Demokratie und der politischen Stabilität ist nicht garantiert, vielleicht nicht einmal möglich, und wird uns allen große Opfer und ein großes Engagement abverlangen, wie es in der Vergangenheit oft der Fall war.
Ich denke, das Problem besteht aus zwei Teilen: internationale Konflikte und die interne Struktur des Staates. Auf internationaler Ebene scheint es wichtig zu sein, dass sich Demokratien auf der Weltbühne durchsetzen, wenn mächtige KI geschaffen werden. KI-gesteuerter Autoritarismus scheint zu beängstigend zu sein, um ihn in Erwägung zu ziehen, daher müssen Demokratien in der Lage sein, die Bedingungen festzulegen, unter denen mächtige KI die Welt betreten kann, sowohl um zu vermeiden, dass sie von autoritären Staaten überwältigt werden, als auch um zu verhindern, dass es in autoritären Staaten zu Menschenrechtsverletzungen kommt.
Meiner derzeitigen Einschätzung nach lässt sich dies am besten durch eine "Konkordanzstrategie" [26] erreichen, bei der eine Koalition von Demokratien versucht, sich einen klaren Vorteil (wenn auch nur vorübergehend) gegenüber einer mächtigen KI zu verschaffen, indem sie ihre Lieferkette sichert, schnell expandiert und den Zugang des Gegners zu wichtigen Ressourcen (z. B. Chips und Halbleiterausrüstung) verhindert oder verzögert. ). Die Koalition würde KI einsetzen, um einen robusten militärischen Vorteil zu erlangen (die Peitsche), während sie gleichzeitig anbietet, die Vorteile einer mächtigen KI an eine wachsende Zahl von Ländern weiterzugeben (das Zuckerbrot), wenn sie im Gegenzug die Strategie der Koalition zur Förderung der Demokratie unterstützt (was in etwa dem "Friedensatom" entsprechen würde). Das Ziel der Koalition ist es, die Unterstützung von immer mehr Ländern der Welt zu gewinnen, unsere schlimmsten Gegner zu isolieren und sie letztendlich in eine bessere Position zu bringen, um den Wettbewerb mit den Demokratien um alle Vorteile aufzugeben und nicht gegen überlegene Gegner zu kämpfen.
Wenn uns all dies gelingt, werden wir eine Welt haben, in der die Demokratien die Weltbühne beherrschen und über die wirtschaftliche und militärische Macht verfügen, um zu verhindern, dass sie von autoritären Staaten unterminiert, unterworfen oder zerstört werden, und vielleicht in der Lage sind, ihre KI-Vorteile in dauerhafte Vorteile umzuwandeln. Dies könnte optimistischerweise zu einem "ewigen 1991" führen - einer Welt, in der die Demokratien überwiegen und Fukuyamas Traum verwirklicht wird. Auch dies wird sehr schwer zu realisieren sein, zumal es eine enge Zusammenarbeit zwischen privaten KI-Unternehmen und demokratischen Regierungen sowie eine äußerst kluge Entscheidung über das Gleichgewicht von Zuckerbrot und Peitsche erfordern wird.
Selbst wenn dies alles gut geht, bleibt die Frage des Kampfes zwischen Demokratie und Autoritarismus in jedem Land offen. Natürlich ist es schwer vorherzusagen, was hier passieren wird, aber ich bin optimistisch, dass in einem globalen Umfeld, in dem die Demokratien die mächtigsten KI kontrollieren, KI so strukturiert sein könnte, dass sie die Demokratie überall unterstützt. Insbesondere könnten demokratische Regierungen in einem solchen Umfeld ihre Super-KI einsetzen, um den Informationskrieg zu gewinnen: Sie könnten den Einfluss und die Propagandaoperationen autoritärer Staaten bekämpfen und vielleicht sogar ein globales Umfeld freier Informationen schaffen, indem sie Zugang zu Informationen und KI-Diensten gewähren, die autoritäre Staaten technologisch nicht blockieren oder überwachen können. Vielleicht ist es nicht notwendig, Propaganda zu verbreiten, sondern einfach böswillige Angriffe abzuwehren und den freien Informationsfluss zu unterbinden. Auch wenn dies nicht sofort möglich ist, besteht eine gute Chance, dass sich die globale Governance aus mehreren Gründen allmählich in Richtung Demokratie entwickelt.
Erstens sollten die Fortschritte bei der Verbesserung der Lebensqualität in den Abschnitten 1 bis 3 unter sonst gleichen Bedingungen die Demokratie fördern: Historisch gesehen haben sie dies zumindest bis zu einem gewissen Grad getan. Insbesondere erwarte ich, dass verbesserte psychische Gesundheit, Glück und Bildung die Demokratie fördern, da alle drei negativ mit der Unterstützung für autoritäre Führer korreliert sind. Im Allgemeinen wollen die Menschen mehr Selbstverwirklichung, wenn andere Bedürfnisse befriedigt sind, und Demokratie ist eine Form der Selbstverwirklichung. Im Gegensatz dazu lebt der Autoritarismus von Angst und Ressentiments.
Zweitens besteht eine gute Chance, dass freie Informationen tatsächlich den Autoritarismus untergraben, solange die Autoritären sie nicht zensieren können. Unzensierte KI kann dem Einzelnen auch mächtige Werkzeuge an die Hand geben, um repressive Regierungen zu untergraben. Unterdrückerische Regierungen überleben, indem sie den Menschen eine Art von Allgemeinwissen vorenthalten und sie daran hindern, zu erkennen, dass "der Kaiser keine Kleider anhat". Srdja Popovic, der zum Sturz der Regierung Milosevic beigetragen hat, hat beispielsweise ausführlich über Techniken zur psychologischen Entmachtung von Machthabern, zum Brechen von Bannflüchen und zum Sammeln von Widerstand gegen Diktatoren geschrieben. Eine übermenschlich effektive Version der KI, die jeder in der Tasche hat (und deren Fähigkeiten sich offenbar für die Intelligenz auszahlen), könnte Dissidenten und Reformern auf der ganzen Welt Unterstützung verschaffen. Auch hier wird es ein langer, harter Kampf sein, und der Sieg ist nicht garantiert, aber wenn wir die KI richtig konzipieren und entwickeln, könnte es zumindest ein Kampf sein, in dem die Befürworter der Freiheit überall einen Vorteil haben.
Wie die Neurowissenschaften und die Biologie können wir fragen, wie die Dinge "besser als normal" gemacht werden können - nicht nur, wie man Autoritarismus vermeiden kann, sondern wie man die Demokratie besser machen kann, als sie heute ist. Auch in Demokratien kommt es häufig zu Ungerechtigkeiten. Rechtsstaatliche Gesellschaften versprechen ihren Bürgern, dass alle vor dem Gesetz gleich sind und dass alle in den Genuss grundlegender Menschenrechte kommen, aber es ist klar, dass die Menschen diese Rechte in der Praxis nicht immer erhalten. Dieses Versprechen ist etwas, auf das man stolz sein kann, auch wenn es nur teilweise eingelöst wird, aber kann die KI uns helfen, es besser zu machen?
Kann KI beispielsweise unsere Rechts- und Justizsysteme verbessern, indem sie für gerechtere Entscheidungen und Verfahren sorgt? Heute gibt es große Bedenken, dass KI-Systeme eine Ursache für Diskriminierung im rechtlichen oder justiziellen Kontext sein könnten, und diese Bedenken sind wichtig und müssen verteidigt werden. Gleichzeitig hängt die Lebensfähigkeit der Demokratie davon ab, dass neue Technologien genutzt werden, um die demokratischen Institutionen zu verbessern und nicht nur auf Risiken zu reagieren. Eine wirklich ausgereifte und erfolgreiche KI-Implementierung hat das Potenzial, Voreingenommenheit zu verringern und für alle fairer zu sein.
Seit Jahrhunderten steht das Rechtssystem vor dem Dilemma, dass das Recht, das gerecht sein soll, von Natur aus subjektiv ist und daher von befangenen Menschen ausgelegt werden muss. Versuche, das Recht vollständig zu mechanisieren, haben nicht funktioniert, weil die reale Welt chaotisch ist und nicht immer durch mathematische Formeln beschrieben werden kann. Stattdessen stützt sich das Rechtssystem auf notorisch ungenaue Kriterien wie "grausame und ungewöhnliche Bestrafung" oder "völliger Mangel an sozialem Wert", die dann von Menschen interpretiert werden - und zwar oft auf eine Weise, die Voreingenommenheit, Vorurteile und einen Mangel an sozialem Wert erkennen lässt. Sie werden dann von Menschen interpretiert - und zwar oft auf eine Art und Weise, die Voreingenommenheit, Bevorzugung oder Willkür erkennen lässt. "Intelligente Verträge" in Kryptowährungen haben das Recht nicht revolutioniert, weil gewöhnlicher Code nicht intelligent genug ist, um alle interessanten Dinge zu regeln. Aber KI könnte intelligent genug sein: Sie ist die erste Technologie, die in der Lage ist, weitreichende, mehrdeutige Urteile auf wiederholbare und mechanische Weise zu fällen.
Ich schlage nicht vor, dass wir Richter buchstäblich durch KI-Systeme ersetzen, aber die Kombination aus Unparteilichkeit und der Fähigkeit, schwierige Situationen in der realen Welt zu verstehen und zu bewältigen, sollte einige ernsthafte positive Anwendungen für Recht und Justiz haben. Zumindest könnte ein solches System als Hilfe für die menschliche Entscheidungsfindung dienen. Transparenz ist bei einem solchen System wichtig, und hochentwickelte KI-Wissenschaft könnte sie bieten: Der Trainingsprozess für diese Systeme könnte umfassend untersucht werden, und fortgeschrittene interpretierbare Techniken könnten eingesetzt werden, um das endgültige Modell zu untersuchen und es auf versteckte Verzerrungen zu prüfen, was bei Menschen unmöglich wäre. Solche KI-Instrumente könnten auch zur Überwachung von Grundrechtsverletzungen im gerichtlichen oder polizeilichen Kontext eingesetzt werden, so dass sich die Verfassungen selbst besser durchsetzen.
In ähnlicher Weise kann KI eingesetzt werden, um Meinungen zusammenzutragen und einen Konsens unter den Bürgern herbeizuführen, Konflikte zu lösen, Gemeinsamkeiten zu finden und Kompromisse zu suchen. Einige erste Ideen in dieser Hinsicht wurden vom Computational Democracy Project aufgegriffen, unter anderem in Zusammenarbeit mit Anthropic. Eine besser informierte und nachdenkliche Bürgerschaft stärkt sicherlich die demokratischen Institutionen.
Es gibt auch eine klare Möglichkeit, KI zu nutzen, um bei der Erbringung staatlicher Dienstleistungen - wie Gesundheitsleistungen oder Sozialdienste - zu helfen, die im Prinzip jedem zur Verfügung stehen, in der Praxis aber oft schmerzlich vermisst werden und an manchen Orten schlechter sind als an anderen. Dazu gehören Gesundheitsdienste, Kfz-Zulassungen, Steuern, Sozialversicherung, Durchsetzung von Bauvorschriften und vieles mehr. Eine gut durchdachte und gut informierte KI, deren Aufgabe es ist, Ihnen auf verständliche Weise Zugang zu allen Dingen zu verschaffen, die die Regierung zur Verfügung stellen sollte, und Ihnen auch dabei zu helfen, die oft verwirrenden Regeln der Regierung einzuhalten, wäre eine große Sache. Der Ausbau der staatlichen Kapazitäten trägt dazu bei, das Versprechen der Gleichheit vor dem Gesetz zu erfüllen und stärkt den Respekt vor der demokratischen Staatsführung. Schlecht ausgeführte Dienstleistungen sind einer der Hauptgründe für den derzeitigen Zynismus gegenüber der Regierung [27].
All dies sind vage Ideen, und wie ich zu Beginn dieses Abschnitts sagte, habe ich weit weniger Vertrauen in ihre Realisierbarkeit als in meine Fortschritte in Biologie, Neurowissenschaften und Armutsbekämpfung. Es mögen unpraktische, utopische Ideen sein. Aber es ist wichtig, eine ehrgeizige Vision zu haben und bereit zu sein, kühn zu träumen und neue Dinge auszuprobieren. Die Vision der KI als Garant für Freiheit, individuelle Rechte und Gleichheit vor dem Gesetz ist zu stark, um sie zu ignorieren. Ein KI-gesteuertes Gemeinwesen des 21. Jahrhunderts kann sowohl ein stärkerer Beschützer der individuellen Freiheiten als auch ein Leuchtturm der Hoffnung sein und dazu beitragen, die liberale Demokratie zu der Regierungsform zu machen, die die Welt anstrebt.
5. arbeit und sinn
Selbst wenn alles in den ersten vier Teilen gut läuft - wir lindern nicht nur Krankheiten, Armut und Ungleichheit, sondern die liberale Demokratie wird zur vorherrschenden Regierungsform, und die bestehenden liberalen Demokratien werden zu besseren Versionen ihrer selbst - bleibt mindestens eine wichtige Frage bleibt bestehen. "Es ist großartig, dass wir in einer technologisch so fortschrittlichen sowie fairen und anständigen Welt leben", könnte man einwenden, "aber wenn die KI alles macht, wie werden die Menschen dann einen Sinn haben? Wie werden sie übrigens wirtschaftlich überleben?"
Ich denke, dieses Problem ist schwieriger als andere. Ich meine damit, dass diese Frage unvorhersehbarer ist als andere, weil sie Makrofragen über die Organisation von Gesellschaften beinhaltet, Fragen, die oft nur im Laufe der Zeit und auf dezentrale Weise gelöst werden können. Historische Jäger- und Sammlergesellschaften könnten sich zum Beispiel vorstellen, dass das Leben ohne die Jagd und die verschiedenen damit verbundenen religiösen Rituale sinnlos wäre, und sie könnten sich vorstellen, dass unsere übersättigte technologische Gesellschaft zwecklos ist. Vielleicht haben sie auch nicht verstanden, wie unsere Wirtschaft für alle sorgt oder welche Funktionen der Mensch in einer mechanisierten Gesellschaft effektiv erfüllen kann.
Dennoch lohnt es sich, zumindest ein paar Worte zu sagen, wobei die Kürze dieses Abschnitts keineswegs bedeutet, dass ich diese Fragen nicht ernst nehme - im Gegenteil, sie ist ein Zeichen dafür, dass es an klaren Antworten mangelt.
Was die Bedeutung angeht, so glaube ich, dass es wahrscheinlich ein Irrtum ist, dass man eine Aufgabe, die keinen Sinn macht, nur deshalb macht, weil die KI sie besser machen kann. Die meisten Menschen sind nicht die Besten der Welt, und das scheint sie nicht besonders zu stören. Sicherlich können sie heute noch durch komparative Vorteile einen Beitrag leisten und aus dem von ihnen produzierten wirtschaftlichen Wert einen Sinn ableiten, aber die Menschen haben auch viel Freude an Aktivitäten, die keinen wirtschaftlichen Wert erzeugen. Ich verbringe viel Zeit mit Videospielen, Schwimmen, Spaziergängen und Gesprächen mit Freunden, die alle keinen wirtschaftlichen Wert erzeugen. Ich verbringe vielleicht einen Tag damit, besser in einem Videospiel zu werden oder in den Bergen schneller mit dem Fahrrad zu fahren, und es macht mir nichts aus, wenn jemand irgendwo in diesen Dingen besser ist als ich. In jedem Fall glaube ich, dass Sinn vor allem aus Beziehungen und Verbindungen entsteht, nicht aus wirtschaftlicher Arbeit. Die Menschen wollen das Gefühl haben, etwas erreicht zu haben, selbst wenn es ein Gefühl des Wettbewerbs ist, und in einer Welt nach der KI ist es durchaus möglich, Jahre damit zu verbringen, einige sehr schwierige Aufgaben mit komplexen Strategien zu bewältigen, ähnlich wie es Menschen heute tun, wenn sie ein Forschungsprojekt beginnen, versuchen, ein Hollywood-Schauspieler zu werden oder ein Unternehmen zu gründen [28]. Die Tatsache, dass (a) eine KI diese Aufgabe prinzipiell besser erledigen könnte und (b) dass diese Aufgabe in der Weltwirtschaft kein Element der wirtschaftlichen Rentabilität mehr ist, scheint mir keine Rolle zu spielen.
In der Tat scheint mir der wirtschaftliche Teil schwieriger zu sein als der sinnvolle Teil. Mit "wirtschaftlich" meine ich in diesem Abschnitt das mögliche Problem, dass die meisten oder alle Menschen nicht in der Lage sein könnten, in einer ausreichend fortgeschrittenen KI-gesteuerten Wirtschaft einen sinnvollen Beitrag zu leisten. Dies ist ein viel umfassenderes Problem als die separate Frage der Ungleichheit, insbesondere des ungleichen Zugangs zu neuen Technologien, die ich in Abschnitt 3 erörtere.
Erstens stimme ich zu, dass das Argument des komparativen Vorteils kurzfristig dazu führen wird, dass der Mensch weiterhin relevant bleibt und seine Produktivität tatsächlich steigt, so dass in gewisser Hinsicht sogar gleiche Wettbewerbsbedingungen herrschen. Solange die KI nur 90% besser in einem bestimmten Job ist, werden die anderen 10% dazu führen, dass der Mensch stark genutzt wird, die Entlohnung steigt und tatsächlich eine Menge neuer menschlicher Jobs geschaffen werden, die die Fähigkeiten der KI ergänzen und verstärken, so dass die "10%" expandieren können, um weiterhin fast jeden zu beschäftigen. Selbst wenn die KI 100% Dinge besser kann als der Mensch, gilt die Logik des komparativen Vorteils auch dann, wenn sie bei bestimmten Aufgaben ineffizient oder teuer bleibt oder wenn sich der Ressourceneinsatz für Mensch und KI erheblich unterscheidet. Ein Bereich, in dem der Mensch mit der Zeit einen relativen (oder sogar absoluten) Vorteil behalten kann, ist die physische Welt. Daher denke ich, dass die menschliche Wirtschaft auch dann noch von Bedeutung sein kann, wenn wir den "datenzentrierten Geniezustand" erreicht haben.
Ich glaube jedoch, dass die KI langfristig so effektiv und billig sein wird, dass dies nicht mehr gilt. Dann wird unser derzeitiges Wirtschaftssystem keinen Sinn mehr machen, und es wird ein breiter gesellschaftlicher Dialog darüber erforderlich sein, wie die Wirtschaft organisiert werden sollte.
Das mag verrückt klingen, aber Tatsache ist, dass die Zivilisation in der Vergangenheit große wirtschaftliche Umwälzungen erfolgreich bewältigt hat: von der Jäger- und Sammlertätigkeit zum Ackerbau, vom Ackerbau zum Feudalismus und vom Feudalismus zum Industrialismus. Ich vermute, dass etwas Neues und Fremdes notwendig sein wird, eine Vision, die heute niemand besonders gut kann. Es könnte so etwas wie ein großes universelles Grundeinkommen für alle sein, obwohl ich vermute, dass das nur ein kleiner Teil der Lösung ist. Es könnte eine kapitalistische Wirtschaft sein, die von einem KI-System betrieben wird, das dann den Menschen Ressourcen zuteilt (aufgrund dessen, was das KI-System für sinnvoll hält, um die Menschen zu belohnen), basierend auf dem Urteil des KI-Systems (das sich letztlich von menschlichen Werten ableitet), basierend auf einer Art sekundärer Wirtschaft. Vielleicht läuft die Wirtschaft über Whuffie-Punkte. Oder vielleicht sind Menschen immer noch wirtschaftlich wertvoll, auf eine Art und Weise, die in den üblichen Wirtschaftsmodellen nicht vorgesehen ist. Bei all diesen Lösungen gibt es eine große Anzahl möglicher Probleme, und es ist nicht klar, ob sie sinnvoll sind, wenn nicht viele Iterationen und Experimente durchgeführt werden. Wie bei einigen anderen Herausforderungen müssen wir auch hier möglicherweise kämpfen, um gute Ergebnisse zu erzielen: Ausbeuterische oder anti-utopische Richtungen sind ebenfalls möglich und müssen verhindert werden. Über diese Themen könnte noch mehr geschrieben werden, und ich hoffe, dies in Zukunft zu tun.
Zusammenfassungen
Mit den verschiedenen oben genannten Themen habe ich versucht, eine Vision von einer Welt zu zeichnen, die, wenn alles gut geht mit der KI, eine viel bessere Welt ist als die, die wir heute haben. Ich weiß nicht, ob diese Welt realistisch ist, und selbst wenn sie es ist, wird sie nicht ohne viel harte Arbeit und den Kampf vieler mutiger und engagierter Menschen verwirklicht werden. Jeder (auch die KI-Unternehmen!) ) muss seinen Beitrag leisten, sowohl um Risiken zu vermeiden als auch um die Vorteile voll auszuschöpfen.
Aber es ist eine Welt, für die es sich zu kämpfen lohnt. Wenn dies in fünf bis zehn Jahren geschieht - der Sieg über die meisten Krankheiten, die Zunahme der biologischen und kognitiven Freiheit, die Befreiung von Milliarden von Menschen aus der Armut, die gemeinsame Nutzung neuer Technologien, die Renaissance der liberalen Demokratie und der Menschenrechte -, dann bezweifle ich, dass jeder, der dies miterlebt, einen Einfluss darauf haben wird . Ich meine, die persönlichen Vorteile all dieser neuen Technologien mitzuerleben, das wäre sicherlich erstaunlich. Ich meine die Erfahrung, dass eine Reihe von Idealen, an denen wir so lange festgehalten haben, gleichzeitig für alle verwirklicht wird. Ich denke, dass viele davon zu Tränen gerührt sein werden.
Bei der Abfassung dieses Artikels ist mir eine interessante Spannung aufgefallen. Die hier vorgestellte Vision ist in gewisser Weise extrem radikal: Nicht jeder erwartet, dass sie im nächsten Jahrzehnt Wirklichkeit wird, und sie mag vielen als absurde Fantasie erscheinen. Einige mögen sie sogar als unerwünscht empfinden; sie verkörpert Werte und politische Entscheidungen, denen nicht jeder zustimmen wird. Aber gleichzeitig hat sie etwas sehr Offensichtliches - etwas Überdeterminiertes - an sich, so als ob viele verschiedene Versuche, sich eine gute Welt vorzustellen, unweigerlich hierher führten.
In Iain M. Banks' The Game Player [29], dem Protagonisten, bleibt es trotz alledem eine Sache von transzendenter Schönheit. Wir haben die Möglichkeit, einen kleinen Beitrag zu seiner Verwirklichung zu leisten. Dennoch bleibt es ein Ding von transzendenter Schönheit. Wir haben die Möglichkeit, einen kleinen Beitrag zu seiner Verwirklichung zu leisten. -Die Mitglieder einer Gesellschaft namens Kultur, deren Grundlagen mit dem übereinstimmen, was ich hier vorschlage, reisen in ein repressives, militaristisches Imperium, in dem die Führung durch einen komplexen Wettbewerb von Kampfspielen bestimmt wird. Das Spiel ist jedoch so komplex, dass die Strategien der Spieler ihre eigenen politischen und philosophischen Ansichten widerspiegeln. Die Tatsache, dass es dem Protagonisten gelingt, den Kaiser im Spiel zu besiegen, deutet darauf hin, dass seine Werte (die Werte der Kultur) selbst innerhalb der Regeln eines Spiels, das von einer Gesellschaft des rücksichtslosen Wettbewerbs und des Überlebens des Stärkeren entwickelt wurde, eine gewinnbringende Strategie darstellen.1 In einem bekannten Beitrag von Scott Alexander wird dasselbe Argument vorgebracht - dass Wettbewerb selbstzerstörerisch ist und tendenziell zu einer Gesellschaft führt, die auf Mitgefühl und Zusammenarbeit basiert. Der "Bogen des moralischen Universums" ist ein weiteres ähnliches Konzept.
Ich glaube, dass die Werte der Kultur eine erfolgreiche Strategie sind, weil sie die Summe von Millionen kleiner Entscheidungen sind, die eine klare moralische Kraft haben und dazu neigen, alle auf dieselbe Seite zu ziehen. Grundlegende menschliche Intuitionen wie Fairness, Kooperation, Neugier und Autonomie sind schwer zu widerlegen, und zwar in einer kumulativen Weise, wie es bei unseren eher destruktiven Impulsen nicht der Fall ist. Es ist leicht zu denken, dass Kinder nicht an Krankheiten sterben sollten, die wir verhindern können, und von daher ist es leicht zu denken, dass das Kind eines jeden Menschen dieses Recht verdient. Von da aus ist es leicht zu argumentieren, dass wir uns zusammenschließen und unseren Einfallsreichtum einsetzen sollten, um dieses Ziel zu erreichen. Nur wenige Menschen sind der Meinung, dass Menschen, die andere unnötig angreifen oder verletzen, bestraft werden sollten, und von daher ist es nicht schwer, sich vorzustellen, dass die Bestrafung konsequent und systematisch sein sollte. Ähnlich verhält es sich mit der Vorstellung, dass Menschen Autonomie und Verantwortung für ihr eigenes Leben und ihre Entscheidungen haben sollten. Diese einfachen Intuitionen führen, wenn sie zu ihren logischen Schlussfolgerungen gebracht werden, letztlich zu Rechtsstaatlichkeit, Demokratie und den Werten der Aufklärung. Wenn nicht unbedingt unvermeidlich, so ist dies zumindest ein statistischer Trend, auf den die Menschheit bereits zusteuert. ai bietet lediglich die Möglichkeit, uns schneller dorthin zu bringen - die Logik wird schärfer und das Ziel klarer.
Nichtsdestotrotz bleibt es ein Ding von transzendenter Schönheit. Wir haben die Möglichkeit, einen kleinen Beitrag zu seiner Verwirklichung zu leisten.
Vielen Dank an Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe und viele andere Mitarbeiter von Anthropic für die Durchsicht von Entwürfen dieses Artikels.
Dank des Chemie-Nobelpreisträgers von 2024, der uns den Weg gewiesen hat.
# Fußnote
01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
02. Ich gehe davon aus, dass einige Leute sagen werden: "Das ist zu fade". Ich denke, diese Leute sollten, um es mit den Worten von Twitter auszudrücken, "das Gras anfassen". Aber was noch wichtiger ist: Fadheit ist aus sozialer Sicht gut. Ich glaube, es gibt eine Grenze dafür, wie viel Veränderung die Menschen auf einmal verkraften können, und das Tempo, das ich beschreibe, ist wahrscheinlich nahe an der Grenze dessen, was die Gesellschaft ohne extreme Umwälzungen verkraften kann.
03. ich denke, dass AGI ein ungenauer Begriff ist, der eine Menge Science-Fiction-Beutel anhäuft
und Hype. Ich bevorzuge "leistungsstarke KI" oder "Expertenwissenschaft und -technik", die das, was ich meine, ohne den Hype erreichen.
04: In diesem Artikel verwende ich den Begriff "Intelligenz" für eine allgemeine Problemlösungsfähigkeit, die in verschiedenen Bereichen eingesetzt werden kann. Dazu gehören Fähigkeiten wie logisches Denken, Lernen, Planung und Kreativität. Obwohl ich den Begriff "Intelligenz" in diesem Artikel als Abkürzung verwende, ist mir bewusst, dass das Wesen der Intelligenz ein komplexes und kontroverses Thema in der Kognitionswissenschaft und der KI-Forschung ist. Einige Forscher vertreten die Auffassung, dass Intelligenz kein einheitliches Konzept ist, sondern vielmehr eine Reihe unabhängiger kognitiver Fähigkeiten. Andere glauben, dass es einen allgemeinen Intelligenzfaktor (den g-Faktor) gibt, der den verschiedenen kognitiven Fähigkeiten zugrunde liegt. Das ist eine Debatte für ein anderes Mal.
Das ist in etwa die Geschwindigkeit heutiger KI-Systeme - sie können z. B. eine Seite Text in wenigen Sekunden lesen und vielleicht eine Seite Text in 20 Sekunden schreiben, also 10-100 mal schneller als ein Mensch dies tun kann. Mit der Zeit wird dies durch größere Modelle langsamer, aber durch leistungsfähigere Chips schneller; bisher haben sich die beiden Effekte in etwa ausgeglichen.
06: Das mag wie ein Strohmann erscheinen, aber umsichtige Denker wie Tyler Cowen und Matt Yglesias haben es als ernsthaftes Problem angesprochen (obwohl ich nicht glaube, dass sie es vollständig vertreten), und ich halte es nicht für verrückt.
07: Die einzige mir bekannte wirtschaftswissenschaftliche Arbeit, die sich mit diesem Thema befasst, ist die Arbeit über "Allzwecktechnologien" und "immaterielle Investitionen", die die Allzwecktechnologien ergänzen.
08: Ein solches Lernen könnte ad hoc, kontextbezogenes Lernen oder traditionelles Training umfassen; beide wären durch die physische Welt begrenzt.
In chaotischen Systemen summieren sich kleine Fehler im Laufe der Zeit exponentiell, so dass eine große Steigerung der Rechenleistung zwar nur zu einer geringen Steigerung der Vorhersagekraft führen würde, Messfehler diese aber noch weiter verringern können.
10. der andere Faktor ist natürlich, dass leistungsstarke KI selbst dazu genutzt werden kann, eine noch leistungsfähigere KI zu schaffen. meine Hypothese ist, dass dies geschehen kann (und wahrscheinlich sogar wird), aber die Auswirkungen werden geringer sein als Sie denken, und zwar genau wegen der hier diskutierten "abnehmenden Grenzerträge der Intelligenz". Mit anderen Worten: Die KI wird weiterhin sehr schnell intelligenter werden, aber ihre Auswirkungen werden letztendlich durch nicht-intelligente Faktoren begrenzt, und die Analyse dieser Faktoren ist entscheidend für die Geschwindigkeit des wissenschaftlichen Fortschritts über die KI hinaus.
Diese Errungenschaften sind eine Inspiration für mich und vielleicht das beste Beispiel dafür, wie KI die Biologie verändern kann.
12. "Der wissenschaftliche Fortschritt hängt von neuen Technologien, neuen Entdeckungen und neuen Ideen ab, wahrscheinlich in dieser Reihenfolge." - Sydney Brenner
13: Dank an Parag Mallick für den Hinweis auf diesen Punkt.
Ich möchte den Text nicht mit Spekulationen darüber füllen, welche besonderen Entdeckungen die KI-gestützte Wissenschaft in Zukunft machen könnte, aber hier ist ein Brainstorming einiger Möglichkeiten: - Entwicklung besserer Berechnungswerkzeuge wie AlphaFold und AlphaProteo - d.h. ein allgemeines KI-System, das unsere Fähigkeit beschleunigt, spezialisierte KI-Werkzeuge für die Computerbiologie herzustellen. - Effizienteres und selektiveres CRISPR. - Effizienteres und selektiveres CRISPR - Fortschrittlichere Zelltherapien. - Durchbrüche in der Materialwissenschaft und Miniaturisierung, die zu besseren implantierbaren Geräten führen. - Bessere Kontrolle von Stammzellen, Zelldifferenzierung und -entdifferenzierung und die daraus resultierende Fähigkeit, Gewebe nachwachsen zu lassen oder umzugestalten. - Bessere Kontrolle des Immunsystems: selektives Einschalten zur Bekämpfung von Krebs und Infektionskrankheiten und selektives Ausschalten zur Bekämpfung von Autoimmunkrankheiten.
15 Natürlich kann KI auch dabei helfen, klügere Entscheidungen über die durchzuführenden Experimente zu treffen: die Versuchsplanung zu verbessern, mehr aus der ersten Versuchsrunde zu lernen, damit in der zweiten Runde die Schlüsselfragen eingegrenzt werden können, und so weiter.
16 Dank an Matthew Yglesias für den Hinweis auf diesen Punkt.
17. sich schnell entwickelnde Krankheiten wie multiresistente Stämme, die Krankenhäuser im Wesentlichen als Evolutionslabors nutzen, um ihre Behandlungsresistenz kontinuierlich zu verbessern, können besonders schwer zu bewältigen sein und könnten uns daran hindern, 100% zu erreichen.
18. zu beachten, dass es schwierig sein dürfte, zu wissen, ob wir die menschliche Lebenserwartung in 5-10 Jahren verdoppelt haben. Möglicherweise haben wir es erreicht, aber wir können es innerhalb des Zeitrahmens der Studie nicht wissen.
Ungeachtet der offensichtlichen biologischen Unterschiede bei der Behandlung von Krankheiten und der Verlangsamung des Alterungsprozesses selbst, möchte ich mit Blick auf die statistischen Trends aus größerer Entfernung sagen: "Auch wenn die Details unterschiedlich sind, denke ich, dass die Humanwissenschaften diesen Trend fortsetzen werden; schließlich setzen sich glatte Trends in komplexen Dingen zwangsläufig aus sehr heterogenen Komponenten zusammen".
Mir wurde beispielsweise gesagt, dass eine Steigerung des Produktivitätswachstums um 11 TP3T oder sogar 0,51 TP3T pro Jahr eine transformative Wirkung auf die mit diesen Programmen verbundenen Projektionen haben würde. Wenn die in diesem Papier erwogenen Ideen verwirklicht würden, könnte das Produktivitätswachstum noch viel höher ausfallen.
21 Die Medien stellen gerne Psychopathen mit hohem Status dar, aber der durchschnittliche Psychopath kann eine Person mit schlechten finanziellen Aussichten und schlechter Impulskontrolle sein, die viel Zeit im Gefängnis verbringt.
22 Ich denke, dies ist in gewisser Weise vergleichbar mit der Tatsache, dass viele der Ergebnisse, die wir aus der Interpretierbarkeit gelernt haben, auch dann noch relevant sein werden, wenn einige der architektonischen Details unserer derzeitigen künstlichen neuronalen Netze, wie z. B. der Aufmerksamkeitsmechanismus, geändert oder ersetzt werden.
23 Ich vermute, dass dies ein bisschen wie ein klassisches chaotisches System ist - geplagt von irreduzibler Komplexität, die weitgehend dezentral verwaltet werden muss. Obwohl, wie ich in einem späteren Abschnitt darlege, auch bescheidenere Eingriffe möglich sein könnten. Ein Gegenargument, das mir der Wirtschaftswissenschaftler Erik Brynjolfsson vorgebracht hat, ist, dass große Unternehmen (z. B. Wal-Mart oder YouTuber) allmählich über genügend zentralisiertes Wissen verfügen, um die Verbraucher besser zu verstehen als jeder dezentrale Prozess, was uns vielleicht dazu zwingt, Hayeks Erkenntnisse darüber zu revidieren, wer über das beste lokale Wissen verfügt.
24: Dank an Kevin Esvelt für den Hinweis auf diesen Punkt.
25 Ein Beispiel: Mobiltelefone waren zunächst eine Technologie für Reiche, wurden aber bald sehr billig, und die Verbesserungen von Jahr zu Jahr erfolgten so schnell, dass der Vorteil des Kaufs eines "Luxus"-Mobiltelefons nicht mehr bestand, und heute besitzen die meisten Menschen Mobiltelefone ähnlicher Qualität.
26 Dies ist der Titel des in Kürze erscheinenden RAND-Papiers, in dem die von mir beschriebene Strategie grob umrissen wird.
27 Wenn normale Menschen an öffentliche Einrichtungen denken, denken sie vielleicht an ihre Erfahrungen mit dem Straßenverkehrsamt, dem Finanzamt, Medicare oder ähnlichen Einrichtungen. Diese Erfahrungen positiver zu gestalten, als sie jetzt sind, scheint ein wirksames Mittel gegen übermäßigen Zynismus zu sein.
28 In einer KI-gesteuerten Welt wird der Umfang dieser möglichen Herausforderungen und Projekte in der Tat viel größer sein als heute.
29 Ich habe meine eigene Regel gebrochen, es nicht zu Science Fiction zu machen, aber ich finde es schwierig, es wenigstens zu erwähnen. Die Wahrheit ist, dass Science-Fiction eine der einzigen Quellen ist, die wir für weitreichende Gedankenexperimente über die Zukunft haben; ich denke, es ist schlecht, dass sie so mit einer sehr engen Subkultur verwoben ist.
Deutsch (Sie) 
简体中文 
English 
日本語 
Português do Brasil