Der CEO von OpenAI blickt auf die AGI-Wirtschaft voraus: Drei Beobachtungen, die einen disruptiven Wandel im nächsten Jahrzehnt erkennen lassen

Von Sam Altman, Geschäftsführender Direktor, OpenAI

OpenAI hat es sich zur Aufgabe gemacht, dafür zu sorgen, dass verallgemeinerte künstliche Intelligenz (AGI) der gesamten Menschheit zugute kommt.

OpenAI ist der Ansicht, dass Systeme, die auf AGI hindeuten, im Entstehen begriffen sind, so dass es entscheidend ist, den Moment zu verstehen, in dem wir uns befinden.AGI ist ein Begriff, der слабо definiert, aber im Allgemeinen betrachtet OpenAI AGI als ein System, das in der Lage ist, mit zunehmender Komplexität in mehreren Bereichen auf dem Niveau eines Menschen umzugehen.

Kommentare: Die Tatsache, dass die Definition von AGI vage bleibt, spiegelt die Aktualität und die Ungewissheit der aktuellen KI-Entwicklungen wider; OpenAIs Eingeständnis der vagen Definition deutet auch darauf hin, dass sich das Konzept der AGI noch weiterentwickelt.

Der Mensch ist ein Werkzeugbauer mit einem angeborenen Drang zum Verstehen und Schaffen, der die Welt für uns alle besser macht. Jede Generation hat auf den Entdeckungen ihrer Vorgänger aufgebaut, um noch leistungsfähigere Werkzeuge zu schaffen - Elektrizität, Transistoren, Computer, das Internet und bald auch die künstliche Intelligenz.

Im Laufe der Zeit hat der stetige Fortschritt der menschlichen Innovation zeitweise zu beispiellosem Wohlstand und Verbesserungen in fast allen Lebensbereichen geführt.

In gewissem Sinne ist die AGI nur ein weiteres Werkzeug in dem immer höheren Gerüst des Fortschritts, das die Menschheit gemeinsam errichtet. In einem anderen Sinn ist AGI ein Anfang, und es fällt schwer, nicht zu sagen: "Diesmal ist es anders"; das Wirtschaftswachstum, das vor uns liegt, sieht atemberaubend aus, und wir können uns jetzt eine Welt vorstellen, in der wir alle Krankheiten heilen, mehr Zeit mit unseren Familien verbringen und unser kreatives Potenzial voll ausschöpfen können. Potenzial.

Kommentare: Sam Altman zeichnet ein optimistisches Bild der Zukunft, die von der AGI angetrieben wird, einschließlich medizinischer Durchbrüche und Produktivitätssteigerungen. Diese rosige Vision steht jedoch im Gegensatz zu den potenziellen Risiken und ethischen Herausforderungen, die AGI mit sich bringen können, wie etwa die Verdrängung von Arbeitsplätzen und die Konzentration von Macht.

Vielleicht ist in zehn Jahren jeder Mensch auf der Welt in der Lage, mehr zu erreichen als die einflussreichsten Menschen von heute.

OpenAI verzeichnet weiterhin rasche Fortschritte in der KI-Entwicklung. Hier sind drei Beobachtungen über die Wirtschaft der KI:

1. Die Intelligenz eines KI-Modells entspricht in etwa dem Logarithmus des Ressourcenaufwands, der zum Trainieren und Ausführen des Modells verwendet wird. Bei diesen Ressourcen handelt es sich in erster Linie um Trainingsberechnungen, Daten und Inferenzberechnungen. Es sieht so aus, als könne man jeden beliebigen Geldbetrag ausgeben und konsistente und vorhersehbare Erträge erzielen; die Skalierungsgesetze, die dies vorhersagen, sind über mehrere Größenordnungen hinweg genau.
2. Die Kosten für die Nutzung eines bestimmten Niveaus von KI sinken etwa alle 12 Monate um den Faktor 10, und niedrigere Preise führen zu mehr Nutzung. Sie können Ihr GPT-4 zu Beginn des Jahres 2023 beginnen. Token Dies zeigt sich an den Kosten des GPT-4o-Tokens Mitte 2024, wobei der Preis jedes Tokens um das 150-fache fällt. Das Mooresche Gesetz hat die Welt mit einer Rate von 2x alle 18 Monate verändert; dies ist unglaublich viel stärker als das Mooresche Gesetz.
3. Der sozioökonomische Wert eines intelligenten linearen Wachstums ist von Natur aus super-exponentiell. Ein Ergebnis davon ist, dass OpenAI keinen Grund sieht, die exponentiell wachsenden Investitionen in naher Zukunft zu stoppen.

Kommentare: Diese drei Beobachtungen machen die wichtigsten wirtschaftlichen Triebkräfte der KI-Entwicklung deutlich: die positive Korrelation zwischen rechnerischen Investitionen und der Steigerung der Intelligenz, die Allgegenwärtigkeit aufgrund der rasch sinkenden Kosten und die enormen sozioökonomischen Vorteile der Steigerung der Intelligenz. Die Nachhaltigkeit dieses exponentiellen Wachstums und die Auswirkungen auf die ökologischen und sozialen Ressourcen verdienen jedoch eine genauere Betrachtung.

Wenn sich diese drei Beobachtungen weiterhin bewahrheiten, werden die Auswirkungen auf die Gesellschaft enorm sein.

OpenAI beginnt jetzt mit der Einführung eines KI-Agenten, der sich wie ein virtueller Kollege anfühlen wird.

Stellen wir uns den Fall eines Software-Engineering-Agenten vor, von dem OpenAI erwartet, dass er besonders wichtig ist. Stellen Sie sich vor, dass ein solcher Agent schließlich in der Lage wäre, den Großteil der Arbeit zu erledigen, die ein Software-Ingenieur mit ein paar Jahren Erfahrung in einem Spitzenunternehmen erledigen könnte, wobei die Aufgaben höchstens ein paar Tage dauern. Er wird nicht die tollsten neuen Ideen haben, er wird eine Menge menschlicher Aufsicht und Anleitung benötigen, und er wird in einigen Dingen sehr gut, in anderen aber überraschend schlecht sein.

Stellen Sie sich jedoch vor, dass es sich um einen realen, aber relativ einfachen virtuellen Kollegen handelt. Stellen Sie sich nun 1.000 solcher Agenten vor, oder eine Million. Nun stellen Sie sich einen solchen Agenten für jeden Wissensarbeitsbereich vor.

Kommentare: Das Aufkommen des KI-Agenten kündigt einen tiefgreifenden Wandel der Arbeitsmuster an, und Sam Altman hebt sein Potenzial als "virtueller Kollege" hervor, insbesondere in wissensintensiven Bereichen wie der Softwareentwicklung. Es bleibt jedoch abzuwarten, wo die Grenzen von KI-Agenten in Bezug auf Kreativität, komplexe Problemlösung und menschliche Interaktion liegen und welche Auswirkungen sie auf bestehende Arbeitsplätze haben können.

In gewisser Weise könnte die KI in wirtschaftlicher Hinsicht wie Transistoren sein - eine große wissenschaftliche Entdeckung, die sich gut skalieren lässt und in fast jeden Winkel der Wirtschaft vordringt. Wir denken nicht viel über Transistoren oder Transistorunternehmen nach; die Vorteile sind sehr weit verbreitet. Aber wir wollen, dass unsere Computer, Fernseher, Autos, Spielzeuge usw. Wunder bewirken.

Die Welt wird sich nicht auf einmal verändern; das hat sie noch nie. Kurzfristig wird das Leben weitgehend normal weitergehen, und die Menschen im Jahr 2025 werden ihre Zeit im Wesentlichen auf dieselbe Weise verbringen wie im Jahr 2024. Wir werden uns immer noch verlieben, Familien gründen, uns online streiten, in der Natur wandern und so weiter.

Aber die Zukunft wird auf eine Art und Weise auf uns zukommen, die nicht ignoriert werden kann, und die langfristigen Veränderungen für unsere Gesellschaften und Volkswirtschaften werden enorm sein. Wir werden neue Dinge tun, neue Wege finden, um einander nützlich zu sein, und neue Wege finden, um zu konkurrieren, aber sie werden sich sehr von dem unterscheiden, was wir heute tun.

Motivation, Willenskraft und Entschlossenheit können von unschätzbarem Wert sein. Die richtigen Entscheidungen zu treffen und herauszufinden, wie man sich in einer sich ständig verändernden Welt zurechtfindet, wird von unschätzbarem Wert sein. Widerstandsfähigkeit und Anpassungsfähigkeit werden Fähigkeiten sein, die zur Entwicklung beitragen. AGI wird der größte Hebel für die menschliche Willenskraft aller Zeiten sein und dem Einzelnen mehr Einfluss als je zuvor geben, nicht weniger.

OpenAI erwartet, dass die Auswirkungen der AGI uneinheitlich sein werden. Während sich in einigen Branchen kaum etwas ändern wird, könnten die wissenschaftlichen Fortschritte viel schneller sein als heute; diese Auswirkungen der AGI könnten alles andere überwiegen.

Die Preise vieler Güter werden irgendwann drastisch sinken (derzeit begrenzen die Kosten für Intelligenz und Energie viele Dinge), während die Preise für Luxusgüter und einige von Natur aus knappe Ressourcen (wie Land) wahrscheinlich noch stärker steigen werden.

Technisch gesehen scheint der Weg für OpenAI ziemlich klar zu sein. Aber die öffentliche Politik und die kollektive Meinung darüber, wie wir AGI in die Gesellschaft integrieren sollten, sind wichtig. Einer der Gründe, warum OpenAI früh und oft veröffentlicht wird, ist, der Gesellschaft und der Technologie Zeit zu geben, sich gemeinsam zu entwickeln.

Kommentare: OpenAI betont die Gleichzeitigkeit von technologischer Entwicklung und gesellschaftlicher Anpassung. Produkte so früh wie möglich auf den Markt zu bringen, um der Gesellschaft Zeit zu geben, sich anzupassen und die Richtung der AGI zu bestimmen, ist eine positive Strategie. Die Frage, wie in diesem Prozess der "Ko-Evolution" ein Gleichgewicht zwischen Innovationsgeschwindigkeit, ethischen Erwägungen und sozialer Gerechtigkeit hergestellt werden kann, bleibt jedoch komplex.

KI wird alle Bereiche der Wirtschaft und Gesellschaft durchdringen; wir werden erwarten, dass alles intelligent ist. Viele bei OpenAI gehen davon aus, dass den Menschen mehr Kontrolle über die Technologie als je zuvor gegeben werden muss, einschließlich mehr Open Source, und akzeptieren, dass ein Gleichgewicht zwischen Sicherheit und persönlicher Befähigung gefunden werden muss.

OpenAI möchte zwar niemals leichtsinnig sein, und es könnte einige wichtige Entscheidungen und Einschränkungen im Zusammenhang mit der Sicherheit von AGI geben, die nicht erwünscht wären, aber in der Richtung sieht OpenAI eine starke Präferenz für mehr individuelle Befähigung, wenn OpenAI der Verwirklichung von AGI näher kommt; ein anderer möglicher Weg, den OpenAI sehen könnte, ist, dass AI von autoritären Regierungen genutzt wird, um ihre Bevölkerung durch Massenüberwachung und Verlust der Autonomie zu kontrollieren.

Es ist von entscheidender Bedeutung, dass die Vorteile der AGI breit gestreut werden. Die historischen Auswirkungen des technologischen Fortschritts deuten darauf hin, dass die große Mehrheit der Indikatoren, die uns wichtig sind (Gesundheitsergebnisse, wirtschaftlicher Wohlstand usw.), im Durchschnitt und langfristig besser werden, aber die Verbesserung der Gleichheit scheint nicht von der Technologie bestimmt zu werden, und um das richtig zu machen, ist möglicherweise ein neues Denken erforderlich.

Kommentare: Sam Altman äußerte sich besorgt über potenziell negative Szenarien für AGI, wie etwa autoritäre Regierungen, die KI zur sozialen Kontrolle einsetzen. Gleichzeitig betonte er, wie wichtig es sei, ein Gleichgewicht zwischen Sicherheit und individueller Befähigung zu finden und sicherzustellen, dass AGI allen zugute komme. Dieses Bewusstsein für das zweischneidige Schwert der Technologie ist lobenswert.

Insbesondere das Machtgleichgewicht zwischen Kapital und Arbeit scheint leicht gestört zu werden, was ein frühzeitiges Eingreifen erforderlich machen könnte. OpenAI ist offen für einige seltsam klingende Ideen, wie z.B. die Bereitstellung eines "Rechenbudgets", damit jeder auf dem Planeten eine Menge KI nutzen kann, aber OpenAI sieht auch viele Möglichkeiten, den gewünschten Effekt zu erzielen, indem einfach die Kosten für Intelligenz rücksichtslos gesenkt werden.

Jeder Mensch im Jahr 2035 sollte in der Lage sein, das Äquivalent der intellektuellen Kapazität eines jeden Menschen im Jahr 2025 zu mobilisieren; jeder sollte das Recht auf unbegrenzte Talente und darauf haben, in jeder erdenklichen Weise geführt zu werden. Der kreative Output einer Welt, in der viele Talente nicht die Mittel haben, sich voll zu entfalten, wäre ein enormer Gewinn für uns alle, wenn wir diese Situation ändern würden.

Besonderen Dank an Josh Achiam, Boaz Barak und Aleksander Madry für die Durchsicht der Entwürfe.

*OpenAI beabsichtigt nicht, die Definitionen und Prozesse, die die Beziehung zwischen OpenAI und Microsoft definieren, zu ändern oder zu interpretieren. OpenAI hat die feste Absicht, langfristig mit Microsoft zusammenzuarbeiten. Diese Fußnote mag albern erscheinen, aber andererseits weiß OpenAI, dass einige Journalisten versuchen werden, Klicks zu bekommen, indem sie dumme Dinge schreiben, so dass OpenAI hier vorsorglich von solchen Albernheiten abrät ......

Kommentare: In einer Fußnote am Ende des Artikels hebt OpenAI seine langjährige Beziehung zu Microsoft hervor und weist mögliche "Hype"-Interpretationen vorsorglich zurück, was die vorsichtige Herangehensweise von OpenAI an Technologieentwicklung und Geschäftspartnerschaften widerspiegelt.