El CEO de OpenAI mira hacia la Economía de la AGI: tres observaciones que revelan un cambio disruptivo en la próxima década

Por Sam Altman, Consejero Delegado de OpenAI

La misión de OpenAI es garantizar que la inteligencia artificial generalizada (AGI) beneficie a toda la humanidad.

OpenAI cree que están surgiendo sistemas que apuntan a la AGI, por lo que es fundamental entender el momento en el que nos encontramos.AGI es un término que define слабо, pero en general, OpenAI considera AGI a un sistema que es capaz de hacer frente a la creciente complejidad en múltiples dominios hasta el nivel de un ser humano.

Observaciones: El hecho de que la definición de AGI siga siendo vaga refleja la vanguardia y la incertidumbre de los actuales avances en IA. El reconocimiento por parte de OpenAI de la vaguedad de su definición también sugiere que el concepto de AGI sigue evolucionando.

Los humanos somos constructores de herramientas, con un impulso innato por comprender y crear, lo que hace del mundo un lugar mejor para todos nosotros. Cada generación se ha apoyado en los descubrimientos de sus predecesoras para crear herramientas más potentes: la electricidad, los transistores, los ordenadores, Internet y, pronto, la inteligencia artificial.

A lo largo del tiempo, la constante marcha de la innovación humana ha traído intermitentemente una prosperidad y una mejora sin precedentes a casi todos los aspectos de la vida de las personas.

En cierto sentido, la AGI es sólo una herramienta más en el andamiaje cada vez más alto del progreso que la humanidad está construyendo conjuntamente. En otro sentido, la AGI es un comienzo, y es difícil no decir "esta vez es diferente"; el crecimiento económico que nos espera parece asombroso, y ahora podemos imaginar un mundo en el que podamos curar todas las enfermedades, tener más tiempo para estar con nuestras familias y desarrollar todo el potencial de nuestra creatividad. potencial.

Observaciones: Sam Altman describe un futuro optimista impulsado por la AGI, que incluye avances médicos y aumentos de productividad. Sin embargo, esta visión de color de rosa contrasta con los riesgos potenciales y los desafíos éticos que la AGI puede acarrear, como el desplazamiento de puestos de trabajo y la concentración de poder.

Quizá dentro de diez años, cada persona del planeta sea capaz de lograr más de lo que hoy pueden las personas más influyentes.

OpenAI sigue avanzando rápidamente en el desarrollo de la IA. He aquí tres observaciones sobre la economía de la IA:

1. El nivel de inteligencia de un modelo de IA es aproximadamente igual al logaritmo de la cantidad de recursos utilizados para entrenarlo y ejecutarlo. Estos recursos son principalmente cálculos de formación, datos y cálculos de inferencia. Parece que se puede gastar cualquier cantidad de dinero y obtener rendimientos constantes y predecibles; las leyes de escala que predicen esto son precisas en múltiples órdenes de magnitud.
2. El coste de utilizar un determinado nivel de IA se multiplica por 10 aproximadamente cada 12 meses, y los precios más bajos conducen a un mayor uso. Puede empezar su GPT-4 a principios de 2023. Ficha Esto se ve en el coste del Token de GPT-4o a mediados de 2024, tiempo durante el cual el precio de cada Token cae unas 150x. La Ley de Moore ha cambiado el mundo a un ritmo de 2x cada 18 meses; esto es increíblemente más potente que la Ley de Moore.
3. El valor socioeconómico del crecimiento lineal inteligente es inherentemente superexponencial. Uno de los resultados de esto es que OpenAI no ve ninguna razón para que las inversiones en crecimiento exponencial se detengan en un futuro próximo.

Observaciones: Estas tres observaciones revelan los principales motores económicos del desarrollo de la IA: la correlación positiva entre la inversión aritmética y la mejora de la inteligencia, la ubicuidad provocada por el rápido descenso de los costes y las enormes recompensas socioeconómicas de la mejora de la inteligencia. Sin embargo, la sostenibilidad de este crecimiento exponencial y el impacto sobre los recursos medioambientales y sociales merecen una reflexión más profunda.

Si estas tres observaciones siguen siendo ciertas, el impacto en la sociedad será enorme.

OpenAI está empezando a desplegar un agente de IA, que con el tiempo se sentirá como un colega virtual.

Imaginemos el caso de un agente de ingeniería de software, que OpenAI espera que sea especialmente importante. Imaginemos que un agente de este tipo acabara siendo capaz de hacer la mayor parte del trabajo que podría hacer un ingeniero de software con unos cuantos años de experiencia en una empresa puntera, con tareas que duren como mucho unos pocos días. No tendrá las mejores ideas nuevas, necesitará mucha supervisión y orientación humana y será muy bueno en algunas cosas, pero sorprendentemente malo en otras.

No obstante, piense que se trata de un colega virtual real pero relativamente elemental. Ahora imagine 1.000 agentes de este tipo, o un millón. Ahora imagine un agente de este tipo para cada área de trabajo del conocimiento.

Observaciones: La aparición del agente de IA anuncia un profundo cambio en los modelos de trabajo, y Sam Altman destaca su potencial como "colega virtual", sobre todo en campos intensivos en conocimiento como la ingeniería de software. Sin embargo, queda por ver cuáles son las limitaciones de los agentes de IA en términos de creatividad, resolución de problemas complejos e interacciones interpersonales, así como su posible impacto en los puestos de trabajo existentes.

En cierto modo, la IA podría acabar siendo económicamente como los transistores: un descubrimiento científico masivo que escala bien y penetra en casi todos los rincones de la economía. No pensamos mucho en los transistores ni en las empresas de transistores; los beneficios están muy repartidos. Pero sí queremos que nuestros ordenadores, televisores, coches, juguetes, etc. funcionen a las mil maravillas.

El mundo no va a cambiar de golpe; nunca lo ha hecho. A corto plazo, la vida seguirá como siempre, y la gente en 2025 pasará su tiempo de la misma manera que en 2024. Seguiremos enamorándonos, formando familias, discutiendo por Internet, yendo de excursión por la naturaleza, etc.

Pero el futuro nos llegará de una forma que no podemos ignorar, y los cambios a largo plazo en nuestras sociedades y economías serán enormes. Encontraremos nuevas cosas que hacer, nuevas formas de ser útiles los unos a los otros y nuevas maneras de competir, pero pueden ser muy diferentes de lo que hacemos hoy.

La motivación, la fuerza de voluntad y la determinación pueden tener un valor incalculable. Tomar las decisiones correctas sobre qué hacer y averiguar cómo navegar por un mundo en constante cambio será de inmenso valor. La resiliencia y la adaptabilidad serán habilidades que ayudarán a desarrollar. La inteligencia artificial será la mayor palanca para la fuerza de voluntad humana y dará a los individuos más influencia que nunca, no menos.

OpenAI espera que el impacto de la AGI sea desigual. Mientras que algunas industrias apenas experimentarán cambios, los avances científicos podrían ser mucho más rápidos que en la actualidad; este impacto de la AGI podría superar a todo lo demás.

Los precios de muchos bienes acabarán bajando drásticamente (de momento, los costes inteligentes y los costes energéticos limitan muchas cosas), mientras que los precios de los bienes de lujo y de algunos recursos intrínsecamente escasos (como la tierra) es probable que suban aún más bruscamente.

Técnicamente, el camino de OpenAI parece bastante claro. Pero la política pública y la opinión colectiva sobre cómo debemos integrar la AGI en la sociedad son importantes; una de las razones por las que OpenAI sale a la luz pronto y con frecuencia es dar tiempo a la sociedad y a la tecnología para que evolucionen juntas.

Observaciones: OpenAI hace hincapié en la sincronía del desarrollo tecnológico y la adaptación social. Lanzar productos lo antes posible para dar tiempo a la sociedad a adaptarse y dar forma a la dirección de la AGI es una estrategia positiva. Sin embargo, cómo equilibrar la velocidad de la innovación, las consideraciones éticas y la equidad social en este proceso de "coevolución" sigue siendo una cuestión compleja.

La inteligencia artificial impregnará todos los ámbitos de la economía y la sociedad; esperaremos que todo sea inteligente. Muchos miembros de OpenAI creen que habrá que dar a la gente más control que nunca sobre la tecnología, incluido más código abierto, y aceptan que hay que encontrar un equilibrio entre seguridad y capacitación personal.

Aunque OpenAI nunca quiere ser imprudente, y puede haber algunas decisiones importantes y limitaciones relacionadas con la seguridad de la AGI que no serían bienvenidas, direccionalmente, OpenAI ve una fuerte preferencia por una mayor autonomía individual a medida que OpenAI se acerca a la consecución de la AGI; otro posible camino que OpenAI podría ver es la IA siendo utilizada por gobiernos autoritarios para controlar a sus poblaciones a través de la vigilancia masiva y la pérdida de autonomía. que la IA sea utilizada por gobiernos autoritarios para controlar a sus poblaciones a través de la vigilancia masiva y la pérdida de autonomía.

Es fundamental garantizar que los beneficios de la AGI se distribuyan ampliamente. El impacto histórico de los avances tecnológicos sugiere que la gran mayoría de los indicadores que nos preocupan (resultados sanitarios, prosperidad económica, etc.) mejoran de media y a largo plazo, pero la mejora de la igualdad no parece estar determinada por la tecnología, y hacerlo bien puede requerir una nueva forma de pensar.

Observaciones: Sam Altman expresó su preocupación por los posibles escenarios negativos de la inteligencia artificial, como gobiernos autoritarios que la utilicen para el control social. Al mismo tiempo, subrayó la importancia de encontrar un equilibrio entre seguridad y capacitación individual, y la necesidad de garantizar que la inteligencia artificial beneficie a todos. Esta conciencia del doble filo de la tecnología es encomiable.

En particular, el equilibrio de poder entre capital y trabajo parece joderse con facilidad, lo que puede requerir una intervención temprana. OpenAI está abierta a algunas ideas que suenan extrañas, como dar cierto "presupuesto informático" para que todos los habitantes del planeta puedan usar mucha IA, pero OpenAI también ve muchas formas de lograr el efecto deseado simplemente bajando sin piedad el coste de la inteligencia.

Cualquier persona en 2035 debería ser capaz de movilizar el equivalente de la capacidad intelectual de cualquier persona en 2025; todo el mundo debería tener derecho a un talento ilimitado y a ser guiado de cualquier forma que pueda imaginar. La producción creativa resultante de un mundo en el que gran parte del talento carece de los recursos necesarios para expresarse plenamente sería un enorme beneficio para todos nosotros si cambiáramos esa situación.

Agradecimientos especiales a Josh Achiam, Boaz Barak y Aleksander Madry por revisar los borradores.

*El uso de la terminología AGI en el presente documento tiene la intención por parte de OpenAI de comunicar claramente y OpenAI no tiene intención de cambiar o interpretar las definiciones y procesos que definen la relación de OpenAI con Microsoft. OpenAI tiene toda la intención de trabajar con Microsoft a largo plazo. Esta nota a pie de página puede parecer una tontería, pero por otro lado, OpenAI sabe que algunos periodistas intentarán conseguir clics escribiendo tonterías, por lo que OpenAI está desalentando preventivamente esas tonterías aquí .......

Observaciones: En una nota a pie de página al final del artículo, OpenAI subraya su larga relación con Microsoft y refuta preventivamente las posibles interpretaciones de "bombo y platillo", lo que refleja el enfoque cauteloso de OpenAI respecto al desarrollo tecnológico y las asociaciones empresariales.