¡El último artículo de 10.000 palabras de Claude CEO es más racional y práctico que Sam Altman!
Antrópico En sus últimos artículos, Dario Amodei, Consejero Delegado, y Sam Altman, Consejero Delegado de OpenAI, muestran los diferentes enfoques de sus empresas sobre la dirección de la IA. Dario Amodei hace hincapié en la interpretabilidad y la seguridad de los modelos de IA como claves para garantizar sistemas de IA fiables y controlables, mientras que Sam Altman se centra en la comercialización de la IA y los avances tecnológicos, haciendo hincapié en la promoción de las capacidades de IA a través de la computación a gran escala y basada en datos. Existen diferencias entre ambos en cuanto a los objetivos a largo plazo del desarrollo de la IA: Dario Amodei se centra más en el impacto a largo plazo de la IA en la sociedad humana y en la seguridad, mientras que Sam Altman se inclina más por el valor comercial de la IA y el cambio social a través del progreso tecnológico.
Darío Amodei es doctor en neurociencia por Stanford, y en su último artículo, Machines of Loving Grace, describe el impacto positivo de la futura inteligencia artificial fuerte (prefiere no llamarla AGI) en los humanos, con procesos de razonamiento rigurosos y detallados en cada área, ¡mucho más racionales, objetivos y relevantes que Sam Altman!
Este artículo de 10.000 palabras merece la pena ser leído por todos los que se preocupan por la IA.
Debido a su extensión, he resumido las partes fundamentales del artículo. Aun así, le recomiendo que lea el artículo original, al que sigue una traducción del texto original.
Argumento central: Amodei cree que la IA fuerte (evita utilizar el término AGI) tiene el potencial de mejorar radicalmente la vida humana, a pesar de los riesgos. Predice que en los 5-10 años siguientes a la aparición de la IA fuerte, seremos testigos de grandes avances en los campos de la biología, la neurociencia, el desarrollo económico, la gobernanza pacífica y el trabajo y el significado.
Componente clave:
Se subestima el potencial de una IA fuerte: Amodei sostiene que la mayoría de la gente subestima los beneficios potenciales de una IA fuerte, del mismo modo que subestima sus riesgos. Sostiene que la IA fuerte conducirá a un futuro fundamentalmente positivo, y que el riesgo es el único obstáculo para alcanzar ese futuro". Creo que la mayoría de la gente subestima los beneficios potenciales de una IA fuerte, tanto como subestima sus riesgos".
Definiciones y marcos para una IA fuerte:Amodei define la IA fuerte como un sistema de IA similar a los actuales modelos lingüísticos a gran escala que es más inteligente que los ganadores del Premio Nobel y posee capacidades de interacción y acción equivalentes a las humanas. Predice que la IA fuerte surgirá en 2026 o antes y adoptará la forma de una "nación de genios centrados en los datos"". La IA fuerte, con la que me refiero a un modelo de IA que probablemente sea formalmente similar a los actuales modelos lingüísticos a gran escala, aunque pueda basarse en una arquitectura diferente, implique múltiples modelos de interacción y se entrene de forma distinta, tiene las siguientes propiedades:
En términos de inteligencia pura, es más inteligente que un Premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, escritura, etc. Esto significa que puede demostrar teoremas matemáticos sin resolver, escribir novelas muy buenas, escribir bases de código difíciles desde cero, etc.
Limitaciones al progreso de la IA: Amodei propone el concepto de "ganancias marginales de inteligencia", argumentando que otros factores distintos de la propia inteligencia pueden limitar el ritmo de progreso de la IA, como la velocidad del mundo exterior, la necesidad de datos, la complejidad intrínseca, las limitaciones humanas y las leyes de la física.
"Creo que de lo que deberíamos estar hablando en la era de la IA es de los beneficios marginales de la inteligencia y de intentar averiguar cuáles son los otros factores complementarios a la inteligencia y cuáles son los factores limitantes cuando la inteligencia es muy alta."
Cinco áreas clave de cambio:
1. Biología y salud: Amodei predice que una IA fuerte acelerará todo el proceso de investigación biológica, comprimiendo los próximos 50-100 años de avances biológicos y médicos en 5-10 años. Esto conducirá a la prevención y el tratamiento fiables de prácticamente todas las enfermedades infecciosas naturales, la eliminación de la mayoría de los cánceres, la prevención y el tratamiento eficaces de los trastornos genéticos, la prevención de la enfermedad de Alzheimer y la prolongación de la vida humana.
"Mi predicción básica es que la biología y la medicina basadas en la IA nos permitirán comprimir en 5-10 años los avances que los biólogos humanos realizarán en los próximos 50-100 años. Yo lo llamo el "siglo XXI comprimido": es decir, tras el desarrollo de una IA potente, realizaremos en pocos años todos los avances en biología y medicina que hemos hecho a lo largo del siglo XXI."
2. Neurociencia y psicología:Amodei cree que una IA fuerte revolucionará los campos de la neurociencia y la salud mental al acelerar el descubrimiento de herramientas y técnicas neurocientíficas, así como al aplicar conocimientos de la propia IA (por ejemplo, interpretabilidad y escalado de hipótesis). Esto conducirá a la cura o prevención de la mayoría de las enfermedades mentales, así como a una enorme expansión de las capacidades cognitivas y emocionales humanas.
"Mi conjetura es que estas cuatro líneas de progreso trabajando juntas, al igual que las enfermedades físicas, pueden curar o prevenir la mayoría de las enfermedades mentales en los próximos 100 años, incluso sin la participación de la IA - por lo que se pueden curar con 5-10 años de aceleración de la IA."
3. Desarrollo económico y pobreza: Amodei reconoce que la capacidad de la IA para abordar la desigualdad y promover el crecimiento económico es menos segura que su capacidad para inventar tecnología. Sin embargo, sigue siendo optimista en cuanto a que la IA puede ayudar a los países en desarrollo a alcanzar a los desarrollados optimizando la distribución de las intervenciones sanitarias, promoviendo el crecimiento económico, garantizando la seguridad alimentaria, mitigando el cambio climático y abordando las desigualdades dentro de los países.
"En general, soy optimista respecto a que los avances biológicos en IA beneficiarán pronto a la población de los países en desarrollo. Tengo la esperanza, aunque no la certeza, de que la IA también dará lugar a tasas de crecimiento económico sin precedentes, que permitirán a los países en desarrollo al menos alcanzar los niveles actuales de los países desarrollados."
4. Paz y gobernanza: Amodei sostiene que la IA por sí misma no garantiza el avance de la democracia y la paz porque puede ser explotada tanto por regímenes autoritarios como democráticos. Amodei aboga por que las democracias adopten una "estrategia concertada" para obtener ventajas asegurando las cadenas de suministro de IA potente, ampliándola rápidamente e impidiendo o retrasando que los adversarios accedan a recursos clave como chips y equipos semiconductores. Esto permitiría a las democracias dominar la escena mundial y, en última instancia, facilitaría la expansión de la democracia global.
"Creo que la IA por sí misma no garantiza el progreso de la democracia y la paz porque puede ser utilizada por regímenes autoritarios y democráticos".
5. Trabajo e importancia: Amodei sostiene que, incluso en un mundo en el que la IA realiza la mayoría de las tareas, los seres humanos pueden seguir encontrando sentido y propósito. Sostiene que el sentido procede principalmente de las relaciones y las conexiones, más que del trabajo económico. No obstante, reconoce que una economía impulsada por la IA podría poner en entredicho nuestro sistema económico actual y que es necesario un diálogo social más amplio para estudiar cómo se organizará la economía en el futuro.
"Creo que los humanos aún pueden encontrar sentido y propósito incluso en un mundo en el que la IA realiza la mayoría de las tareas. Creo que el sentido proviene principalmente de las relaciones y las conexiones, no del trabajo económico."
Amodei cree que, si se maneja correctamente, una IA fuerte puede conducir a un mundo mejor que el actual, un mundo libre de enfermedades, pobreza y desigualdad, un mundo caracterizado por la democracia liberal y los derechos humanos. Reconoce que hacer realidad esta visión exigirá un esfuerzo y una lucha enormes, y un esfuerzo concertado por parte de los individuos, las empresas de IA y los responsables políticos.
"Si esto ocurre dentro de 5 a 10 años -la derrota de la mayoría de las enfermedades, el crecimiento de las libertades biológicas y cognitivas, la salida de miles de millones de la pobreza y la participación en las nuevas tecnologías, el renacimiento de la democracia liberal y los derechos humanos-, creo que todo el que lo vea se sentirá impactados".
Conclusión: En su artículo, Amodei ofrece una visión convincente de cómo una IA fuerte podría remodelar la sociedad humana. Destaca el enorme potencial de la IA fuerte, pero también señala los retos y riesgos que conlleva. Hace un llamamiento a la acción proactiva para dirigir el desarrollo de la IA y garantizar que beneficie a toda la humanidad.
Es muy difícil organizar y corregir el artículo, así que, por favor, triplique el enlace antes de leerlo. A continuación encontrará el artículo original.
Máquinas de Gracia amorosa[01]
Cómo la IA podría transformar el mundo a mejor
--Dario Amodei
Enlace original: https://darioamodei.com/machines-of-loving-grace
Pienso y hablo mucho sobre los riesgos de una IA fuerte. Anthropic, la empresa de la que soy director general, ha investigado mucho sobre cómo mitigar esos riesgos. Por eso, la gente a veces concluye que soy pesimista o "agorero" y que la IA es ante todo mala o peligrosa. No pienso eso en absoluto. De hecho, una de las principales razones por las que me centro en el riesgo es que es lo único que se interpone entre nosotros y el futuro radicalmente positivo que veo.Creo que la mayoría de la gente está subestimando los enormes beneficios que la IA podría tener, al igual que creo que la mayoría de la gente subestima la gravedad de lo que puede ser el riesgo.
En este artículo he intentado esbozar los beneficios, es decir, cómo podría ser un mundo con una IA fuerte si todo va bien. Por supuesto, nadie puede conocer el futuro con certeza o exactitud, y es probable que el impacto de la IA fuerte sea aún más difícil de predecir que los cambios tecnológicos del pasado, por lo que todo esto consistirá inevitablemente en especulaciones. Pero mi objetivo es, al menos, hacer conjeturas educadas y útiles que capten lo que ocurrirá aunque la mayoría de los detalles acaben siendo erróneos. He incluido muchos detalles porque creo que una visión concreta es mejor para avanzar en el debate que una muy ambigua y abstracta.
Antes, sin embargo, quiero explicar brevemente por qué Anthropic y yo no hemos hablado mucho de las ventajas de la IA fuerte, y por qué probablemente seguiremos hablando mucho de los riesgos en general. En concreto, tomé esta decisión por el siguiente deseo:
- Maximizar el apalancamiento.El desarrollo fundamental de la tecnología de IA y muchos (no todos) de sus beneficios parecen inevitables (a menos que el riesgo lo estropee todo) y están impulsados fundamentalmente por poderosas fuerzas del mercado. Los riesgos, en cambio, no están predeterminados y nuestras acciones pueden cambiar drásticamente la probabilidad de que se produzcan.
- Evite que le confundan con propaganda.Las empresas de inteligencia artificial hablan de todas las increíbles ventajas de la IA, lo que puede parecer propaganda o un intento de desviar la atención de los aspectos negativos. También creo que, en principio, pasar demasiado tiempo "hablando de tu libro" es malo para el alma.
- Evite la exageración.A menudo me desanima la forma en que muchas figuras públicas del emprendimiento de IA (por no hablar de los líderes de las empresas de IA) hablan del mundo posterior a la IA, como si su misión fuera conseguirlo en solitario como un profeta que conduce a su pueblo a la salvación. Creo que es peligroso pensar que las empresas están dando forma al mundo unilateralmente, y también es peligroso pensar en los objetivos técnicos reales en términos religiosos.
- Evite la carga de "ciencia ficción".Aunque creo que la mayoría de la gente subestima las ventajas de una IA fuerte, los pocos que hablan de futuros radicales de la IA suelen hacerlo en un tono excesivamente de "ciencia ficción" (por ejemplo, cargar mentes, exploración espacial o un ambiente ciberpunk general). Creo que esto lleva a la gente a tomarse estas afirmaciones menos en serio y les infunde una sensación de irrealidad. Para que quede claro, la cuestión no es si las tecnologías descritas son posibles o probables (el artículo principal lo discute ampliamente), sino más bien que el "ambiente" implica un montón de bagaje cultural y suposiciones no declaradas sobre qué tipo de futuro es deseable, cómo evolucionarán los problemas sociales, etcétera. problemas sociales, etc. El resultado suele acabar pareciéndose a las fantasías de una subcultura reducida, lo que apaga a la mayoría de la gente.
A pesar de todas estas preocupaciones, creo que es importante debatir cómo sería un mundo mejor con una IA fuerte, intentando evitar los escollos mencionados anteriormente. De hecho, creo que es vital tener una visión verdaderamente inspiradora del futuro, no sólo un plan de extinción de incendios. Muchas de las implicaciones de una IA fuerte son conflictivas o peligrosas, pero en última instancia, tenemos que luchar por ellas, por resultados positivos y en los que todo el mundo esté mejor, y por unir a la gente para que supere la contienda y haga frente a los retos del futuro. El miedo es un factor de motivación, pero no es suficiente: también necesitamos esperanza.
Hay muchísimas áreas de aplicación positivas para la IA potente (robótica, fabricación, energía, etc.), pero voy a centrarme en un puñado que creo que tienen el mayor potencial para mejorar directamente la calidad de la vida humana. Las cinco categorías que más me interesan son:
- Biología y salud física
- Neurociencia y salud mental
- Desarrollo económico y pobreza
- Paz y gobernanza
- Trabajo y sentido
Mis predicciones van a ser radicales para la mayoría de los estándares (con la excepción de la visión de ciencia ficción de la "Singularidad" [02]), pero las digo de buena fe. Todo lo que digo podría estar equivocado (repito lo que he dicho antes), pero al menos intento basar mis opiniones en una evaluación semianalítica de la probabilidad de que se aceleren los avances en diversos campos y lo que eso significa en la práctica. Tengo la suerte de contar con experiencia profesional tanto en biología como en neurociencia, y soy un aficionado erudito en el campo del desarrollo económico, pero estoy seguro de que cometeré muchos errores. Escribir este artículo me hizo darme cuenta de que sería valioso reunir a un grupo de expertos en sus campos (biología, economía, relaciones internacionales y otros) para escribir una versión mejor y más perspicaz de lo que he escrito aquí. Lo mejor es considerar mis esfuerzos como el punto de partida de ese grupo.
Hipótesis y marco subyacentes
Para que todo el artículo resulte más preciso e informado, es útil aclarar qué entendemos por IA potente (es decir, cuándo empieza la cuenta atrás de 5-10 años) y proporcionar un marco para pensar en las implicaciones de dicha IA una vez que exista.
Cómo será la IA potente (no me gusta el término AGI)[03], y cuándo (o si) llegará, es un tema enorme en sí mismo. Es un tema que he debatido abiertamente y sobre el que probablemente escriba otro artículo en algún momento. Obviamente, mucha gente se muestra escéptica ante la posibilidad de que se construya pronto una IA potente, y algunos incluso dudan de que llegue a construirse. Yo creo que podría llegar en 2026, aunque hay formas de que tarde más. Pero a los efectos de este artículo, me gustaría dejar de lado estas cuestiones, suponer que llegará en un plazo razonable y centrarme en lo que ocurrirá en los 5-10 años siguientes. También quiero suponer qué aspecto tendría un sistema así, cuáles serían sus capacidades y cómo interactuaría, aunque hay margen para el desacuerdo al respecto.
Con la IA Potente, tengo un modelo de IA -probablemente similar formalmente al LLM actual, aunque puede estar basado en una arquitectura diferente, puede implicar varios modelos interactuantes y puede estar entrenado de diferentes maneras- con las las siguientes propiedades:
- En términos de inteligencia pura [04], es más inteligente que la mayoría de los ganadores del Premio Nobel en campos afines: biología, programación, matemáticas, ingeniería, escritura, etc. Esto significa que puede demostrar teoremas matemáticos sin resolver, escribir novelas muy buenas, escribir bases de código difíciles desde cero, etc.
- Además de ser una "cosa inteligente con la que hablas", tiene todas las "interfaces" disponibles para un humano que trabaja virtualmente, incluidos texto, audio, vídeo, control del ratón y el teclado, y acceso a Internet. Puede realizar cualquier operación, comunicación o teleoperación que le permita esta interfaz, como actuar en Internet, dar o recibir instrucciones a o de un humano, pedir materiales, dirigir experimentos, ver vídeos, hacer vídeos, etcétera. Una vez más, realiza todas estas tareas con habilidades que superan las de los humanos más capaces del mundo.
- No se trata sólo de responder pasivamente a las preguntas; en lugar de ello, se le pueden encomendar tareas que lleven horas, días o semanas, y luego realizarlas como un empleado inteligente, pidiendo aclaraciones cuando sea necesario.
- No tiene cuerpo físico (aparte de vivir en la pantalla de un ordenador), pero puede controlar herramientas físicas, robots o equipos de laboratorio existentes a través de un ordenador; en teoría, incluso podría diseñar robots o equipos para sí mismo.
- Los recursos utilizados para entrenar el modelo pueden reutilizarse para ejecutar millones de instancias del mismo (lo que coincide con el tamaño de clúster previsto en torno a 2027), y el modelo puede absorber información y generar operaciones a un ritmo de unas 10x-100x el de los humanos [05]. Sin embargo, puede verse limitado por el tiempo de respuesta del mundo físico o del software con el que interactúa.
- Cada uno de estos millones de copias podría trabajar de forma independiente en tareas no relacionadas o, si se desea, trabajar juntos como los humanos, quizás con diferentes subgrupos afinados para ser especialmente aptos para tareas concretas.
Podemos resumirlo como la "Nación Genio de los Centros de Datos".
Obviamente, una entidad así sería capaz de resolver problemas muy difíciles con gran rapidez, pero no es fácil averiguar con qué rapidez. Dos posturas "extremas" me parecen erróneas. En primer lugar, se podría pensar que el mundo se transformará instantáneamente ("singularidad") en cuestión de segundos o días a medida que una inteligencia superior se desarrolle y resuelva de inmediato todas las tareas científicas, de ingeniería y operativas posibles. El problema con esto es que existen limitaciones físicas y prácticas reales, por ejemplo a la hora de construir hardware o realizar experimentos biológicos. Incluso una nueva nación de genios se encontrará con estas limitaciones. La inteligencia es, en efecto, muy poderosa, pero no es mágica para todos.
En segundo lugar, y a la inversa, puede creer que el progreso tecnológico está saturado o limitado por los datos del mundo real o por factores sociales hasta el punto de que habrá muy poco aumento de inteligencia más inteligente que la humana [06]. Para mí, esto es igualmente increíble: se me ocurren cientos de problemas científicos o incluso sociales en los que un grupo de personas realmente inteligentes aceleraría drásticamente el progreso, sobre todo si no se limitaran a analizar y pudieran hacer que las cosas sucedieran en el mundo real (algo que nuestra hipotética nación de genios podría hacer, incluso tutelando o ayudando a equipos humanos).
Creo que la verdad es probablemente una mezcla confusa de estas dos imágenes extremas, dependiendo de la tarea y el campo, así como de detalles muy sutiles. Creo que necesitamos nuevos marcos para pensar en estos detalles de forma productiva.
Los economistas suelen hablar de "factores de producción", como el trabajo, la tierra y el capital. La expresión "rendimientos marginales del trabajo, la tierra o el capital" refleja la idea de que un factor determinado puede ser o no ser el factor limitante en una situación dada; por ejemplo, el Ejército del Aire necesita aviones y pilotos, y contratar más pilotos no sirve de mucho si no se dispone de aviones. más pilotos no ayuda mucho. Creo que en la era de la IA deberíamos hablar de los "beneficios marginales de la inteligencia" [07] e intentar averiguar qué otros factores son complementarios a la inteligencia y factores limitantes cuando la inteligencia es muy alta. No estamos acostumbrados a pensar de este modo -preguntándonos "¿cuánto ayuda ser más inteligente en esta tarea, y en qué escala de tiempo?" -- pero parece la forma correcta de conceptualizar un mundo con una inteligencia artificial muy potente.
Una lista de factores que sospecho que limitan o complementan la inteligencia incluye:
- Velocidad del mundo exterior. Los agentes inteligentes necesitan interactuar con el mundo para hacer cosas y también aprender [08]. Pero el mundo se mueve muy despacio. Las células y los animales funcionan a una velocidad fija, por lo que los experimentos con ellos llevan cierto tiempo, que puede ser irreducible. Lo mismo ocurre con la comunicación con los humanos y nuestra infraestructura de software actual. Además, en ciencia, muchos experimentos suelen realizarse de forma secuencial, y cada experimento aprende o se basa en el anterior. Todo esto significa que puede haber un ritmo mínimo irreducible al que pueda completarse un proyecto importante -como el desarrollo de una cura para el cáncer- que no pueda reducirse más aunque la inteligencia siga aumentando.
- Demanda de datos. A veces faltan datos brutos, y a falta de datos, más inteligencia no ayuda. Los físicos de partículas actuales son muy inteligentes y han desarrollado una serie de teorías, pero como los datos de los aceleradores de partículas son muy limitados, carecen de datos para elegir entre ellas. Probablemente no lo harían mucho mejor si dispusieran de superinteligencia, salvo quizá acelerando la construcción de aceleradores más grandes.
- Complejidad intrínseca. Algunas cosas son tan inherentemente impredecibles o caóticas que ni siquiera la IA más potente puede predecirlas o desentrañarlas mejor que los humanos o los ordenadores actuales. Por ejemplo, incluso las IA más potentes sólo pueden predecir sistemas caóticos (como el problema de los tres cuerpos) en general a un plazo ligeramente superior al de los humanos y los ordenadores actuales [09].
- Limitaciones de los seres humanos. Muchas cosas no pueden hacerse sin infringir la ley, dañar a los humanos o perturbar la sociedad. Una IA alineada no querrá hacer estas cosas (y si tenemos una IA no alineada, volvemos a hablar de riesgo). Muchas estructuras sociales humanas son ineficaces o incluso perjudiciales, pero difíciles de cambiar respetando limitaciones como los requisitos legales, la voluntad de las personas de cambiar sus hábitos o el comportamiento de los gobiernos. Los avances tecnológicos, como la energía nuclear, los vuelos supersónicos e incluso los ascensores, han funcionado bien tecnológicamente, pero su impacto se ha visto drásticamente reducido por normativas o miedos equivocados.
- ley física. Esta es una versión más obvia del primer punto. Hay leyes físicas que parecen inquebrantables. Es imposible viajar más rápido que la velocidad de la luz. El pudin no se remueve solo. Los chips sólo pueden tener un número determinado de transistores por centímetro cuadrado antes de dejar de ser fiables. La computación requiere una cantidad mínima de energía por bit borrado, lo que limita la densidad de computación en el mundo.
Existe otra distinción basada en la escala temporal. Las cosas que son difíciles de restringir a corto plazo pueden ser más susceptibles de inteligencia a largo plazo. Por ejemplo, la inteligencia podría utilizarse para desarrollar un nuevo paradigma experimental que nos permita aprender in vitro lo que antes requería experimentos con animales vivos, o para construir las herramientas necesarias para recopilar nuevos datos (por ejemplo, aceleradores de partículas más grandes), o (dentro de las limitaciones éticas) para encontrar maneras de eludir las limitaciones basadas en humanos (por ejemplo, para ayudar a mejorar el sistema de ensayos clínicos, para ayudar a crear nuevas jurisdicciones donde los ensayos clínicos sean menos burocráticos...). o mejorar la propia ciencia para que los ensayos clínicos con humanos sean menos necesarios o más baratos).
Por lo tanto, deberíamos imaginarnos un panorama en el que la inteligencia se ve inicialmente fuertemente embotellada por otros factores de producción, pero con el tiempo la propia inteligencia va sorteando cada vez más a los demás factores, aunque nunca desaparezcan por completo (algunas cosas, como las leyes de la física, son absolutas) [10]. La cuestión clave es a qué velocidad ocurre todo y en qué orden.
Teniendo en cuenta el marco anterior, intentaré responder a las preguntas en las cinco áreas mencionadas en la introducción.
1. Biología y salud
La biología es probablemente el campo en el que el progreso científico tiene más posibilidades de mejorar directa y definitivamente la calidad de la vida humana. Algunas de las afecciones humanas más antiguas (por ejemplo, la viruela) han sido finalmente vencidas en el último siglo, pero todavía existen muchas más, y superarlas sería un gran logro humanitario. Incluso más allá de la curación de las enfermedades, las ciencias biológicas podrían, en principio, mejorar la calidad de la base de la salud humana, alargando la esperanza de vida de los seres humanos sanos, aumentando el control y la libertad sobre nuestros propios procesos biológicos y resolviendo los problemas cotidianos que actualmente consideramos parte inalterable de la condición humana.
En el lenguaje de las limitaciones de la sección anterior, los principales retos para aplicar la inteligencia directamente a la biología son los datos, la velocidad del mundo físico y la complejidad inherente (de hecho, los tres están interrelacionados). Las limitaciones humanas también entran en juego en una fase posterior, cuando se trata de ensayos clínicos. Abordemos estas cuestiones una por una.
Los experimentos con células, animales e incluso procesos químicos están limitados por la velocidad del mundo físico: muchos protocolos biológicos implican el cultivo de bacterias u otras células, o simplemente esperar a que se produzca una reacción química, lo que a veces lleva días o incluso semanas, sin que haya una forma evidente de acelerarla. Los experimentos con animales pueden llevar meses (o incluso más), y los experimentos con seres humanos suelen llevar años (o incluso décadas en el caso de estudios de resultados a largo plazo). Algo relacionado con esto es el hecho de que a menudo faltan datos, no en cantidad, sino en calidad: siempre faltan datos claros e inequívocos que aíslen el efecto biológico de interés de las otras 10.000 cosas que están ocurriendo, o que intervengan causalmente en un proceso determinado, o que midan ciertos efectos directamente (en lugar de de alguna forma indirecta o ruidosa). alguna forma indirecta o ruidosa de inferir las consecuencias). Incluso los datos moleculares cuantitativos de gran tamaño, como los de la proteómica que recopilo cuando trabajo con espectrometría de masas, son ruidosos y pasan por alto muchas cosas (¿en qué tipo de células están esas proteínas? ¿En qué parte de la célula? ¿en qué fase del ciclo celular?). .
Esta parte de la culpa del problema de los datos reside en la complejidad inherente: si alguna vez ha mirado gráficos que muestran la bioquímica del metabolismo humano, sabrá que es muy difícil aislar los efectos de cualquier parte de este complejo sistema, y mucho menos intervenir de forma precisa o predecible. Por último, además del tiempo inherente que se necesita para realizar experimentos en humanos, los ensayos clínicos reales implican una gran cantidad de requisitos burocráticos y normativos que (en opinión de muchos, entre los que me incluyo) se consideran un añadido innecesario de tiempo y retrasos.
Por ello, muchos biólogos se han mostrado escépticos sobre el valor de la IA y los "grandes datos" en biología. Históricamente, matemáticos, informáticos y físicos han aplicado sus conocimientos a la biología en los últimos 30 años con un éxito considerable, pero sin lograr el impacto verdaderamente transformador que se esperaba en un principio. El escepticismo se ha reducido gracias a avances importantes y revolucionarios como AlphaFold (que acaba de ganar merecidamente a su creador el Premio Nobel de Química) y AlphaProteo [11], pero sigue existiendo la percepción de que la IA sólo era (y sigue siendo) útil en un número limitado de situaciones. Se suele decir que "la IA puede mejorar el análisis de los datos, pero no puede producir más datos ni mejorar su calidad". Basura dentro, basura fuera".
Pero creo que es la visión pesimista la que piensa en la IA de forma equivocada. si nuestras suposiciones básicas sobre el progreso de la IA son correctas, entonces la forma correcta de pensar en la IA no es como un método de análisis de datos, sino como un biólogo virtual que realiza "todas" las tareas que hacen los biólogos, incluido el diseño y la ejecución de experimentos en el mundo real (ya sea controlando robots de laboratorio o simplemente indicando a los humanos qué experimentos deben ejecutar -igual que hacen los investigadores principales con sus estudiantes de posgrado, etc.). qué experimentos ejecutar - tal y como hacen los investigadores principales con sus estudiantes de posgrado), inventar nuevos métodos biológicos o técnicas de medición, etc. La IA puede acelerar verdaderamente la biología acelerando todo el proceso de investigación.Quiero repetirlo porque es el error más común que tengo cuando hablo de la capacidad de la IA para cambiar la biología: no estoy hablando de la IA como una herramienta para analizar datos. Basándome en la definición de IA potente del principio del artículo, estoy hablando de utilizar la IA para realizar, guiar y mejorar casi todo lo que hacen los biólogos.
Para ser más específico sobre de dónde creo que puede venir la aceleración, una parte significativa del progreso en biología procede de un número realmente minúsculo de descubrimientos, normalmente relacionados con herramientas o técnicas que permiten intervenciones precisas pero genéricas o programables en sistemas biológicos [12]. Estos descubrimientos pueden ser aproximadamente 1 al año, y en conjunto podrían impulsar más de 501 TP3T del progreso biológico. Lo que hace que estos descubrimientos sean tan poderosos es que reducen la complejidad inherente y las limitaciones de los datos y aumentan directamente nuestra comprensión y control de los procesos biológicos. Algunos de los descubrimientos realizados durante décadas nos han permitido tener una comprensión científica básica de la biología y han impulsado muchos de los enfoques terapéuticos más potentes.
Algunos ejemplos son:
- CRISPR: tecnología que permite editar en tiempo real cualquier gen de un organismo vivo (sustituyendo cualquier secuencia genética arbitraria por cualquier otra secuencia arbitraria). Desde que se desarrolló la tecnología original, ha habido mejoras continuas para dirigirse a tipos celulares específicos, aumentar la precisión y reducir la edición de genes defectuosos, todo ello necesario para un uso humano seguro.
- Diversos tipos de microscopios para observar lo que ocurre a un nivel preciso: microscopios ópticos avanzados (con diversas técnicas de fluorescencia, ópticas especiales, etc.), microscopios electrónicos, microscopios de fuerza atómica, etc.
- Secuenciación y síntesis del genoma, cuyo coste se ha reducido en varios órdenes de magnitud en las últimas décadas.
- Tecnología optogenética, en la que se puede hacer que las neuronas se enciendan mediante la exposición a la luz.
- Las vacunas de ARNm permiten, en principio, diseñar una vacuna contra cualquier cosa y adaptarla rápidamente (las vacunas de ARNm se hicieron famosas durante el COVID).
- Las terapias celulares como la CAR-T permiten extraer células inmunitarias del organismo y "reprogramarlas" para que ataquen a cualquier principio.
- Conceptos como la teoría germinal de la enfermedad y la relación entre el sistema inmunitario y el cáncer [13].
Me he tomado la molestia de enumerar todas estas técnicas porque quiero hacer una afirmación clave sobre ellas:Creo que el ritmo de estos descubrimientos podría multiplicarse por 10 o más si hubiera más investigadores con talento y creatividad.O en otras palabras.Creo que estos hallazgos benefician a la inteligenciay todo lo demás en biología y medicina básicamente los sigue.
¿Por qué lo pienso? Porque deberíamos acostumbrarnos a plantearnos algunas preguntas cuando intentamos determinar los "rendimientos de la inteligencia". En primer lugar, estos descubrimientos suelen ser realizados por un número muy reducido de investigadores, a menudo repetidamente por el mismo grupo de personas, lo que sugiere habilidad más que búsqueda aleatoria (esto último podría sugerir que los experimentos prolongados son el factor limitante). Por ejemplo, CRISPR, un componente natural del sistema inmunitario de las bacterias, se conoce desde los años 80, pero hubo que esperar otros 25 años para darse cuenta de que se podía reutilizar para la edición general de genes. También se retrasaron muchos años por falta de apoyo de la comunidad científica a direcciones prometedoras (véase el perfil del inventor de la vacuna de ARNm; abundan las historias similares). En tercer lugar, los proyectos de éxito suelen ser proyectos marginales o de última hora que no se consideran prometedores en un principio, en lugar de iniciativas financiadas a gran escala. Esto sugiere que no es sólo la puesta en común de recursos a gran escala lo que impulsa el descubrimiento, sino el ingenio.
Por último, aunque algunos de estos descubrimientos son "dependientes en serie" (es necesario hacer primero el descubrimiento A para tener las herramientas o los conocimientos necesarios para hacer el descubrimiento B) -lo que puede provocar de nuevo retrasos experimentales-, muchos, quizá la mayoría, son independientes, lo que significa que muchos pueden hacerse simultáneamente. -Pero muchos, quizá la mayoría, son independientes, lo que significa que muchos pueden hacerse al mismo tiempo. Ambas cosas, y mi experiencia general como biólogo, sugieren que si los científicos fueran más inteligentes y mejores a la hora de establecer conexiones entre la gran cantidad de conocimientos biológicos que tienen los humanos (de nuevo, consideremos el ejemplo de CRISPR), habría cientos de descubrimientos esperando a ser realizados. El éxito de AlphaFold/AlphaProteo en la resolución de problemas importantes de forma más eficiente que los humanos constituye una prueba de principio (aunque con herramientas limitadas en un campo limitado) que debería marcar el camino a seguir.
Por lo tanto, sospecho que una IA potente podría aumentar el ritmo de estos descubrimientos en al menos un factor de 10, dándonos los próximos 50-100 años de progreso biológico en 5-10 años. [14] ¿Por qué no 100 veces? Tal vez sea posible, pero aquí está la serie
La dependencia y el tiempo de experimentación cobran importancia: conseguir 100 años de progreso en 1 año requiere hacer muchas cosas bien a la primera, como experimentos con animales y diseñar microscopios o costosas instalaciones de laboratorio. Estoy abierto a la idea (posiblemente absurda) de que podríamos conseguir 1000 años de progreso en 5-10 años, pero soy muy escéptico respecto a que consigamos 100 años en 1 año. Alternativamente, creo que hay un retraso constante inevitable: los experimentos y el hardware están diseñados con un cierto "retraso" y requieren un cierto número de iteraciones "irreducibles" para aprender cosas que no se pueden deducir lógicamente. Pero además puede haber un paralelismo masivo [15].
¿Y los ensayos clínicos? A pesar de toda la burocracia y lentitud asociadas a ellos, lo cierto es que gran parte de su lentitud se debe en última instancia a la necesidad de evaluar rigurosamente fármacos que apenas funcionan o lo hacen vagamente. Esto es tristemente cierto en la mayoría de las terapias actuales: el medicamento medio contra el cáncer añade meses a la supervivencia al tiempo que tiene importantes efectos secundarios que deben medirse cuidadosamente (algo similar ocurre con los fármacos contra el Alzheimer). Ello obliga a realizar estudios enormes (para conseguir potencia estadística) y a hacer concesiones difíciles, y los organismos reguladores no suelen ser buenos a la hora de tomar decisiones, de nuevo debido a la burocracia y a la complejidad de los intereses contrapuestos.
Cuando algo funciona de verdad, va mucho más rápido: hay vías de aprobación acelerada y, cuando el efecto es grande, la facilidad de aprobación es mucho mayor. Las vacunas de ARNm para la COVID se aprobaron en 9 meses, mucho más rápido de lo habitual. Aun así, incluso en estas condiciones, los ensayos clínicos fueron demasiado lentos: la vacuna de ARNm probablemente debería haberse aprobado en unos 2 meses. Pero estos retrasos (~1 año en total para los fármacos) son muy compatibles con el paralelismo masivo y la necesidad de algunas, pero no demasiadas, iteraciones ("unos pocos intentos") que podrían conducir a un cambio fundamental en 5-10 años. Desde un punto de vista más optimista, la ciencia biológica impulsada por la IA puede reducir la necesidad de iteración en los ensayos clínicos mediante el desarrollo de mejores modelos (o incluso simulaciones) de experimentos animales y celulares que sean más precisos a la hora de predecir lo que ocurrirá en los seres humanos. Esto será especialmente importante a la hora de desarrollar fármacos contra el proceso de envejecimiento, que dura décadas y para el que necesitamos un ciclo iterativo más rápido.
Por último, sobre el tema de los ensayos clínicos y las barreras sociales, merece la pena dejar claro que las innovaciones biomédicas tienen un historial inusualmente sólido de implantación con éxito en algunos aspectos en comparación con otras tecnologías [16]. Como se ha señalado en la introducción, muchas de estas tecnologías, a pesar de funcionar bien técnicamente, se ven obstaculizadas por factores sociales. Esto puede indicar una visión pesimista de lo que la IA puede lograr. Sin embargo, la biomedicina es única en el sentido de que, a pesar del proceso excesivamente engorroso de desarrollo de fármacos, una vez desarrollados suelen implantarse y utilizarse con éxito.
En resumen, mi predicción básica es que la biología y la medicina impulsadas por la IA nos permitirán comprimir en 5-10 años los avances que los biólogos humanos harán en los próximos 50-100 años. Yo lo llamo el "siglo XXI comprimido": la idea de que lograremos todos los avances biológicos y médicos que haremos a lo largo del siglo XXI en unos pocos años tras desarrollar una IA potente.
Aunque predecir lo que una IA potente puede hacer en los próximos años es intrínsecamente difícil y especulativo, hay cierta especificidad en preguntarse "qué puede hacer el ser humano en los próximos 100 años sin fuerzas externas". Basta con fijarse en lo que conseguimos en el siglo XX, extrapolar los primeros 20 años del siglo XXI o preguntarnos qué nos depararán "10 CRISPR y 50 CAR-T" para estimar de forma práctica y fundamentada el nivel general de progreso que podemos esperar de una IA potente.
A continuación he intentado enumerar lo que cabe esperar. No se basa en ninguna metodología rigurosa, y es casi seguro que se equivocará en los detalles, pero intenta transmitir el nivel general de radicalismo que deberíamos esperar:
- Prevención y tratamiento fiables de casi todas las enfermedades infecciosas naturales[17].Dados los enormes avances en la lucha contra las enfermedades infecciosas en el siglo XX, no es radical imaginar que podamos "hacer el trabajo" en el comprimido siglo XXI. Las vacunas de ARNm y tecnologías similares ya apuntan a una "vacuna para todo". En la sección 3 se analiza si las enfermedades infecciosas dependen de la pobreza y la desigualdad en la erradicación TOTAL (y no sólo en algunos lugares).
- Eliminación de la mayoría de los cánceres.Las tasas de mortalidad por cáncer han disminuido aproximadamente 2% al año en las últimas décadas; por tanto, estamos en vías de eliminar la mayoría de los cánceres en el siglo XXI al ritmo actual de la ciencia humana. Algunos subtipos ya se han curado en gran número (por ejemplo, ciertos tipos de leucemia mediante terapias CAR-T), y me entusiasman aún más los fármacos muy selectivos que se dirigen a las primeras fases del cáncer y detienen su crecimiento.La IA también permitirá que los regímenes de tratamiento se adapten muy finamente al genoma individualizado del cáncer - algo que puede ser La IA también permitirá que los regímenes de tratamiento se adapten con gran precisión al genoma individualizado del cáncer, algo que puede ser posible, pero muy costoso en términos de tiempo y experiencia humana, y que la IA debería permitirnos ampliar.
- Prevención muy eficaz y tratamiento efectivo de las enfermedades genéticas.La mejora del cribado embrionario podría permitirnos prevenir la mayoría de las enfermedades genéticas, y una progenie CRISPR más segura y fiable podría curar la mayoría de las enfermedades genéticas en las poblaciones existentes. Las enfermedades sistémicas, que afectan a la mayoría de las células, pueden ser las últimas moléculas recalcitrantes.
- Prevención de la enfermedad de Alzheimer.Nos ha costado mucho averiguar qué causa la enfermedad de Alzheimer (está relacionada con el beta amiloide, pero los detalles reales parecen ser muy complejos). Parece ser algo que puede resolverse con mejores herramientas de medición que aíslen los efectos biológicos; así que soy optimista y creo que la IA lo resolverá. Una vez que comprendamos realmente lo que ocurre, es muy probable que se pueda prevenir con intervenciones relativamente sencillas. No obstante, el daño de la enfermedad de Alzheimer que ya existe puede ser difícil de revertir.
- Mejora del tratamiento de la mayoría de las demás enfermedades.Se trata de una categoría que engloba otras enfermedades, como la diabetes, la obesidad, las cardiopatías, las enfermedades autoinmunes, etc. La mayoría de estas enfermedades parecen "más fáciles" de abordar que el cáncer y la enfermedad de Alzheimer. La mayoría de estas enfermedades parecen "más fáciles" de abordar que el cáncer y el Alzheimer, y en muchos casos ya están en franco declive. Por ejemplo, las tasas de mortalidad por cardiopatías han descendido más de 501 TP3T, e intervenciones sencillas, como los agonistas del GLP-1, han logrado grandes avances contra la obesidad y la diabetes.
- Libertad biológica.En los últimos 70 años hemos avanzado en la anticoncepción, la gestión de la fertilidad, el control del peso, etc., pero creo que la biología acelerada por la IA va a ampliar drásticamente el abanico de lo posible: el peso, la apariencia, la reproducción y otros procesos biológicos van a estar completamente bajo el control de las personas. Nos referiremos a esto bajo el epígrafe de "libertad biológica", lo que significa que todo el mundo debería tener derecho a elegir quién quiere ser y a vivir su vida de la forma que más le atraiga. Por supuesto, hay cuestiones sobre la igualdad de acceso global; éstas se tratan en la sección 3.
- Duplicación de la longevidad humana[18].Esto puede parecer radical, pero la esperanza de vida casi se triplicó en el siglo XX (de unos 40 años a unos 75), por lo que la "tendencia" es duplicarse de nuevo hasta los 150 años en un "siglo XXI comprimido". Evidentemente, las intervenciones necesarias para ralentizar el proceso real de envejecimiento son diferentes de las que se necesitaron para evitar las muertes prematuras por enfermedad (principalmente en niños) en el siglo pasado, pero la magnitud del cambio no carece de precedentes [19]. En concreto, ya existen varios fármacos que aumentan la esperanza de vida máxima de las ratas en 25-501 TP3T con efectos secundarios limitados. Algunos animales (por ejemplo, ciertos tipos de tortugas) han vivido 200 años, por lo que está claro que los humanos no han alcanzado el límite teórico superior. Como mínimo, lo que más se necesita pueden ser biomarcadores del envejecimiento humano fiables y menos susceptibles de manipulación, ya que esto permitiría una rápida iteración en los ensayos experimentales y clínicos. Una vez que la esperanza de vida humana alcance los 150 años, quizá podamos alcanzar la "velocidad de escape" y ganar tiempo suficiente para que la mayoría de las personas vivas hoy puedan vivir tanto como deseen, aunque no hay garantías de que esto sea biológicamente posible.
Merece la pena echar un vistazo a esta lista y reflexionar sobre lo diferente que sería el mundo si todo esto se hiciera realidad dentro de 7-12 años (lo que encajaría en una versión positiva de la línea temporal de la IA). No cabe duda de que sería un triunfo humanista inimaginable, que eliminaría de un plumazo la mayoría de las catástrofes que han asolado a la humanidad durante miles de años. Muchos de mis amigos y colegas están criando niños, y cuando esos niños crezcan, espero que cualquier mención de enfermedad les suene como oímos hablar del escorbuto, la viruela o la peste bubónica. Esa generación también se beneficiará de una mayor libertad biológica y de autoexpresión y, con suerte, de la posibilidad de vivir tanto tiempo como deseen.
Es difícil sobrestimar lo sorprendentes que serán estos cambios para todo el mundo (salvo para las pequeñas comunidades que prevén una potente IA). En Estados Unidos, por ejemplo, miles de economistas y expertos en política están debatiendo actualmente cómo mantener la solvencia de la Seguridad Social y Medicare y, en términos más generales, cómo reducir los costes de la atención sanitaria (que en gran medida corren a cargo de las personas mayores de 70 años y, en particular, de las que padecen enfermedades terminales como el cáncer). Si todo esto se cumple, la situación de estos programas podría mejorar radicalmente [20], ya que la proporción entre la población en edad de trabajar y la jubilada cambiaría drásticamente. Sin duda, estos retos serán sustituidos por otros, como la forma de garantizar el acceso generalizado a las nuevas tecnologías, pero merece la pena reflexionar sobre lo mucho que cambiará el mundo aunque la biología sea el único ámbito que consiga acelerarse.
2. Neurociencia y mente
En la sección anterior me he centrado en las enfermedades del cuerpo y la biología en general, y no he tratado la neurociencia ni la salud mental. Pero la neurociencia es una subdisciplina de la biología, y la salud mental es tan importante como la salud física. De hecho, la salud mental tiene un impacto más directo en el bienestar humano que la salud física. Cientos de millones de personas tienen una calidad de vida muy baja debido a problemas como la adicción, la depresión, la esquizofrenia, el autismo de bajo funcionamiento, el TEPT, la psicopatía[21] o la discapacidad intelectual. Miles de millones más luchan con problemas cotidianos que a menudo pueden interpretarse como versiones más leves de estos graves trastornos clínicos. Y al igual que la biología en general, quizá sea posible ir más allá de la resolución de problemas para mejorar la calidad básica de la experiencia humana.
El marco básico que he esbozado para la biología se aplica igualmente bien a la neurociencia. Este campo está impulsado por un puñado de descubrimientos relacionados con herramientas de medición o intervención precisa -en la lista anterior, la optogenética es un descubrimiento de la neurociencia, y los recientes avances en microscopía CLARITY y de expansión son avances en la misma dirección, además de una serie de métodos comunes de biología celular directamente aplicables a la neurociencia. Creo que el ritmo de estos avances se verá acelerado de forma similar por la IA, por lo que el marco de "100 años de progreso en 5-10 años" se aplica de la misma forma a la neurociencia que a la biología, y por las mismas razones. Al igual que en biología, los avances de la neurociencia en el siglo XX fueron enormes; por ejemplo, hasta la década de 1950 ni siquiera entendíamos cómo o por qué se disparaban las neuronas. Parece razonable, por tanto, que la neurociencia acelerada por la IA produzca rápidos avances en pocos años.
Algo que deberíamos añadir a este panorama básico es que parte de lo que hemos aprendido (o estamos aprendiendo) sobre IA en los últimos años puede contribuir al avance de la neurociencia, aunque siga siendo realizada únicamente por humanos. La interpretabilidad es el ejemplo obvio: aunque las neuronas biológicas funcionan ostensiblemente de forma muy distinta a las neuronas artificiales (se comunican a través de la frecuencia de picos y espigas, por lo que hay un elemento temporal que no está en las neuronas artificiales, y muchos detalles relacionados con la fisiología celular y los neurotransmisores que modifican enormemente su funcionamiento), la cuestión de "cómo una red celular distribuida y entrenada redes celulares sencillas, distribuidas y entrenadas realizan operaciones combinatorias lineales/no lineales para llevar a cabo conjuntamente cálculos importantes" es la misma, y sospecho firmemente que los detalles de la comunicación neuronal individual se abstraerán en la mayoría de las cuestiones interesantes sobre computación y circuitos [22]. Como ejemplo de esto, los investigadores de la interpretabilidad de los sistemas de IA han redescubierto recientemente mecanismos computacionales en el cerebro del ratón.
Es mucho más fácil realizar experimentos con redes neuronales artificiales que con redes reales (para esto último suele ser necesario cortar cerebros de animales), por lo que la interpretabilidad puede convertirse en una herramienta para mejorar nuestra comprensión de la neurociencia. Además, la propia IA potente puede ser capaz de desarrollar y aplicar esta herramienta mejor que los humanos.
Por supuesto, además de la interpretabilidad, lo que hemos aprendido de la IA sobre cómo se entrenan los sistemas inteligentes debería (aunque no estoy seguro de que lo haya hecho) provocar una revolución en la neurociencia.
Cuando trabajaba en neurociencia, mucha gente se centraba en lo que ahora consideraría preguntas equivocadas sobre el aprendizaje, porque aún no había surgido la noción de suposiciones a escala/lecciones dolorosas. La idea de que funciones objetivas sencillas unidas a grandes cantidades de datos podían impulsar comportamientos increíblemente complejos hacía más interesante comprender las funciones objetivas y los sesgos arquitectónicos que los detalles de la computación urgente. No he seguido de cerca este campo en los últimos años, pero tengo la vaga sensación de que los neurocientíficos computacionales no han asimilado del todo esta lección. Mi actitud hacia la hipótesis de la escala siempre ha sido "ajá, es una explicación de alto nivel de cómo funciona la inteligencia y cómo evoluciona con tanta facilidad", pero no creo que esa sea la opinión del neurocientífico medio, y dentro del campo de la IA, la hipótesis de la escala sirve como el "secreto de la inteligencia" ni siquiera está plenamente aceptada.
Creo que los neurocientíficos deberían combinar esta visión fundamental con las particularidades del cerebro humano (limitaciones biofísicas, historia evolutiva, topología, detalles de las entradas/salidas motoras y sensoriales) en un intento de resolver los enigmas clave de la neurociencia. Puede que algo de esto sea así, pero no creo que sea suficiente, y los neurocientíficos de la IA podrán utilizar esta perspectiva de forma más eficaz para acelerar el progreso.
Preveo que la IA acelerará el progreso de la neurociencia a través de cuatro vías diferentes, todas las cuales pueden trabajar juntas para curar la mayoría de las enfermedades mentales y mejorar el funcionamiento:
- Biología molecular, química y genética tradicionales.Se trata esencialmente de la misma biología general que en la Sección 1, y la IA puede acelerarla mediante los mismos mecanismos.
Hay muchos fármacos que modulan los neurotransmisores para alterar la función cerebral, afectar al estado de alerta o la percepción, alterar el estado de ánimo, etc., y la IA puede ayudarnos a inventar más. aI también puede acelerar la investigación de las bases genéticas de las enfermedades mentales.
- Mediciones e intervenciones neurológicas de precisión.Se trata de la capacidad de medir lo que hacen muchas neuronas individuales o circuitos neuronales e intervenir para cambiar su comportamiento. La optogenética y las sondas neuronales tecnológicas son técnicas capaces de realizar mediciones e intervenir simultáneamente en organismos vivos, y también se han propuesto algunos métodos muy avanzados (por ejemplo, cintas moleculares para leer los patrones de disparo de un gran número de neuronas individuales) que, en principio, parecen posibles.
- Neurociencia computacional avanzada.Como ya se ha señalado, los conocimientos específicos de la IA moderna y de The Whole pueden aplicarse con éxito a los problemas de la neurociencia de sistemas, incluida la posibilidad de revelar las verdaderas causas y la dinámica de trastornos complejos como la psicosis o los trastornos del estado de ánimo.
- Intervenciones conductuales.Dado que me he centrado en los aspectos biológicos de la neurociencia, no lo he mencionado demasiado, pero la psiquiatría y la psicología desarrollaron sin duda una amplia gama de intervenciones conductuales en el siglo XX; sin duda, la IA también puede acelerar estas intervenciones, tanto en términos de desarrollo de nuevos enfoques como de ayuda a los pacientes para que se adhieran a los ya existentes. En términos más generales, la idea de un "entrenador de IA" que te ayude en todo momento a ser lo mejor de ti mismo, estudiando tus interacciones y ayudándote a aprender a ser más eficaz, parece muy prometedora.
Creo que estas cuatro vías de progreso, trabajando juntas, permitirán, al igual que la lucha contra las enfermedades físicas, curar o prevenir la mayoría de las enfermedades mentales en los próximos 100 años y, por tanto, probablemente en los 5-10 años siguientes a la aceleración de la IA. Específicamente, mi conjetura es:
- La mayoría de las enfermedades mentales pueden curarse.No soy un experto en trastornos psiquiátricos (paso mi tiempo en neurociencia construyendo sondas para estudiar pequeños grupos de neuronas), pero sospecho que trastornos como el TEPT, la depresión, la esquizofrenia, la adicción, etc. podrían averiguarse y tratarse muy eficazmente mediante alguna combinación de las cuatro direcciones anteriores. La respuesta puede ser "algo va mal bioquímicamente" (aunque puede ser muy complejo) y "algo va mal en la red neuronal, a alto nivel". Es decir, se trata de un problema de neurociencia de sistemas, aunque esto no niega el impacto de las intervenciones conductuales comentadas anteriormente. Parece probable que las herramientas de medición e intervención humana in vivo conduzcan a una rápida iteración y progreso.
- Una situación muy "estructural" puede ser más difícil, pero no imposible.Existen algunas pruebas de que la psicopatía está asociada a marcadas diferencias neuroanatómicas: ciertas áreas del cerebro son simplemente más pequeñas o están menos desarrolladas en los psicópatas. También se cree que los psicópatas carecen de empatía desde una edad muy temprana; puede que siempre haya sido así, independientemente de las diferencias en sus cerebros. Lo mismo podría aplicarse a ciertas discapacidades intelectuales y quizá a otras afecciones. Recablear el cerebro parece difícil, pero parece ser una tarea muy rentable para la inteligencia. Puede que haya formas de inducir al cerebro adulto a un estado anterior o más plástico para que pueda remodelarse. Tengo muchas dudas al respecto, pero mi instinto me lleva a ser optimista sobre lo que la IA puede inventar en este campo.
- Parece posible una prevención genética eficaz de la psicosis.La mayoría de los trastornos psiquiátricos son parcialmente hereditarios, y los estudios de asociación del genoma completo están empezando a avanzar en la identificación de los factores asociados, que suelen ser numerosos. La prevención de la mayoría de estos trastornos mediante cribado embrionario puede ser posible, de forma similar a lo que ocurre con las enfermedades físicas. Una diferencia es que las enfermedades mentales tienen más probabilidades de ser poligénicas (muchos genes contribuyen), por lo que existe el riesgo de seleccionar sin saberlo rasgos positivos asociados a la enfermedad debido a su complejidad. Curiosamente, los estudios GWAS de los últimos años parecen sugerir que estas correlaciones pueden estar sobreestimadas. En cualquier caso, la neurociencia acelerada por IA puede ayudarnos a abordar estas cuestiones. Por supuesto, el cribado embrionario de rasgos complejos plantea algunas cuestiones sociales y será controvertido, aunque supongo que la mayoría de la gente estaría a favor del cribado de trastornos psiquiátricos graves o incapacitantes.
- No creemos que también se aborden los problemas cotidianos de la enfermedad clínica.La mayoría de nosotros tenemos problemas psicológicos cotidianos que no suelen considerarse elevados al nivel de enfermedad clínica. Algunas personas son propensas a la ira, otras tienen dificultades para concentrarse o suelen estar somnolientas, algunas son miedosas o ansiosas, o reaccionan mal al cambio. Hoy en día existen medicamentos que ayudan, por ejemplo, con el estado de alerta o la concentración (cafeína, modafinilo, Ritalin), pero como en muchas otras áreas antes, puede haber más posibilidades. Es posible que existan muchos más fármacos de este tipo que aún no se han descubierto y que haya formas totalmente nuevas de intervenir, como la estimulación lumínica dirigida (véase la optogenética más arriba) o los campos magnéticos. Teniendo en cuenta la cantidad de fármacos que hemos desarrollado en el siglo XX para modular la función cognitiva y los estados emocionales, soy muy optimista respecto a un "siglo XXI comprimido" en el que todo el mundo pueda hacer que su cerebro funcione mejor y tenga experiencias cotidianas más satisfactorias.
- La experiencia humana de base puede mejorar.Dando un paso más, muchas personas experimentan momentos extraordinarios de revelación, inspiración creativa, compasión, plenitud, trascendencia, amor, belleza o paz meditativa. El carácter y la frecuencia de estas experiencias varían de una persona a otra, en momentos diferentes, y a veces pueden ser desencadenadas por diversos medicamentos (aunque a menudo con efectos secundarios). Todo esto sugiere que el "espacio de experiencias posibles" es muy amplio, y que la vida de más personas puede consistir en estos momentos extraordinarios. También podría mejorar diversas funciones cognitivas. Podría ser la versión neurocientífica de la "libertad biológica" o la "prolongación de la vida".
Un tema que aparece a menudo en la ciencia ficción, pero que deliberadamente no he tratado aquí, es la idea de "cargar la conciencia", capturando los patrones y la dinámica del cerebro humano e instanciándolos en software. Este tema podría ser objeto de un artículo en sí mismo, pero la respuesta resumida es que, aunque creo que en principio es posible, en la práctica se enfrenta a importantes retos técnicos y sociales que, incluso con una IA potente, podrían dejarla fuera de la ventana de 5-10 años de la que estamos hablando.
En resumen, la neurociencia acelerada por la IA podría mejorar drásticamente el tratamiento, posiblemente incluso curar la mayoría de las enfermedades mentales, y ampliar drásticamente la "libertad cognitiva y espiritual" y las capacidades cognitivas y emocionales humanas. Será tan radical como las mejoras de la salud física descritas en la Sección 1. Tal vez el mundo no se vería significativamente diferente en el exterior, pero el mundo de la experiencia humana sería un lugar mejor, más humano y que ofrecería más oportunidades para la autorrealización. También sospecho que la mejora de la salud mental mejoraría muchos otros problemas sociales, incluidos los aparentemente políticos o económicos.
3. Desarrollo económico y pobreza
Las dos primeras secciones tratan de las nuevas tecnologías del GNUD para curar enfermedades y mejorar la calidad de la vida humana. Sin embargo, desde un punto de vista humanitario, una pregunta obvia es: "¿Tendrá todo el mundo acceso a estas tecnologías?".
Una cosa es desarrollar la cura de una enfermedad y otra erradicarla del mundo. En términos más generales, muchas de las intervenciones sanitarias existentes aún no se han aplicado en otras partes del mundo, y lo mismo suele ocurrir con las mejoras tecnológicas (no sanitarias). En otras palabras, el nivel de vida en muchas partes del mundo sigue siendo extremadamente pobre: el África subsahariana tiene un PIB per cápita de unos 2.000 dólares, frente a los 75.000 dólares de Estados Unidos. Si la IA aumenta aún más el crecimiento económico y la calidad de vida en el mundo desarrollado mientras hace poco por ayudar al mundo en desarrollo, deberíamos considerarlo un terrible fracaso moral y una mancha en las verdaderas victorias humanitarias de las dos secciones anteriores. Lo ideal sería que una IA potente ayudara al mundo en desarrollo a "alcanzar" al mundo desarrollado, aunque revolucionara a este último.
No estoy tan seguro de que la IA sea capaz de inventar la tecnología subyacente que resuelva los problemas de desigualdad y crecimiento económico como de que lo haga, dado que la tecnología tiene un rendimiento significativamente mayor de la inteligencia (incluida la capacidad de trabajar en torno a la complejidad y la falta de datos), mientras que la economía implica muchas limitaciones por parte de los seres humanos, y mucha complejidad inherente. Soy un poco escéptico en cuanto a que la IA pueda resolver el famoso "problema informático socialista" [23], e incluso si pudiera, no creo que los gobiernos confiaran (o debieran confiar) sus políticas económicas a una entidad así. También hay que plantearse cómo convencer a la gente para que acepte tratamientos que son eficaces pero sobre los que puede que se muestren escépticos.
Los retos a los que se enfrenta el mundo en desarrollo se ven agravados por la corrupción generalizada tanto en el sector público como en el privado. La corrupción crea un círculo vicioso: agrava la pobreza, que a su vez engendra más corrupción.Los programas de desarrollo económico impulsados por la IA deben tener en cuenta la corrupción, la debilidad de las instituciones y otros retos muy humanos.
No obstante, veo claros motivos para el optimismo. Se han erradicado enfermedades, muchos países han pasado de la pobreza a la riqueza, y está claro que las decisiones implicadas en estas tareas muestran un alto rendimiento de la inteligencia (a pesar de las limitaciones y la complejidad humanas), por lo que la IA puede ser capaz de hacerlas mejor que en la actualidad. También puede haber intervenciones específicas que puedan eludir las limitaciones humanas, y la IA puede centrarse en ellas. Y lo que es más importante, tenemos que intentarlo. Tanto las empresas de IA como los responsables políticos del mundo desarrollado tienen que poner de su parte para garantizar que el mundo en desarrollo no se quede atrás; el imperativo moral es demasiado grande. Así que en esta sección seguiré defendiendo el optimismo, pero recordando que el éxito no está garantizado y depende de nuestros esfuerzos colectivos.
A continuación especulo sobre el aspecto que podría tener el mundo en desarrollo dentro de 5-10 años tras el desarrollo de una IA potente:
- Distribución de las intervenciones sanitarias.El ámbito en el que probablemente soy más optimista es el de la distribución de las intervenciones sanitarias en el mundo. Las enfermedades se han erradicado prácticamente mediante campañas descendentes: la viruela se erradicó por completo en la década de 1970, y la poliomielitis y la enfermedad del gusano de Guinea se han erradicado prácticamente con menos de 100 casos al año. Los modelos epidemiológicos matemáticamente sofisticados han desempeñado un papel activo en las campañas de erradicación de enfermedades, y parece muy probable que sistemas de IA más inteligentes que los humanos puedan hacer el trabajo mejor que éstos. La logística de la distribución también podría optimizarse enormemente. Una cosa que he aprendido al ser uno de los primeros donantes de GiveWell es que algunas organizaciones benéficas sanitarias son más eficaces que otras; esperemos que los esfuerzos acelerados por la IA sean más eficaces. Además, algunos avances biológicos han facilitado la logística de la distribución: la malaria, por ejemplo, es difícil de erradicar porque requiere tratamiento cada vez que se contrae la enfermedad; las vacunas que sólo requieren una vacunación simplifican la logística (de hecho, actualmente se está desarrollando una vacuna de este tipo contra la malaria). Existen mecanismos de distribución más sencillos: por ejemplo, erradicar algunas enfermedades atacando a sus vectores animales, por ejemplo liberando mosquitos infectados con una bacteria que les impide ser portadores de la enfermedad (y luego infectar a todos los demás mosquitos) o simplemente utilizando un impulsor genético para eliminar los mosquitos. Esto requeriría una o unas pocas acciones focalizadas en lugar de una campaña coordinada que tendría que tratar a millones de personas individualmente. En general, creo que entre 5 y 10 años es un plazo razonable para que una parte significativa de los beneficios sanitarios impulsados por la IA (quizás 50%) se haya extendido a los países más pobres del mundo. Un buen objetivo podría ser que el mundo en desarrollo gozara al menos de la misma salud que el mundo desarrollado en un plazo de 5 a 10 años a partir de la aparición de una IA potente, aunque siga estando por detrás del mundo desarrollado. Por supuesto, alcanzar este objetivo requerirá un enorme esfuerzo en salud mundial, filantropía, defensa política y muchas otras áreas, y tanto los desarrolladores de IA como los responsables políticos deberían ayudar.
- Crecimiento económico.¿Puede el mundo en desarrollo alcanzar rápidamente al mundo desarrollado, no sólo en términos de salud sino también en todos los aspectos de la economía? Hay precedentes: en las últimas décadas del siglo XX, varias economías de Asia Oriental lograron tasas anuales sostenidas de crecimiento real del PIB de alrededor de 10%, lo que les permitió alcanzar al mundo desarrollado. Los planificadores económicos humanos tomaron las decisiones que condujeron a este éxito tirando de algunas palancas clave (por ejemplo, la política industrial para el crecimiento impulsado por las exportaciones, y resistiendo la tentación de depender de la riqueza de los recursos naturales) en lugar de tomar el control directo de la economía en su conjunto; es posible que los "ministros de finanzas y banqueros centrales artificialmente inteligentes" puedan replicar o incluso superar este logro 10%. logro 10%. Una cuestión importante es cómo conseguir que los gobiernos del mundo en desarrollo adopten los principios de autodeterminación respetándolos: algunos pueden mostrarse entusiastas, pero otros escépticos. En el lado optimista, muchas de las intervenciones sanitarias del punto anterior pueden aumentar de forma natural el crecimiento económico: la erradicación del sida/malaria/gusanos parásitos tendría un impacto transformador en la productividad, por no mencionar que algunas intervenciones neurocientíficas (por ejemplo, mejorar el estado de ánimo y la concentración) tendrían beneficios económicos tanto en el mundo desarrollado como en el mundo en desarrollo. Por último, las tecnologías no sanitarias aceleradoras de la IA (por ejemplo, tecnologías energéticas, drones de transporte, materiales de construcción mejorados, mejor logística y distribución, etc.) podrían impregnar el mundo de forma natural; por ejemplo, incluso en el África subsahariana, los teléfonos móviles se están generalizando rápidamente a través de mecanismos de mercado sin esfuerzos filantrópicos. En el lado más negativo, a pesar de los muchos beneficios potenciales de la IA y la automatización, también suponen un reto para el desarrollo económico, especialmente para los países que aún no están industrializados. Encontrar formas de garantizar que estos países puedan seguir desarrollando y mejorando sus economías en la era de la automatización es un reto importante que deben abordar los economistas y los responsables políticos. En general, un escenario de ensueño -y quizás un objetivo- sería una tasa de crecimiento anual del PIB de 201 TP3T en el mundo en desarrollo, con 101 TP3T procedentes de la toma de decisiones económicas posibilitada por la IA y otros 101 TP3T de la aceleración de la IA. la difusión natural de la tecnología, incluida, entre otras, la sanidad. De hacerse realidad, esto permitiría al África subsahariana alcanzar el PIB per cápita actual de China en un plazo de 5 a 10 años, al tiempo que permitiría a muchos otros mundos en desarrollo alcanzar niveles superiores al PIB actual de Estados Unidos. Una vez más, se trata de un escenario de ensueño, no de algo que vaya a suceder por defecto: es algo en lo que todos debemos colaborar para hacerlo más posible.
- Seguridad alimentaria[24].Los avances tecnológicos en los cultivos, como mejores fertilizantes y pesticidas, más automatización y un uso más eficiente de la tierra, aumentaron enormemente el rendimiento de las cosechas en el siglo XX y salvaron a millones de personas del hambre. La ingeniería genética está mejorando aún más muchos cultivos. Encontrar más formas de hacerlo -y hacer más eficientes las cadenas de suministro agrícola- podría darnos una segunda revolución verde impulsada por la IA que ayude a cerrar la brecha entre el mundo en desarrollo y el desarrollado.
- Mitigación del cambio climático.El cambio climático se dejará sentir con más fuerza en el mundo en desarrollo, obstaculizando su desarrollo. Cabe esperar que la IA dé lugar a tecnologías mejoradas para mitigar o detener el cambio climático, desde la eliminación del carbono atmosférico y las tecnologías de energía limpia hasta la carne criada en laboratorio que reduzca nuestra dependencia de la ganadería intensiva en carbono. Por supuesto, como ya se ha dicho, la tecnología no es lo único que limita los avances en la lucha contra el cambio climático. Pero hay buenas razones para pensar que la investigación potenciada por la IA nos dará los medios para que la mitigación del cambio climático sea menos costosa y perjudicial, haciendo que muchas de las objeciones sean irrelevantes y desbloqueando el potencial para un mayor desarrollo económico en los países en desarrollo.
- Desigualdad dentro del Estado.He hablado principalmente de la desigualdad como un fenómeno global (que creo que es su manifestación más importante), pero por supuesto la desigualdad también existe dentro de los países. Con el espectacular aumento de las intervenciones sanitarias avanzadas, especialmente los fármacos para la longevidad o la mejora cognitiva, existe sin duda una preocupación válida de que estas tecnologías sean "sólo para los ricos". Soy especialmente optimista sobre la desigualdad dentro de los países desarrollados por dos razones. En primer lugar, los mercados funcionan mejor en el mundo desarrollado, y suelen ser buenos a la hora de reducir el coste de las tecnologías de alto valor a lo largo del tiempo [25]. En segundo lugar, las instituciones políticas de los países desarrollados son más sensibles a sus ciudadanos y tienen mayor capacidad nacional para aplicar programas de AU: espero que los ciudadanos exijan el acceso a tecnologías que mejoran de forma tan fundamental su calidad de vida. Por supuesto, esto no quiere decir que tales demandas vayan a tener éxito - y aquí es donde tenemos que hacer colectivamente todo lo que podamos para garantizar una sociedad justa. La desigualdad de riqueza (en contraposición a la desigualdad en el acceso a las tecnologías que salvan y mejoran la vida) es una cuestión aparte que parece más difícil de abordar, y que analizo en el apartado 5.
- Cuestiones de exclusión voluntaria.. Tanto en los países desarrollados como en los que están en vías de desarrollo existe el problema de que la gente "opte por no beneficiarse" de las ventajas de la IA (algo similar al movimiento antivacunas o al movimiento ludita en general). Podrían producirse circuitos de retroalimentación negativos, por ejemplo, que las personas menos capacitadas para tomar buenas decisiones optasen por no participar en el desarrollo tecnológico que mejora su capacidad de decisión, lo que provocaría un aumento de las diferencias e incluso la creación de una subclase antiutópica (que, según algunos investigadores, socavaría la democracia, tema que trataré más adelante). Esto volvería a poner una mancha moral en el progreso positivo de la IA. Se trata de un problema difícil de resolver, ya que no creo que sea éticamente posible obligar a la gente, pero al menos podemos intentar mejorar la comprensión científica de las personas; quizá la propia IA pueda ayudarnos con esto. Una señal alentadora es que, históricamente, las campañas antitecnología han tendido a ser más ruidosas que la acción real: la oposición a la tecnología moderna es popular, pero la mayoría de la gente acaba adoptándola, al menos cuando se trata de una cuestión de elección personal. Los individuos tienden a adoptar la mayoría de las tecnologías sanitarias y de consumo, mientras que las tecnologías que realmente se oponen, como la energía nuclear, suelen ser decisiones políticas colectivas.
En general, soy optimista sobre la posibilidad de llevar rápidamente los avances biológicos de la IA a los habitantes del mundo en desarrollo. Tengo la esperanza, aunque no la seguridad, de que la IA pueda alcanzar tasas de crecimiento económico sin precedentes que sitúen al mundo en desarrollo al menos por encima de los niveles actuales del mundo desarrollado. Me preocupa el problema de la "exclusión voluntaria" tanto en los países desarrollados como en los países en desarrollo, pero sospecho que desaparecerá con el tiempo y que la IA puede contribuir a acelerar el proceso. El mundo no será perfecto, y los rezagados no se pondrán al día, al menos en los primeros años. Pero con nuestro esfuerzo, podemos avanzar rápidamente en la dirección correcta. Y si lo hacemos, podremos contribuir al menos en algo a las promesas de dignidad e igualdad que hacemos a todos los seres humanos del planeta.
4. Paz y gobernanza
Supongamos que todo va bien en los tres primeros componentes: la enfermedad, la pobreza y la desigualdad se reducen significativamente, y la base de la experiencia humana mejora enormemente. Esto no significa que se hayan abordado todas las causas principales del sufrimiento humano. Los seres humanos siguen siendo una amenaza los unos para los otros.
Aunque existe una tendencia a que el progreso tecnológico y el desarrollo económico conduzcan a la democracia y la paz, se trata de una tendencia muy laxa que a menudo (y recientemente) ha ido hacia atrás. A principios del siglo XX, la gente pensaba que había dejado atrás la guerra; luego vinieron las dos guerras mundiales. Hace treinta años, Francis Fukuyama escribió sobre el "fin de la historia" y el triunfo definitivo de la democracia liberal; eso aún no ha sucedido. Hace veinte años, los responsables políticos estadounidenses creían que el libre comercio con China conduciría a su liberalización a medida que se enriqueciera; eso simplemente no ha sucedido, y ahora parece que nos dirigimos a una segunda Guerra Fría con un bloque autoritario resucitado. Teorías creíbles sugieren que la tecnología de Internet puede favorecer en realidad el autoritarismo frente a la democracia, como se pensó en un principio (por ejemplo, durante la Primavera Árabe). Parece importante intentar comprender cómo la poderosa IA se cruzará con cuestiones de paz, democracia y libertad.
Desgraciadamente, no tengo más razones para creer que la IA promoverá preferente o estructuralmente la democracia y la paz que las que tengo para creer que promoverá estructuralmente la salud humana y aliviará la pobreza. Los conflictos humanos son contradictorios y, en principio, la IA puede ayudar tanto a los "buenos" como a los "malos". En todo caso, algunos factores estructurales parecen preocupantes: la IA puede facilitar la propaganda y la vigilancia, que son herramientas clave de los gobernantes autoritarios. Por tanto, nosotros, como actores individuales, debemos tratar de empujar las cosas en la dirección correcta: si queremos que la IA favorezca la democracia y los derechos individuales, tendremos que luchar por ese resultado. Mi opinión al respecto es más firme que la que tengo sobre la desigualdad internacional: el triunfo de la democracia liberal y la estabilidad política no está garantizado, quizá ni siquiera sea posible, y requerirá un gran sacrificio y compromiso por parte de todos nosotros, como a menudo ha ocurrido en el pasado.
Creo que el problema tiene dos vertientes: el conflicto internacional y la estructura interna del Estado. En el frente internacional, parece importante que las democracias prevalezcan en la escena mundial cuando se creen poderosas IA.El autoritarismo impulsado por la IA parece demasiado aterrador de contemplar, por lo que las democracias deben ser capaces de establecer las condiciones en las que las poderosas IA pueden entrar en el mundo, tanto para evitar ser arrolladas por los autoritarios como para impedir que se produzcan abusos de los derechos humanos dentro de los Estados autoritarios.
Mi conjetura actual es que la mejor forma de conseguirlo es mediante una "estrategia de concordancia" [26], en la que una coalición de democracias intenta obtener una clara ventaja (aunque sea temporal) sobre una IA poderosa asegurando su cadena de suministro, expandiéndose rápidamente e impidiendo o retrasando el acceso del adversario a recursos clave (por ejemplo, chips y equipos semiconductores). ). La coalición utilizaría la IA para lograr una sólida ventaja militar (el palo) al tiempo que ofrecería distribuir los beneficios de una IA potente a un número cada vez mayor de países (la zanahoria) a cambio de apoyar la estrategia de la coalición para promover la democracia (que sería algo parecido al "átomo de la paz"). El objetivo de la Coalición es conseguir el apoyo de cada vez más países del mundo, aislar a nuestros peores adversarios y, en última instancia, ponerlos en mejores condiciones para renunciar a competir con las democracias por todos los beneficios y no luchar contra adversarios superiores: renunciar a competir con las democracias por todos los beneficios y no luchar contra adversarios superiores.
Si podemos hacer todo esto, tendremos un mundo en el que las democracias dominarán la escena mundial y tendrán el poder económico y militar para evitar ser socavadas, subyugadas o destruidas por Estados autoritarios, y podrán convertir sus ventajas de IA en ventajas duraderas. Esto podría conducir, siendo optimistas, a un "eterno 1991", un mundo en el que prevalezcan las democracias y se haga realidad el sueño de Fukuyama. Una vez más, esto será muy difícil de realizar, sobre todo porque requerirá una estrecha cooperación entre las empresas privadas de IA y los gobiernos democráticos, así como una toma de decisiones extremadamente sabia sobre el equilibrio entre zanahorias y palos.
Incluso si todo esto sale bien, deja abierta la cuestión de la lucha entre democracia y autoritarismo dentro de cada país. Obviamente, es difícil predecir lo que ocurrirá aquí, pero tengo cierto optimismo en que, dado un entorno global en el que las democracias controlen las IA más poderosas, éstas podrían estructurarse realmente para apoyar la democracia en cualquier lugar. En particular, en un entorno así, los gobiernos democráticos podrían utilizar su super IA para ganar la guerra de la información: podrían contrarrestar las operaciones de influencia y propaganda de los Estados autoritarios, y quizá incluso crear un entorno global de información libre proporcionando acceso a servicios de información y de IA que los Estados autoritarios carecen de la capacidad tecnológica para bloquear o controlar. Puede que no sea necesario hacer propaganda, sino simplemente contrarrestar los ataques malintencionados y eliminar el libre flujo de información. Aunque no sea inmediato, este tipo de igualdad de condiciones tiene muchas posibilidades de desplazar gradualmente la gobernanza mundial hacia la democracia por varias razones.
En primer lugar, los avances en la mejora de la calidad de vida de las secciones 1-3 deberían, en igualdad de condiciones, promover la democracia: históricamente lo han hecho al menos hasta cierto punto. En particular, espero que la mejora de la salud mental, la felicidad y la educación aumenten la democracia, ya que las tres están negativamente correlacionadas con el apoyo a los líderes autoritarios. En general, la gente quiere más autoexpresión cuando tiene otras necesidades cubiertas, y la democracia es una forma de autoexpresión. Por el contrario, el autoritarismo se nutre del miedo y el resentimiento.
En segundo lugar, hay muchas posibilidades de que la información libre socave el autoritarismo, siempre que los autoritarios no puedan censurarla. La IA sin censura también puede proporcionar a los individuos poderosas herramientas para socavar los gobiernos opresores. Los gobiernos opresores sobreviven negando a la gente algún tipo de conocimiento común, impidiendo que se den cuenta de que "el emperador no lleva ropa". Por ejemplo, Srdja Popovic, que ayudó a derrocar al gobierno de Milosevic, ha escrito mucho sobre técnicas para desautorizar psicológicamente a los autoritarios, romper hechizos y reunir a la oposición a los dictadores. Una versión sobrehumanamente eficaz de la IA en el bolsillo de todo el mundo (cuyas habilidades parecen tener un alto rendimiento para la inteligencia) podría crear apoyo para los disidentes y reformistas de todo el mundo. De nuevo, va a ser una lucha larga y dura, y la victoria no está garantizada, pero si diseñamos y construimos la IA de la forma correcta, podría ser al menos una lucha en la que los defensores de la libertad tuvieran ventaja en todas partes.
Al igual que la neurociencia y la biología, podemos preguntarnos cómo hacer las cosas "mejor de lo normal", no sólo cómo evitar el autoritarismo, sino cómo hacer que la democracia sea mejor de lo que es hoy. Incluso en las democracias suelen producirse injusticias. Las sociedades gobernadas por el Estado de Derecho prometen a sus ciudadanos que todos serán iguales ante la ley y que todos disfrutarán de los derechos humanos básicos, pero está claro que la gente no siempre recibe estos derechos en la práctica. Esta promesa es algo de lo que estar orgullosos aunque se cumpla parcialmente, pero ¿puede la IA ayudarnos a hacerlo mejor?
Por ejemplo, ¿puede la IA mejorar nuestros sistemas legales y judiciales haciendo que las decisiones y los procesos sean más justos? En la actualidad, existe una gran preocupación por que los sistemas de IA sean causa de discriminación en contextos legales o judiciales, y estas preocupaciones son importantes y deben defenderse. Al mismo tiempo, la viabilidad de la democracia depende del uso de las nuevas tecnologías para mejorar las instituciones democráticas, no sólo para reaccionar ante los riesgos. Una aplicación verdaderamente madura y exitosa de la IA tiene el potencial de reducir el sesgo y ser más justa para todos.
Durante siglos, el sistema jurídico se ha enfrentado al dilema de que la ley, que pretende ser justa, es intrínsecamente subjetiva y, por tanto, debe ser interpretada por seres humanos parciales. Los intentos de mecanizar completamente el Derecho no han funcionado porque el mundo real es caótico y no siempre puede describirse mediante fórmulas matemáticas. En su lugar, el sistema jurídico se basa en criterios notoriamente imprecisos, como "castigo cruel e inusual" o "falta total de valor social redentor", que luego son interpretados por seres humanos -y a menudo de formas que muestran parcialidad, prejuicios y falta de valor social. -y a menudo lo hacen de formas que muestran parcialidad, favoritismo o arbitrariedad. Los "contratos inteligentes" de las criptomonedas no han revolucionado el Derecho, porque el código ordinario no es lo bastante inteligente para dictaminar todas las cosas interesantes. Pero la IA puede ser lo bastante inteligente: es la primera tecnología capaz de emitir juicios amplios y ambiguos de forma repetible y mecánica.
No estoy sugiriendo que sustituyamos literalmente a los jueces por sistemas de IA, pero la combinación de imparcialidad y capacidad para comprender y tratar situaciones complicadas del mundo real debería tener algunas aplicaciones muy positivas para el derecho y la justicia. Como mínimo, un sistema de este tipo podría servir de ayuda a la toma de decisiones humana. La transparencia es importante en cualquier sistema de este tipo, y la sofisticada ciencia de la IA podría proporcionarla: el proceso de entrenamiento de estos sistemas podría estudiarse exhaustivamente, y podrían utilizarse técnicas interpretables avanzadas para mirar dentro del modelo final y evaluarlo en busca de sesgos ocultos que serían imposibles con humanos. Estas herramientas de IA también podrían utilizarse para vigilar las violaciones de los derechos fundamentales en contextos judiciales o policiales, haciendo que las constituciones se refuercen a sí mismas.
Del mismo modo, la IA puede utilizarse para agregar opiniones e impulsar el consenso entre los ciudadanos, resolver conflictos, encontrar puntos en común y buscar compromisos. Algunas de las primeras ideas en este sentido han sido recogidas por el Computational Democracy Project, que incluye una colaboración con Anthropic. Una ciudadanía más informada y reflexiva refuerza sin duda las instituciones democráticas.
También existe una clara oportunidad de utilizar la IA para ayudar a prestar servicios públicos -como prestaciones sanitarias o servicios sociales- que en principio están al alcance de todos, pero que en la práctica suelen ser muy deficientes y peores en unos lugares que en otros. Esto incluye servicios sanitarios, registros de vehículos, impuestos, seguridad social, aplicación de códigos de construcción, etc. Contar con una inteligencia artificial muy bien pensada e informada, cuyo trabajo consista en facilitar el acceso a todas y cada una de las cosas que el gobierno debe proporcionar de forma comprensible -y también en ayudar a cumplir las a menudo confusas normas del gobierno- sería un gran logro. Aumentar la capacidad del Estado ayuda a cumplir la promesa de igualdad ante la ley y refuerza el respeto por la gobernanza democrática. Los servicios mal ejecutados son una de las principales causas del actual cinismo hacia el gobierno [27].
Todas ellas son ideas vagas y, como dije al principio de esta sección, confío mucho menos en su viabilidad que en mis avances en biología, neurociencia y alivio de la pobreza. Puede que sean ideas utópicas poco prácticas. Pero es importante tener una visión ambiciosa y estar dispuesto a soñar con audacia e intentar cosas nuevas. La visión de la IA como garante de la libertad, los derechos individuales y la igualdad ante la ley es demasiado poderosa para ignorarla. Un sistema de gobierno del siglo XXI impulsado por la IA puede ser a la vez un protector más firme de las libertades individuales y un faro de esperanza, contribuyendo a hacer de la democracia liberal la forma de gobierno que el mundo desea adoptar.
5. Trabajo y sentido
Incluso si todo lo de las cuatro primeras partes sale bien -no sólo aliviamos la enfermedad, la pobreza y la desigualdad, sino que la democracia liberal se convierte en la forma de gobierno dominante, y las democracias liberales existentes se convierten en mejores versiones de sí mismas-, al menos una cuestión importante sigue en pie. "Es estupendo que vivamos en un mundo tan avanzado tecnológicamente, además de justo y decente", podría objetarse, "pero con la IA haciéndolo todo, ¿cómo tendrán sentido los seres humanos? ¿Cómo sobrevivirán económicamente, por cierto?".
Creo que este problema es más difícil que otros. Lo que quiero decir es que esta cuestión es más imprevisible que otras porque implica macrocuestiones sobre cómo están organizadas las sociedades, cuestiones que a menudo sólo pueden resolverse con el tiempo y de forma descentralizada. Por ejemplo, las sociedades históricas de cazadores-recolectores pueden haber imaginado que la vida carecería de sentido sin la caza y los diversos rituales religiosos asociados a ella, y pueden haber imaginado que nuestra saciada sociedad tecnológica carecía de propósito. También es posible que no comprendieran cómo nuestra economía mantiene a todo el mundo, o qué funciones pueden desempeñar eficazmente las personas en una sociedad mecanizada.
No obstante, merece la pena decir al menos unas palabras, teniendo en cuenta que la brevedad de esta sección no sugiere en modo alguno que no me tome en serio estas cuestiones; al contrario, es señal de una falta de respuestas claras.
Sobre el tema del sentido, creo que es probable que una opinión equivocada sea que si uno se dedica a una tarea que no tiene sentido, es sólo porque la IA puede hacerla mejor. La mayoría de la gente no es la mejor del mundo en nada, y eso no parece molestarles especialmente. Claro que hoy en día todavía pueden contribuir a través de la ventaja comparativa y pueden derivar significado del valor económico que producen, pero la gente también disfruta mucho con actividades que no producen valor económico. Yo paso mucho tiempo jugando a videojuegos, nadando, paseando y hablando con amigos, todo lo cual no produce valor económico. Puedo pasarme el día intentando mejorar en un videojuego o ir más rápido en bicicleta por la montaña, y no me importa si alguien en algún lugar es mejor que yo en esas cosas. En cualquier caso, creo que el significado viene sobre todo de las relaciones y las conexiones, no del trabajo económico. La gente quiere una sensación de logro, aunque sea una sensación de competición, y en un mundo post-AI es perfectamente posible pasar años intentando algunas tareas muy difíciles con estrategias complejas, de forma similar a lo que hace la gente hoy en día cuando empieza un proyecto de investigación, intenta convertirse en actor de Hollywood o crea una empresa [28]. El hecho de que (a) una IA en algún lugar pudiera en principio hacer esta tarea mejor, y (b) que esta tarea ya no sea un elemento de rentabilidad económica en la economía global, no parece importarme.
De hecho, me parece que la parte económica es más difícil que la parte significativa. Por "económica" en esta sección, me refiero al posible problema de que la mayoría o todos los humanos no puedan contribuir de forma significativa en una economía suficientemente avanzada impulsada por la IA. Se trata de un problema mucho más macro que la cuestión separada de la desigualdad, especialmente el acceso desigual a las nuevas tecnologías, que analizo en la sección 3.
En primer lugar, a corto plazo estoy de acuerdo en que el argumento de la ventaja comparativa seguirá haciendo que los humanos sean relevantes y aumenten realmente su productividad, igualando incluso el terreno de juego en algunos aspectos. Mientras la IA sólo sea 90% mejor en un trabajo concreto, los otros 10% harán que los humanos se vuelvan muy apalancados, aumenten su remuneración y creen de hecho un montón de nuevos empleos humanos que complementen y amplíen aquello en lo que la IA es buena, permitiendo que los "10%" se expandan para seguir empleando a casi todo el mundo. De hecho, incluso si la IA puede hacer 100% cosas mejor que los humanos, la lógica de la ventaja comparativa sigue aplicándose si sigue siendo ineficiente o cara en determinadas tareas, o si los insumos de recursos para los humanos y la IA son significativamente diferentes. Un área en la que los humanos pueden mantener una ventaja relativa (o incluso absoluta) a lo largo del tiempo es el mundo físico. Por tanto, creo que la economía humana puede seguir siendo relevante incluso después de que alcancemos el "estado de genio centrado en los datos".
Sin embargo, creo que a largo plazo la IA será tan eficaz y barata que esto dejará de ser válido. En ese momento, nuestra configuración económica actual dejará de tener sentido y será necesario un diálogo social más amplio sobre cómo debería organizarse la economía.
Aunque pueda parecer una locura, lo cierto es que la civilización ha superado con éxito grandes cambios económicos en el pasado: de la caza-recolección a la agricultura, de la agricultura al feudalismo y del feudalismo al industrialismo. Sospecho que será necesario algo nuevo y más extraño, una visión que nadie hace muy bien hoy en día. Podría ser algo así como una gran renta básica universal para todos, aunque sospecho que eso es sólo una pequeña parte de la solución. Podría ser una economía capitalista dirigida por un sistema de IA, que luego asigna recursos a los humanos (por lo que el sistema de IA cree que tiene sentido recompensar entre los humanos) basándose en el juicio del sistema de IA (que en última instancia se deriva de los valores humanos) basado en algún tipo de economía secundaria. Quizá la economía funcione con puntos Whuffie. O puede que los humanos sigan siendo económicamente valiosos, de alguna manera no prevista por los modelos económicos habituales. Todas estas soluciones tienen un gran número de posibles problemas, y no está claro que tengan sentido a menos que se haga mucha iteración y experimentación. Al igual que otros retos, puede que tengamos que luchar por ellas para obtener buenos resultados: las direcciones explotadoras o antiutópicas también son posibles y hay que desalentarlas. Se podría escribir más sobre estas cuestiones, y espero hacerlo en el futuro.
resúmenes
A través de los distintos temas mencionados, he intentado presentar una visión de un mundo que, si todo va bien con la IA, es un mundo mucho mejor que el actual. No sé si ese mundo es realista, e incluso si lo es, no se hará realidad sin el duro trabajo y la lucha de muchas personas valientes y entregadas. Todo el mundo (¡incluidas las empresas de IA!) ) tiene que poner de su parte, tanto para evitar riesgos como para obtener todos los beneficios.
Pero es un mundo por el que merece la pena luchar. Si esto ocurre dentro de cinco o diez años - la derrota de la mayoría de las enfermedades, el crecimiento de la libertad biológica y cognitiva, la salida de miles de millones de personas de la pobreza, la puesta en común de las nuevas tecnologías, el renacimiento de la democracia liberal y de los derechos humanos - dudo que a todos los que lo presencien les afecte . Quiero decir, ser testigo de los beneficios personales de todas las nuevas tecnologías, sin duda sería increíble. Me refiero a ser testigo de la experiencia de un conjunto de ideales que hemos mantenido durante tanto tiempo y que se han hecho realidad simultáneamente para todos. Creo que a muchos se les saltarán las lágrimas.
Al escribir este artículo, he notado una tensión interesante. Hay un sentido en el que la visión que aquí se presenta es extremadamente radical: no es algo que casi todo el mundo espere que ocurra en la próxima década, y puede que a muchos les parezca una fantasía descabellada. A algunos les parecerá incluso indeseable; encarna valores y opciones políticas con los que no todo el mundo estará de acuerdo. Pero al mismo tiempo, hay algo muy obvio - algo sobredeterminado - en ello, como si muchos intentos diferentes de imaginar un mundo bueno condujeran inevitablemente aquí.
En The Game Player [29], de Iain M. Banks, el protagonista, a pesar de todo, sigue siendo algo de una belleza trascendente. Tenemos la oportunidad de contribuir en pequeña medida a su realización. A pesar de todo, sigue siendo una cosa de belleza trascendental. Tenemos la oportunidad de contribuir en una pequeña medida a su realización. -miembros de una sociedad llamada Cultura, cuyos fundamentos coinciden con lo que propongo aquí- viajando a un imperio represivo y militarista, en el que el liderazgo se determina mediante una compleja competición de juegos de lucha. Sin embargo, el juego es lo suficientemente complejo como para que las estrategias de los jugadores en él tiendan a reflejar sus propias opiniones políticas y filosóficas. El hecho de que el protagonista consiga derrotar al emperador en el juego sugiere que sus valores (los valores de la cultura) representan una estrategia ganadora incluso dentro de las reglas de un juego diseñado por una sociedad de competencia despiadada y supervivencia del más fuerte.Un conocido post de Scott Alexander expone el mismo argumento -que la competencia es contraproducente y tiende a conducir a una sociedad basada en la compasión y la cooperación. El "arco del universo moral" es otro concepto similar.
Creo que los valores de la cultura son una estrategia ganadora porque son la suma de un millón de pequeñas decisiones que tienen una clara fuerza moral y tienden a arrastrar a todos hacia el mismo lado. Intuiciones humanas básicas como la justicia, la cooperación, la curiosidad y la autonomía son difíciles de discutir, y de una forma acumulativa que nuestros impulsos más destructivos tienden a no ser. Es fácil pensar que los niños no deberían morir de enfermedades que podemos prevenir y, a partir de ahí, es fácil pensar que el hijo de todos merece ese derecho. A partir de ahí, es fácil argumentar que deberíamos unirnos y aplicar nuestro ingenio para lograr ese resultado. Poca gente está en desacuerdo con que las personas que atacan o dañan innecesariamente a otras deban ser castigadas, y a partir de ahí no es difícil que a la gente se le pase por la cabeza que el castigo debe ser coherente y sistemático. Del mismo modo, la idea de que las personas deben tener autonomía y responsabilidad sobre sus propias vidas y elecciones es similar. Estas simples intuiciones, cuando se llevan a sus conclusiones lógicas, conducen en última instancia al Estado de Derecho, la democracia y los valores de la Ilustración. Si no es necesariamente inevitable, al menos como tendencia estadística, es hacia donde ya se dirige la humanidad. ai simplemente nos brinda la oportunidad de llegar allí más rápido, haciendo que la lógica sea más nítida y el destino más claro.
Sin embargo, sigue siendo algo de una belleza trascendental. Tenemos la oportunidad de contribuir en pequeña medida a su realización.
Gracias a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe y a muchas personas de Anthropic por revisar los borradores de este artículo.
Gracias al Premio Nobel de Química 2024 por mostrarnos el camino.
Nota a pie de página #
01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
02. Espero que la reacción de algunas personas sea "esto es demasiado soso". Creo que esas personas necesitan, en la jerga de Twitter, "tocar la hierba". Pero lo más importante es que la insipidez es buena desde una perspectiva social. Creo que hay un límite a la cantidad de cambios que la gente puede soportar a la vez, y el ritmo que estoy describiendo está probablemente cerca del límite de lo que la sociedad puede absorber sin una agitación extrema.
03. Creo que AGI es un término impreciso que acumula mucho bagaje de ciencia ficción
y el bombo. Prefiero "IA potente" o "ciencia e ingeniería expertas", que logran lo que quiero decir sin tanto bombo y platillo.
04. En este artículo, utilizo el término "inteligencia" para referirme a una capacidad genérica de resolución de problemas que puede aplicarse a distintos ámbitos. Incluye capacidades como el razonamiento, el aprendizaje, la planificación y la creatividad. Aunque en este artículo utilizo el término "inteligencia" de forma abreviada, reconozco que la naturaleza de la inteligencia es un tema complejo y controvertido en la ciencia cognitiva y la investigación sobre IA. Algunos investigadores sostienen que la inteligencia no es un concepto único y unificado, sino un conjunto de capacidades cognitivas independientes. Otros creen que hay un factor general de inteligencia (el factor g) por debajo de las distintas habilidades cognitivas. Ese es un debate para otra ocasión.
05. Esta es aproximadamente la velocidad de los sistemas de IA actuales: por ejemplo, pueden leer una página de texto en unos segundos y quizás escribir una página de texto en 20 segundos, lo que es entre 10 y 100 veces más rápido de lo que puede hacerlo un humano. Con el tiempo, los modelos más grandes tienden a hacerlo más lento, pero los chips más potentes tienden a hacerlo más rápido.
06. Puede parecer una postura de hombre de paja, pero pensadores cuidadosos como Tyler Cowen y Matt Yglesias la han planteado como una cuestión seria (aunque no creo que la sostengan del todo) y no me parece descabellada.
07. El trabajo económico más cercano que conozco que aborde esta cuestión es el de las "tecnologías de propósito general" y las "inversiones intangibles", que complementan a las tecnologías de propósito general.
08. Este aprendizaje podría incluir el aprendizaje ad hoc, en contexto, o la formación tradicional; ambos estarían limitados por el mundo físico.
09. En los sistemas caóticos, los pequeños errores se acumulan exponencialmente con el tiempo, por lo que, aunque un gran aumento de la potencia de cálculo sólo supondría un pequeño aumento de la capacidad de predicción, los errores de medición pueden reducirla aún más.
10. El otro factor es, por supuesto, que la propia IA potente puede utilizarse para crear una IA aún más potente. mi hipótesis es que esto puede ocurrir (de hecho, es probable que ocurra), pero su impacto será menor de lo que se piensa, precisamente debido a los "rendimientos marginales decrecientes de la inteligencia" de los que se ha hablado aquí. En otras palabras, la IA seguirá haciéndose más inteligente muy rápidamente, pero su impacto se verá limitado en última instancia por factores no inteligentes, y analizar esos factores es fundamental para la velocidad del progreso científico más allá de la IA.
11. Estos logros son una inspiración para mí y quizá el ejemplo más poderoso que existe de IA utilizada para transformar la biología.
12. "El progreso científico depende de nuevas tecnologías, nuevos descubrimientos y nuevas ideas, probablemente en ese orden". - Sydney Brenner
13. Gracias a Parag Mallick por plantear esta cuestión.
14. No quiero llenar el texto de especulaciones sobre los futuros descubrimientos que podría hacer la ciencia con IA, pero aquí va una lluvia de ideas de algunas posibilidades: - Diseño de mejores herramientas computacionales como AlphaFold y AlphaProteo, es decir, un sistema de IA de propósito general que acelere nuestra capacidad de crear herramientas de biología computacional especializadas en IA. - CRISPR más eficiente y selectivo. - CRISPR más eficiente y selectivo. - Terapias celulares más avanzadas. - Avances en la ciencia de los materiales y la miniaturización que conduzcan a mejores dispositivos implantables. - Mejor control de las células madre, la diferenciación y desdiferenciación celular y la consiguiente capacidad de regenerar o remodelar tejidos. - Mejor control del sistema inmunitario: activación selectiva para combatir el cáncer y las enfermedades infecciosas y desactivación selectiva para combatir las enfermedades autoinmunitarias.
15. Por supuesto, la IA también puede ayudar a tomar decisiones más inteligentes sobre qué experimentos realizar: mejorar el diseño de los experimentos, aprender más de la primera ronda de experimentos para que la segunda ronda pueda reducir las preguntas clave, etc.
16. Gracias a Matthew Yglesias por plantear esta cuestión.
17. Las enfermedades que evolucionan rápidamente, como las cepas multirresistentes, que esencialmente utilizan los hospitales como laboratorios evolutivos para mejorar continuamente su resistencia al tratamiento, pueden ser especialmente difíciles de tratar y pueden ser el tipo de cosas que nos impidan llegar a 100%.
18. Tenga en cuenta que puede ser difícil saber si hemos duplicado la longevidad humana en 5-10 años. Aunque puede que lo hayamos conseguido, es posible que no lo sepamos en el plazo del estudio.
19. Esto es lo que me gustaría decir, sin perjuicio de las evidentes diferencias biológicas en el tratamiento de las enfermedades y la ralentización del propio proceso de envejecimiento, sino más bien, observando las tendencias estadísticas desde una mayor distancia: "Aunque los detalles sean diferentes, creo que es probable que las ciencias humanas continúen esta tendencia; después de todo, las tendencias suaves en las cosas complejas están inevitablemente formadas por componentes muy heterogéneos".
20. Se me ha dicho, por ejemplo, que un aumento del crecimiento de la productividad de 11 TP3T o incluso de 0,51 TP3T al año tendría un efecto transformador en las proyecciones asociadas a estos programas. Si las ideas consideradas en este documento se hicieran realidad, el crecimiento de la productividad podría ser mucho mayor que esto.
21. A los medios de comunicación les gusta retratar a los psicópatas de alto estatus, pero el psicópata medio puede ser una persona con escasas perspectivas económicas y poco control de sus impulsos que acaba pasando mucho tiempo en la cárcel.
22. Creo que esto es algo análogo al hecho de que muchos de los resultados que hemos aprendido de la interpretabilidad seguirán siendo relevantes aunque se cambien o sustituyan algunos de los detalles arquitectónicos de nuestras redes neuronales artificiales actuales, como el mecanismo de atención.
23. Sospecho que esto se parece un poco a un sistema caótico clásico, plagado de una complejidad irreducible que debe gestionarse de forma descentralizada en su mayor parte. Aunque, como argumento en una sección posterior, quizá sea posible realizar intervenciones más modestas. Un argumento en contra que me ha planteado el economista Erik Brynjolfsson es que las grandes empresas (por ejemplo, Wal-Mart o YouTuber) empiezan a tener suficientes conocimientos centralizados para entender a los consumidores mejor que cualquier proceso descentralizado, lo que quizá nos obligue a revisar las ideas de Hayek sobre quién tiene los mejores conocimientos locales.
24. Gracias a Kevin Esvelt por plantear esta cuestión.
25. Por ejemplo, los teléfonos móviles empezaron siendo una tecnología para ricos, pero pronto se abarataron mucho, y las mejoras de un año para otro se produjeron tan rápidamente que la ventaja de comprar un teléfono móvil "de lujo" dejó de existir, y hoy la mayoría de la gente posee teléfonos móviles de calidad similar.
26. Este es el título del documento RAND de próxima publicación, y en él se esboza a grandes rasgos la estrategia que describo.
27. Cuando la gente corriente piensa en las instituciones públicas, puede pensar en sus experiencias con DMV, IRS, Medicare o funciones similares. Hacer que esas experiencias sean más positivas de lo que son ahora parece ser una forma poderosa de combatir el cinismo excesivo.
28. De hecho, en un mundo impulsado por la IA, el alcance de estos posibles retos y proyectos será mucho mayor que en la actualidad.
29. He roto mi propia regla de no hacer ciencia ficción, pero me resulta difícil al menos mencionarlo. La verdad es que la ciencia ficción es una de las únicas fuentes que tenemos para hacer experimentos de pensamiento expansivo sobre el futuro; me parece mal que esté tan entrelazada con una subcultura muy estrecha.
© declaración de copyright
Derechos de autor del artículo Círculo de intercambio de inteligencia artificial Todos, por favor no reproducir sin permiso.
Artículos relacionados
Sin comentarios...
Español 
简体中文 
English 
日本語 
한국어 
Русский 
Deutsch 
Français 
Português do Brasil