Debate posterior al lanzamiento de la empresa de búsqueda de inteligencia artificial Exa CEO reo3: reflexiones en vísperas de la AGI

preámbulo

Hace poco hablé de O3 (OpenAI o3) con unos amigos, y su reacción se puede resumir básicamente en: "Dios mío, ¿esto está pasando de verdad?".

Sí, esto está ocurriendo. Los próximos años van a ser una locura. Es un momento de importancia histórica, si no galáctica.

Increíblemente, no hay un debate en profundidad sobre lo que está ocurriendo. los laboratorios ai no pueden hablar de ello, los medios de comunicación apenas informan y el gobierno no lo entiende.

Resulta irónico que debatamos sobre el futuro de la humanidad a través de las redes sociales, parece una comedia distópica, pero es la realidad.

He aquí algunas de mis reflexiones sobre la situación actual: mi contribución al abismo del pensamiento sobre la Plataforma X. Es importante señalar que estos pensamientos son conjeturas interesantes que no han sido totalmente meditadas. No he tenido tiempo suficiente para pensar en profundidad y examinar todas las ideas, muchas de las cuales pueden estar equivocadas. Pero espero que estas ideas ayuden a quienes intentan dar sentido a la situación actual.

Impactos y tendencias del O3

Velocidad de los avances tecnológicos

• La aparición de O3 no debería haber sido chocante. OpenAI nos mostró los gráficos de dilatación temporal de prueba hace dos meses, y la historia del desarrollo informático nos enseña a confiar en estas líneas de tendencia, por increíbles que parezcan.
• Lo que es realmente chocante es que todo esto se haya hecho realidad en dos meses. Hemos saltado de la IA de nivel universitario a la IA de nivel de doctorado. el cambio es emocionante para los humanos, pero un cambio tan rápido es chocante.

Previsiones de desarrollo futuro

• El modelo de nivel O3 funciona bien en la optimización de cualquier tarea para la que pueda definirse una función de recompensa.
• A corto plazo (1 año), obtendremos un modelo de desequilibrio de capacidad:
  • Nivel AGI en matemáticas, programación y razonamiento general
  • Sigue siendo mediocre en áreas como la escritura de novelas
• A largo plazo (de 1 a 3 años), los puntos ciegos del modelo se irán solucionando gradualmente a medida que se sigan añadiendo entrenamientos de aprendizaje por refuerzo en nuevos dominios (datos de sentimientos, datos perceptivos, etc.).

Impacto en diversos ámbitos

El futuro de los matemáticos

• Los matemáticos pueden ser uno de los grupos más vulnerables a la sustitución de la IA
• El trabajo matemático se realiza principalmente en el espacio simbólico, con menos contacto con el mundo físico.
• Se prevé que dentro de 700 días, los humanos dejen de ser los mejores matemáticos del universo conocido

El destino del ingeniero de software

impacto a corto plazo

• Todo ingeniero de software equivale a obtener un ascenso
• A finales de 2025, codificar se parecerá más a coordinar pequeños agentes para llevar a cabo diversas tareas.
• El sistema O4 podrá realizar tareas de relaciones públicas claramente reguladas

Perspectivas a largo plazo

• La esencia de la ingeniería de software sigue siendo la traducción de los requisitos en lógica pura
• El nivel de abstracción del lenguaje de programación pasará del binario al inglés
• El personal no técnico también podrá participar en la programación
• Los mejores desarrolladores siguen siendo los que se sienten cómodos cambiando entre distintos niveles de abstracción

Trabajo físico y robótica

• El impacto relativamente lento de la IA en los trabajadores manuales
• Los principales cuellos de botella son las mejoras en el hardware y unos modelos de acción perceptiva rápidos y fiables
• Los avances en robótica no llegarán hasta que los robots sean capaces de construir robots y la IA sea capaz de llevar a cabo investigaciones sobre IA.

Potencia de cálculo y panorama competitivo

competencia por los recursos informáticos

• Los grandes laboratorios construyen clusters de supercomputación
• La potencia de cálculo puede ser más importante que la ventaja del modelo
• La movilidad del talento y el intercambio de información entre laboratorios dificultan el mantenimiento de la ventaja tecnológica durante más de un año

Efectos especiales del modelado de nivel O

• Incentivar la construcción de grandes instalaciones informáticas
• Podría cambiar la posición de NVIDIA en el mercado
• Los proyectos de código abierto podrían beneficiarse de la combinación de recursos informáticos mundiales

La revolución de la investigación científica

Ciencias teóricas

• La física teórica será la primera en verse afectada
• La IA puede acelerar la generación y validación de teorías científicas
• La experimentación física y el acceso a los materiales pueden ser obstáculos para el progreso.

Riesgos y retos

Principales riesgos

1. Abuso humano de la IA
2. malestar social
3. La IA está fuera de control
4. Intensificación de los conflictos internacionales

Regulación e impacto social

• La regulación gubernamental será un factor importante en el desarrollo de la IA
• Posible riesgo de terrorismo y ruptura social
• 2025 podría ser el último año en que la IA siga en una fase de desarrollo relativamente libre

perspectivas de futuro

expectativas optimistas

• Un gran descubrimiento de la física
• Bases robotizadas en Marte y la Luna
• El sistema de tutoría inteligente perfecto
• Biofármacos sin efectos secundarios
• Sistemas energéticos eficientes y limpios
• Más descubrimientos innovadores desconocidos

objetivo final

• La realización de la superinteligencia
• Todas las posibilidades permitidas por las leyes de la física
• Prolongación de la vida y viajes interestelares
• Explorando los orígenes del Universo

Recomendaciones de actuación

Recomendaciones para particulares

1. Desarrollar habilidades eficaces para resolver problemas
2. Mejorar la capacidad de trabajo en equipo
3. Adaptarse a un mundo en rápida evolución
4. Del éxito individual al progreso colectivo

Contribución a la sociedad

1. Desarrollar productos que contribuyan a la estabilidad social
2. Difusión de información de calidad
3. Participación en la gobernanza local
4. Ayudar al mundo a pasar sin problemas a la era de la IA

observaciones finales

En vísperas de la AGI, cada uno de nosotros tiene la responsabilidad de dar forma al futuro. No se trata de una tarea exclusiva de los laboratorios de IA, sino de una misión colectiva de toda la comunidad humana. El futuro puede estar lleno de incertidumbre, pero también de oportunidades sin precedentes. Trabajemos juntos para garantizar que esta revolución tecnológica traiga el progreso, no el desastre.