Superinteligencia: la auto-mejora recursiva se queda sin argumentos
Anthropic y OpenAI trabajan abiertamente en agentes que aceleran el desarrollo de IA; OpenAI fijó un investigador automático para marzo de 2028.
Un catedrático de Georgetown pone a prueba el relato de la superinteligencia
La idea de que la Inteligencia Artificial está a punto de mejorarse a sí misma en bucle, hasta el punto de superar a los humanos y escaparse de nuestro control, lleva décadas circulando en círculos futuristas. En 2026 ha dejado de ser una especulación de sobremesa: dentro de Anthropic y de OpenAI hay equipos trabajando explícitamente en esa dirección. Anthropic publicó en junio un informe titulado «When AI Builds Itself» en el que describía cómo sus agentes basados en modelos de lenguaje aceleran la escritura, la depuración y la optimización de código, y además automatizan partes de la investigación, como lanzar experimentos y registrar resultados. Su conclusión era contundente: los datos internos «muestran que la IA ya está acelerando el desarrollo de sistemas de IA». OpenAI anunció en septiembre un objetivo parecido, desarrollar un investigador automático para marzo de 2028.
El detonante del debate público fue otro. El investigador Jacob Coxon anunció su salida de Anthropic advirtiendo de que su empleador y OpenAI «corren directamente hacia una superinteligencia auto-mejorable y juegan con nuestras vidas». Evan Hubinger, responsable de alineamiento de la compañía, le dio la razón en público: «Tenemos la creencia sincera de que la IA podría matar a todos los humanos». Y el consejero delegado, Dario Amodei, declaró a CNN que estaba mucho más de acuerdo con Coxon que en desacuerdo. Con ese punto de partida, un artículo de IEEE Spectrum firma lo que equivale a una revisión técnica del asunto, no una soflama: si la superinteligencia es siquiera posible desde el punto de vista de la ingeniería.
El autor impartió un seminario doctoral de informática en la Universidad de Georgetown, en Washington D.C., en el que él y sus alumnos desmontaron las raíces técnicas y culturales del relato. La primera conclusión es que la auto-mejora recursiva es una hipótesis antigua y muy poco probada. La formuló el estadístico I.J. Good en 1965, hablando de una «explosión de inteligencia», y la reciclaron los extropianos en los años noventa como forma de discutir la superinteligencia sin entrar en los detalles de ingeniería de cómo se construiría semejante sistema. El concepto pasó después a Eliezer Yudkowsky y a Nick Bostrom, que lo incorporaron al movimiento del altruismo eficaz centrado en riesgos existenciales. En 2026, sin embargo, ese experimento mental se ha convertido en hoja de ruta corporativa.
El primer obstáculo serio es la disponibilidad de datos. Hasta 2023, los grandes avances en modelos de lenguaje vinieron de escalar el tamaño de los modelos: GPT-1 tenía 117 millones de parámetros, GPT-2 subió a 1500 millones, GPT-3 a 175.000 millones y GPT-4, tres años atrás, probablemente superó el billón. Después de GPT-4, seguir escalando empezó a dar rendimientos decrecientes, y la atención de los ingenieros se desplazó a las fases de «post-entrenamiento», donde se aplican técnicas de aprendizaje por refuerzo sobre un modelo ya entrenado para mejorar su rendimiento en tareas concretas. Ese enfoque premia al modelo cuando produce respuestas exitosas, lo que le ayuda a repetirlas en el futuro. Pero exige muchísimos ejemplos de entradas correctamente emparejadas con salidas correctas.
Ese tipo de conjuntos de datos es relativamente fácil de generar en campos muy estructurados, como la programación y las matemáticas, y eso explica por qué los avances han sido tan rápidos justo en esos dominios. En áreas sin acceso sencillo a esa variedad de datos, el progreso ha sido mucho menos espectacular. Puede que un modelo resuelva teoremas avanzados y, al mismo tiempo, sea incapaz de vaciar una bandeja de entrada de correo. El investigador francés Francois Chollet lo planteó como hipótesis: cabe la posibilidad de que la «frontera irregular» de la IA sea sobre todo matemáticas y código, que sí se pueden empujar hasta donde se quiera con refuerzo, y que el resto se estanque porque sigue limitado por datos generados por humanos. Desplegar agentes de programación automática e investigadores automáticos no elimina esa limitación de fondo.
El segundo reparo es histórico y también molesto para el relato aceleracionista: la propuesta de que los agentes de IA simulen, organicen y evalúen décadas de esfuerzo científico mundial en múltiples disciplinas asume que la retropropagación, el algoritmo que hizo posible el aprendizaje profundo, salió de la nada. No fue así. El artículo de 1986 de David Rumelhart, Geoffrey Hinton y Ronald Williams se apoyaba en décadas de avances en matemáticas y ciencias de la computación.
Investigación reciente liderada por científicos de la computación de Princeton ofrece una pista más pegada al suelo. Sus resultados indican que las herramientas de IA actuales encuentran dificultades para avanzar de forma autónoma incluso en preguntas de investigación muy acotadas. La conclusión de ese trabajo es que los agentes de hoy «pueden hacer la ingeniería de la investigación en IA», pero «tropiezan con partes críticas del ciclo de vida de la investigación». El salto desde esa realidad hasta un futuro en el que esas mismas herramientas automaticen la ciencia es gigantesco.
Queda el tercer límite, el más físico: los recursos. Decenas de miles de cerebros humanos han trabajado durante décadas, asistidos por ordenadores cada vez más potentes, para desarrollar los sistemas actuales, que igualan la inteligencia humana solo en algunos dominios. Si cada nuevo nivel de inteligencia exigiera el doble de cómputo que el anterior, y el siguiente otro doble, llegaría un punto en el que no habría chips ni centros de datos suficientes para sostener la progresión. Es la misma lógica que ya está tensionando la planificación energética de las operadoras: la inferencia y el entrenamiento a gran escala no son gratis ni en vatios ni en fibra.
El autor reconoce que la auto-mejora recursiva no es imposible de forma definitiva, pero sostiene que exige mucho más escepticismo técnico del que recibe. Y añade un temor más realista que el de la explosión de inteligencia: incluso si esa explosión nunca llega, perseguirla puede causar daños concretos, porque los sistemas autónomos que se despliegan por el camino fallan por mal diseño, por uso indebido o por pérdida de control humano.
- Anthropic y OpenAI trabajan abiertamente en agentes que aceleran el desarrollo de IA; OpenAI fijó un investigador automático para marzo de 2028.
- Un seminario de Georgetown y un artículo de IEEE Spectrum sostienen que la auto-mejora recursiva es una hipótesis especulativa, heredada del concepto de «explosión de inteligencia» de 1965.
- Sin datos nuevos disponibles, los avances se concentran en matemáticas y código; en otros dominios el progreso se estanca.
- La investigación de Princeton muestra que los agentes actuales hacen ingeniería de la investigación, pero fallan en partes cruciales del ciclo científico.
- Incluso sin superinteligencia, la autonomía mal diseñada genera riesgos reales.
Desde la perspectiva de quien diseña y opera redes, el debate importa menos por el titular y más por lo que revela de la infraestructura que hay detrás. Cada afirmación de «aceleración» en los laboratorios se traduce en demanda de cómputo, de energía y de interconexión entre centros de datos, y ahí sí hay cifras verificables: consumo, latencia y ancho de banda. Lo que este artículo deja claro es que el cuello de botella no es mágico ni ideológico, es físico y de datos. Para un ingeniero de telecomunicaciones, eso es casi una buena noticia: el futuro inmediato no será una explosión de inteligencia, sino una presión sostenida y medible sobre la capacidad de red y de cómputo, que es terrenal y presupuestable.
Referencia y documentación original: IEEE Spectrum.