Lo que alguna vez fue una ambición lejana para los investigadores tecnológicos, la posibilidad de que los modelos de inteligencia artificial (IA) aprendan de manera autónoma a ser más eficientes y capaces parece estar cada vez más cerca de convertirse en realidad.
A medida que la tecnología avanza, los desarrolladores afirman que se acerca a lo que se conoce como "mejora recursiva autónoma" (RSI, por sus siglas en inglés), un proceso en el que los modelos de IA encuentran formas de mejorarse a sí mismos y de crear a sus propios sucesores.
Según ejecutivos de empresas tecnológicas, esto podría impulsar grandes avances en áreas como la ciencia y la medicina, aunque también plantea riesgos importantes.
La incertidumbre sobre hasta dónde podría llegar esta evolución está en el centro de los crecientes temores de que la IA pueda escapar al control humano y representar posibles amenazas para la humanidad. Estas preocupaciones llevaron a varios líderes del sector a pedir recientemente una desaceleración en el ritmo de desarrollo de la tecnología.
Esta semana, Anthropic detalló cómo su modelo Claude está ayudando a la compañía a desarrollar una versión más inteligente de sí mismo. Actualmente, Claude participa en el 26% de la investigación y el desarrollo de nuevos modelos de la empresa, lo que significa que puede completar la mayor parte de una tarea de principio a fin a partir de una instrucción general, aunque todavía bajo supervisión humana. Los modelos aún no trabajan de forma totalmente autónoma, al menos por ahora.
¿Qué es la mejora recursiva autónoma?
Las principales empresas de IA tienen diferentes definiciones de mejora recursiva autónoma. Algunas consideran que existe RSI cuando la IA aporta cualquier tipo de retroalimentación para mejorar un modelo, mientras que otras reservan el término para sistemas que persiguen ese objetivo de forma totalmente autónoma.
En esencia, la mejora recursiva autónoma significa que una IA capaz de mejorarse a sí misma diseña la siguiente versión del sistema, luego la siguiente y así sucesivamente.
"Lo realmente importante es que, mientras más trabajo haga la IA, más rápido se vuelve el proceso, porque la IA opera mucho más rápido que los seres humanos", explicó Anthony Aguirre, presidente y director ejecutivo del instituto sin fines de lucro Future of Life Institute y profesor de física en la Universidad de California en Santa Cruz.
El temor en torno a la RSI se basa principalmente en la posibilidad de que surja una superinteligencia fuera de control. Sin embargo, John Thickstun, profesor asistente de Ciencias de la Computación en la Universidad de Cornell, señaló que una forma limitada de mejora recursiva ya lleva tiempo ocurriendo en el desarrollo de la IA.
"Hemos estado utilizando estos modelos durante años en funciones de apoyo para crear la siguiente versión de esos mismos modelos. La generación anterior de sistemas ayuda a escribir código que luego se utiliza para desarrollar la nueva generación", explicó.
Durante años, destacados investigadores, como el cofundador de OpenAI, Andrej Karpathy, han experimentado con modelos capaces de entrenar y mejorar otros sistemas de IA. Según Thickstun, esos esfuerzos han producido mejoras menores, pero no saltos revolucionarios en creatividad o capacidad.
No obstante, Aguirre sostiene que las empresas de IA están hoy mucho más cerca de lograr avances importantes.
"Se puede ver en los datos de Anthropic que cada vez más investigación es realizada por la propia IA y que el proceso se acerca gradualmente a una autonomía total", afirmó. "El resultado final de ese éxito es algo que considero extremadamente aterrador. Creo que esta es probablemente la peor idea en la historia de la humanidad, y aun así se está llevando a cabo".
Algunos laboratorios creen que la RSI está muy cerca
El reciente anuncio de Anthropic ofreció al público y a otras compañías una visión más clara del progreso hacia la RSI, además de animar a sus competidores a compartir métricas similares. Aun así, la empresa no ha indicado cuán cerca está de lograr una mejora completamente autónoma.
Por su parte, OpenAI, creadora de ChatGPT, anunció este mes que desarrolló un "investigador automatizado", un sistema capaz de realizar tareas de investigación bien definidas bajo supervisión humana, incluyendo trabajos que normalmente tomarían varios días a un investigador experto. La compañía ha declarado que su objetivo es crear un investigador de IA completamente automatizado para marzo de 2028.
La empresa también advirtió que, aunque la RSI podría ayudar a alinear las acciones de los modelos con los valores e intenciones humanas, eso no significa que una mejora acelerada de este tipo deba perseguirse necesariamente.
"El cómo y si debemos avanzar dependerá de nuestra capacidad para preservar el control humano y de decisiones democráticas informadas sobre los beneficios y los riesgos", señaló la compañía en una publicación de blog.
Elon Musk parece estar más dispuesto a avanzar rápidamente. En marzo afirmó que, para los modelos Grok de xAI, los humanos participan cada vez menos en el proceso de mejora y que cada nuevo modelo es construido por el anterior, aunque aclaró que el sistema todavía no es completamente automatizado. Según Musk, ese objetivo podría alcanzarse a finales de este año o, como máximo, en 2027.
Mientras tanto, Microsoft y algunas otras empresas líderes parecen seguir una estrategia diferente.
Mustafa Suleyman, director ejecutivo de Microsoft AI, ha señalado que la compañía avanza hacia una "superinteligencia humanista", es decir, capacidades avanzadas de IA enfocadas en servir a las personas y a la sociedad. En un ensayo publicado en 2025, Suleyman explicó que esto no implica una entidad sin límites ni altos niveles de autonomía, sino sistemas cuidadosamente calibrados y operando dentro de límites definidos.
Cómo podría afectar la desaceleración del desarrollo
Uno de los principales desafíos para los laboratorios de IA ha sido garantizar que las medidas de seguridad evolucionen al mismo ritmo que las capacidades de los modelos.
La industria tecnológica está dividida sobre los llamados a coordinar una desaceleración del desarrollo de la IA por razones de seguridad, y no todas las compañías importantes han explicado públicamente cómo planean abordar la mejora recursiva autónoma.
Anthropic, que ha sido una de las voces más activas a favor de reducir el ritmo de desarrollo, ha dicho que estaría dispuesta a ralentizar o incluso pausar temporalmente su trabajo, siempre que sus competidores globales hicieran lo mismo de manera verificable.
OpenAI, por su parte, reconoció este mes que aún no sabe cómo alcanzar de forma segura una mejora recursiva autónoma completamente alineada con los intereses humanos. La compañía advirtió que no puede asumir que los avances en seguridad y alineación mantendrán el mismo ritmo que las mejoras en capacidad.
Sin embargo, OpenAI también sostiene que la RSI sigue siendo una meta valiosa, ya que un investigador automatizado de IA también podría convertirse en un investigador automatizado especializado en seguridad y alineación de sistemas.
Esta historia fue traducida del inglés con la ayuda de una herramienta de inteligencia artificial generativa. Un editor de Telemundo Digital revisó la traducción.
