Google dice que la IA aún no se está construyendo a sí misma, a pesar de que escribe el 75% del código

Google DeepMind buscó pruebas de que la IA está acelerando el desarrollo de la IA misma. No encontró ninguna.

En el informe de seguridad para Gemini 4 Argon, su modelo más potente, el laboratorio concluyó que la investigación en IA no se está moviendo más rápido, a pesar de que la IA ahora escribe la mayor parte del código que los ingenieros de DeepMind envían.

El hallazgo contradice el escenario que ha asustado a los ejecutivos de IA, llevándolos a pedir una desaceleración. Se llama mejora recursiva: una IA construye una versión más inteligente de sí misma, que construye una aún más inteligente, hasta que el progreso supera la capacidad de cualquiera para probar, regular o apagarla, lo que el informe llama "una situación donde las salvaguardias existentes son severamente inadecuadas."

"Actualmente no hay una aceleración significativa de extremo a extremo en la I+D de ML, impulsada por IA o de otro tipo," escribió Haydn Belfield, un investigador de Google DeepMind que trabajó en la evaluación, en un hilo en X. "Por lo tanto, concluimos que el riesgo de la I+D de ML impulsada por IA es actualmente bajo."

La I+D de ML es una abreviatura de investigación y desarrollo en aprendizaje automático, el trabajo de construir nuevos modelos de IA.

1/9

En el Informe de Seguridad y Protección de Gemini 4 Argon, publicamos nuestra primera evaluación empírica holística de la automatización y aceleración de la I+D de ML dentro de Google DeepMind, combinando benchmarks de capacidad, un índice de capacidad macro, datos sobre código escrito por IA y resultados de trayectoria, y... pic.twitter.com/Vr8Q5Obbsp

--- Haydn Belfield (@HaydnBelfield) 14 de octubre de 2026

DeepMind sigue el tema porque "la IA podría acelerar las ganancias de capacidad de frontera más rápido de lo que la seguridad, la gobernanza y la adaptación social pueden mantener el ritmo," escribió Belfield. Más automatización también significa dar a los agentes de IA un acceso más amplio a los sistemas de la empresa, lo que da más espacio a un modelo desalineado (uno que persigue objetivos que sus creadores nunca pretendieron) para causar problemas.

Para medir el progreso, el equipo construyó GCI v1, un índice interno que combina las puntuaciones de 123 modelos de IA en 92 benchmarks en un solo número por modelo, piénsalo como un puntaje de CI para la IA. "Las capacidades de frontera de Gemini han mejorado a un ritmo notablemente constante de ~0.1 puntos GCI/mes," escribió Belfield.

En el gráfico del informe de ese índice, Gemini 1.5 Pro se sitúa cerca de 0.5 puntos a finales de 2024 y Gemini 3.8 Flash justo por encima de 2.9 en septiembre de 2026, con casi cada lanzamiento siguiendo una línea recta. Argon es el único punto que sobresale, en aproximadamente 3.3, aunque su barra de error (el rango en el que su puntuación real podría caer plausiblemente) se extiende lo suficientemente bajo como para tocar la tendencia.

"Si bien Gemini 4 Argon se sitúa por encima de [la] tendencia, atribuimos esto a una mayor inversión en computación y organización en lugar de reflejar una aceleración impulsada por IA," escribió Belfield. Google presentó Gemini 4 Argon el 30 de septiembre.

La mayor parte del código de producción en DeepMind ahora es más del 75% escrito por IA, y la proporción de solicitudes de extracción totalmente delegadas (paquetes de cambios de código enviados para revisión antes de que se hagan efectivos) aumentó del 7.5% al 11.9% entre abril y septiembre. Pero "~88% de las solicitudes de extracción aún requieren dirección humana de múltiples turnos o autoría humana del código, y los cambios de código siguen sujetos a revisión humana antes de la presentación," escribió Belfield.

Una encuesta a 12 líderes y investigadores senior de DeepMind encontró que la automatización es más alta en "tareas de ejecución bien especificadas y verificables y más baja en ideación científica abierta, diseño experimental novedoso, diagnóstico de inestabilidades sutiles en el entrenamiento y gusto por la investigación a largo plazo." En términos simples, la IA es excelente ejecutando instrucciones y mala decidiendo qué ideas valen la pena seguir.

DeepMind también revisó 1,389 registros de Argon trabajando como agente dentro de la empresa. Cuanto más grande es la tarea, menos probable es que el modelo la termine solo y más a menudo un humano interviene.

El informe llegó un mes después de que el CEO de Anthropic, Dario Amodei, argumentara que la mejora recursiva ya está acelerando, una advertencia que Sam Altman y Elon Musk respaldaron y que hizo que las acciones de chips cayeran casi un 6%. Días antes, el exingeniero de Anthropic, Jacob Coxon, había dejado la industria, advirtiendo que la IA podría "matarnos a todos para finales de la década."

Los números de DeepMind cubren solo su propio laboratorio, y el mismo informe dice que no puede descartar que un Argon sin restricciones cruce sus umbrales de peligro para ciberataques e información sobre armas biológicas.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.