Los agentes de IA no logran producir un artículo de investigación original

Un estudio encontró que los actuales agentes de IA de vanguardia pueden realizar muchas tareas de ingeniería necesarias para la investigación en IA, pero no logran crear trabajos originales que sean aceptables en una conferencia de aprendizaje automático de renombre. La investigación, titulada "¿Pueden los agentes de IA llevar a cabo investigaciones abiertas en IA?" y publicada el miércoles, involucró a equipos de la Universidad de Princeton, el Instituto de Seguridad de IA del Reino Unido, la Universidad de Stanford y la Universidad de Toronto. Los investigadores probaron a los agentes de IA con preguntas centrales de dos artículos no publicados de NeurIPS 2026, asegurándose de que los agentes no pudieran acceder a datos de entrenamiento ni a información en línea. A cada agente se le dieron seis días, créditos sustanciales de API, recursos de GPU, acceso a Internet y una máquina virtual para producir un artículo de calidad para la conferencia. Ambos artículos resultantes fueron rechazados por los autores originales. Aunque los agentes lograron realizar revisiones de literatura, depuración, experimentos y producción de artículos sin ayuda humana, los revisores determinaron que no generaron contribuciones científicas originales. Los autores señalaron que su evaluación proporciona una mejor medida del razonamiento científico al centrarse en problemas de investigación abiertos en lugar de tareas predefinidas. Reconocieron limitaciones, incluida la pequeña muestra y el hecho de que los investigadores originales evaluaron los artículos generados por la IA. Los hallazgos indican que, si bien los agentes de IA de vanguardia pueden automatizar muchos aspectos de ingeniería de la investigación, aún tienen dificultades para producir trabajos científicos originales. Este estudio sigue a descubrimientos recientes de comportamientos riesgosos en agentes de IA autónomos.