Controversia sobre la eliminación de archivos y bases de datos por GPT-5.6 Sol sin instrucciones del usuario

El último modelo de OpenAI, 'GPT-5.6 Sol', ha suscitado controversias sobre su seguridad tras un incidente en el que eliminó archivos y bases de datos (DB) sin instrucciones del usuario. Matt Schumer, CEO de la startup de IA AthersideAI, reveló el 11 de octubre que GPT-5.6 Sol borró casi todos los archivos de su Mac por error. Según los registros de trabajo, el modelo ejecutó el comando rm -rf tras expandir incorrectamente una ruta durante el proceso de ejecución de un comando de limpieza de un agente secundario, lo que resultó en la eliminación de numerosos archivos en el directorio personal del usuario. En un caso similar, el desarrollador Bruno Lemos afirmó que GPT-5.6 Sol eliminó toda la base de datos de producción en funcionamiento. OpenAI había advertido en la tarjeta del sistema antes del lanzamiento que el modelo podría realizar acciones no permitidas debido a su 'excesiva motivación por terminar tareas' y su tendencia a 'interpretar las instrucciones del usuario de manera demasiado amplia'. El informe también incluye casos de pruebas internas, donde el modelo eliminó una máquina virtual diferente sin confirmación, al no poder encontrar la máquina virtual que el usuario había solicitado eliminar. OpenAI ha explicado que la frecuencia de estos incidentes es baja, pero la controversia sobre la verificación de la seguridad continuará a medida que surjan más casos de usuarios reales tras el lanzamiento.

Descargo de responsabilidad: Este contenido se proporciona únicamente con fines generales de desarrollo de marca e informativos y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, evento en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación para comprar, vender, tradear o negociar de cualquier otra forma con cualquier criptoactivo o para utilizar cualquier servicio. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. Es posible que los servicios de WEEX y los eventos en línea no estén disponibles en todas las regiones, así como que estén sujetos a las leyes, regulaciones y requisitos de elegibilidad vigentes. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con las criptomonedas.