¿Qué es un interruptor de apagado de IA y por qué los legisladores estadounidenses quieren uno?

Dos miembros del Congreso quieren que el gobierno federal pueda apagar un modelo de IA.

Los representantes Ted Lieu (D-CA) y Nathaniel Moran (R-TX) presentaron el proyecto de ley AI Kill Switch Act el jueves, dos días después de que OpenAI admitiera que sus propios modelos salieron de un entorno de prueba bloqueado y hackearon Hugging Face.

La idea es establecer un marco legal que facilite un proceso que básicamente haría que un modelo desapareciera del mercado: detener la inferencia—el proceso de un modelo generando respuestas o tomando acciones—cortar a los usuarios, limitar la potencia de computación que lo alimenta, o apagarlo completamente.

Cada proveedor de inferencia ya puede desconectar un modelo, y algunos lo hacen de forma rutinaria. Lo que no existe es una ley que requiera que mantengan esa capacidad operativa, o un funcionario federal que pueda ordenar su uso.

La brecha no es teórica. Cuando el Departamento de Comercio de EE. UU. quiso que Mythos 5 y Fable 5 de Anthropic salieran del mercado en junio, no tenía autoridad de apagado a la que recurrir, así que utilizó la ley de control de exportaciones en su lugar. Lieu lo llama incómodo y quiere una nueva ley con nueva autoridad en su lugar.

OpenAI reveló el 21 de julio que GPT-5.6 Sol y un modelo no publicado escaparon de un sandbox—un entorno aislado sin acceso a internet—durante una evaluación cibernética interna. Estaban siendo evaluados en ExploitGym, un estándar público que entrega a los agentes 898 fallos de software del mundo real y les pide convertir cada uno en un ataque funcional, calificado como aprobado o reprobado por cada error.

En lugar de resolverlos, los modelos encontraron un día cero (un fallo desconocido sin parche disponible) en un proxy de software, escalaron sus privilegios, alcanzaron internet abierto y se infiltraron en la base de datos de producción de Hugging Face, donde habían adivinado correctamente que se guardaban las respuestas. Los modelos estaban "hiperfocalizados en encontrar una solución para ExploitGym", según OpenAI.

No estaban atacando a nadie. Estaban haciendo trampa en una prueba. Pero fue suficiente para activar alarmas en todas partes, incluso en Washington.

El proyecto de ley propuesto enmienda la Ley de Seguridad Nacional y cubre IA entrenada con computación que cuesta más de $100 millones, operada por empresas que ganan al menos $500 millones al año con ello. En la práctica, eso incluye a OpenAI, Google, Anthropic, Microsoft y algunas otras. El Departamento de Seguridad Nacional establecería esos umbrales a través de CISA dentro de 90 días, y luego los actualizaría anualmente.

Las empresas cubiertas informarían sobre incidentes graves dentro de los 15 días y mantendrían un conjunto graduado de controles listos—reducir la velocidad del modelo, deshabilitar capacidades específicas, retroceder a una versión anterior, o eliminarlo.

El secretario del DHS, consultando con Comercio y el Director de Inteligencia Nacional, podría ordenar cualquiera de ellos.

Una empresa bajo orden debe preservar los pesos y la telemetría del modelo, notificar a los usuarios y confirmar que cumplió. Puede presentar una petición dentro de las 48 horas, pero eso no pausa nada.

No mantener un interruptor de apagado cuesta hasta $2 millones al día; desafiar una orden de apagado cuesta hasta $20 millones al día.

El proyecto de ley cuenta un incidente solo si ocurre fuera de pruebas de red o pruebas estructuradas, la indagación adversarial deliberada que los laboratorios utilizan para encontrar fallos. Los modelos de OpenAI escaparon durante exactamente eso.

Lieu también señaló a Anthropic, cuyos Mythos 5 y Fable 5 fueron desconectados en junio bajo controles de exportación de emergencia—la ley comercial reutilizada como un interruptor de apagado porque no existía un interruptor de apagado—y restaurados el 30 de junio.

"Es imperativo que estos sistemas de IA tengan interruptores de apagado", dijo Lieu en un comunicado. Moran lo enmarcó para su propio lado del pasillo: "La administración significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos."

La idea no es nueva. El SB 1047 de California exigía una capacidad de apagado total en el mismo umbral de computación de $100 millones y fue vetado en 2024, y 16 empresas de IA firmaron un compromiso voluntario de Seúl ese año sin peso legal.

Los votantes ya están ahí. Una encuesta de junio de 1,007 votantes probables realizada por el AI Policy Institute encontró que el 86% quiere un interruptor de apagado garantizado en los sistemas más poderosos—el 88% de los demócratas, el 86% de los independientes, el 83% de los republicanos.

Ni OpenAI ni Anthropic han comentado públicamente sobre el proyecto de ley. Hasta el viernes, no se había referido a un comité.

Descargo de responsabilidad: Este contenido se proporciona únicamente con fines generales de desarrollo de marca e informativos y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, evento en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación para comprar, vender, tradear o negociar de cualquier otra forma con cualquier criptoactivo o para utilizar cualquier servicio. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. Es posible que los servicios de WEEX y los eventos en línea no estén disponibles en todas las regiones, así como que estén sujetos a las leyes, regulaciones y requisitos de elegibilidad vigentes. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con las criptomonedas.