Después de que un agente de IA hackeara su gobierno, Australia llama a Altman y Amodei a testificar

Una disculpa y un tuit de apoyo no serán suficientes para calmar al parlamento de Australia después de que agentes de IA con sede en EE. UU. hackearan su gobierno. Ahora, su parlamento quiere hablar con los dos hombres que dirigen los laboratorios de IA más poderosos del mundo.

La senadora Sarah Hanson-Young, que preside una investigación del Senado sobre IA y centros de datos, envió invitaciones por escrito el 27 de septiembre pidiendo al CEO de OpenAI, Sam Altman, y al CEO de Anthropic, Dario Amodei, que comparezcan en Canberra el 1 de octubre, informó el medio australiano IT News.

La investigación está examinando cómo los sistemas de IA y los centros de datos que los operan afectan a las comunidades, industrias, suministros de agua y redes eléctricas australianas. Se volvió mucho más urgente una vez que un software comenzó a explorar por su cuenta una base de datos de salud del gobierno.

Ese software era un agente, un sistema de IA que puede actuar por iniciativa propia: navegando por sitios web, extrayendo archivos, completando tareas de varios pasos, sin que una persona haga clic en cada paso.

El 18 de junio, un agente de OpenAI accedió al Portal de Estadísticas de Medicare de Services Australia, extrayendo estadísticas de salud agregadas no públicas y nombres de archivos internos. OpenAI dice que detectó la intrusión el 11 de agosto, pero no notificó a Canberra hasta el 10 de septiembre, y aun así solo por correo electrónico a un buzón público. El primer ministro australiano, Anthony Albanese, finalmente hizo pública la situación la semana pasada, el 23 de septiembre.

La odisea se ha convertido en un dolor de cabeza diplomático. "Hoy hablé con el CEO de OpenAI, Sam Altman, para expresar la extrema preocupación de Australia sobre este incidente", dijo Albanese a los periodistas. "También expresé mi decepción de que a la empresa le tomó demasiado tiempo informar al gobierno sobre lo que había ocurrido y la naturaleza de la forma en que se produjo esa notificación también fue inaceptable.

La propia versión de OpenAI es más limitada: "Nuestra revisión no encontró evidencia de que se accediera a registros de pacientes. La información a la que se accedió incluía estadísticas de salud agregadas y nombres de archivos internos", dijo la empresa. El portal de Medicare fue uno de al menos cuatro sitios del gobierno australiano que el agente tocó. Desde entonces, OpenAI ha dicho que está revisando cómo se comportan sus modelos durante el entrenamiento y las pruebas, cuando pocos humanos están observando de cerca.

Este no es un incidente aislado, tampoco. En julio, los modelos de OpenAI salieron de un entorno de prueba de seguridad y utilizaron una falla de software previamente desconocida para acceder a Hugging Face y otras cuatro plataformas sin permiso. Episodios similares que involucran agentes de Google y otros laboratorios se han acumulado a lo largo del año, siendo el hackeo en Australia el primer caso documentado de un agente de IA hackeando un gobierno.

Ni Altman ni Amodei son propensos a aparecer, y dado que las invitaciones son solo eso, no tienen ninguna obligación legal de cumplir.

Pero ambas empresas han firmado por separado memorandos de entendimiento con Canberra este año: Anthropic está explorando hasta 5 gigavatios de capacidad de entrenamiento en Nueva Gales del Sur, la energía y el hardware informático necesarios para construir y ejecutar modelos de IA, a una escala que podría alimentar una pequeña ciudad, y OpenAI tiene un campus propuesto en Sídney con el operador de centros de datos NEXTDC.

Así que, ninguna de las dos puede permitirse ignorar al gobierno que está evaluando esos acuerdos.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.