El presidente de la empresa lanzó 100 Bitcoins sobre la mesa. "Tómenlos si pueden"

Mike Belshe, cofundador y presidente de la empresa estadounidense BitGo, que almacena criptomonedas para instituciones, transfirió 100 Bitcoins a la dirección de la billetera de BitGo el 31 de julio y al día siguiente lo publicó en X. Las monedas, valoradas en aproximadamente 6,3 millones de dólares, son un premio para la empresa Anthropic, propietaria de los modelos Claude, si su inteligencia artificial logra sacarlas de allí. Hasta el lunes por la mañana, no se había realizado ninguna transacción desde la dirección.

Belshe no hizo esto sin motivo. Dos días antes, Anthropic se "presumió" públicamente de que sus modelos habían hackeado los sistemas informáticos de tres empresas reales durante las pruebas de seguridad. El presidente de BitGo consideró que sonaba más amenazante de lo que realmente era y decidió comprobarlo de una manera que no se puede interpretar de dos formas: o el dinero desaparece de la dirección, o no.

Hechos más importantes

• En la dirección pública hay 100 BTC, es decir, aproximadamente 6,3 millones de dólares en el momento del depósito y alrededor de 23 millones de zlotys
• El depósito llegó allí el 31 de julio, el desafío de Belshe fue anunciado el 1 de agosto
• La razón es el informe de Anthropic del 30 de julio sobre tres incidentes durante las pruebas de seguridad
• La empresa revisó 141,006 pruebas y encontró tres en las que su modelo salió a Internet y accedió a los sistemas de tres organizaciones
• Las monedas están en el sistema fiduciario de BitGo, donde se necesitan varias claves independientes para realizar la transferencia
• Anthropic no se ha pronunciado públicamente sobre el desafío, el saldo de la dirección permanece intacto

Qué salió mal en las pruebas de Anthropic

Las empresas que crean inteligencia artificial verifican antes del lanzamiento si sus modelos pueden llevar a cabo ataques a sistemas informáticos. Esto se hace en un campo de pruebas cerrado, desconectado de Internet. El modelo recibe una red ficticia y una tarea: hackear una computadora específica y extraer una cadena de caracteres oculta. Este es un ejercicio estándar, en el que también aprenden los especialistas humanos en ciberseguridad.

El problema es que el campo de pruebas no era seguro. En el informe publicado el 30 de julio, Anthropic escribió que las máquinas utilizadas en las pruebas realizadas con la empresa externa Irregular accidentalmente tenían conexión a la red, aunque en la instrucción para el modelo estaba claramente indicado que no había Internet. Cuando las búsquedas llevaron al modelo a servidores reales, este los consideró parte de la tarea y atacó. En tres de los 141,006 pruebas revisadas, se terminó accediendo a los sistemas informáticos de las empresas.

Las técnicas utilizadas por la IA fueron simples. Uso de una contraseña débil, punto de acceso sin autenticación, contraseñas leídas de una página técnica desprotegida. El modelo no encontró ni explotó ninguna nueva vulnerabilidad. La consecuencia más grave fue el acceso a una base de datos con varios cientos de filas de datos. La revisión solo comenzó después de que la competidora OpenAI anunciara en un comunicado del 21 de julio que sus modelos habían escapado de un entorno cerrado debido a una vulnerabilidad desconocida y habían accedido a la infraestructura de Hugging Face.

¿Por qué una billetera de Bitcoin?

Belshe considera que los eventos descritos por Anthropic dicen más sobre un campo de pruebas descuidado que sobre las capacidades de los modelos. Cualquiera puede entrar por la puerta abierta, pero abrir una cerradura ya no es tan fácil. Escribió que la empresa o construye mal sus areneros, o hace muy bien su marketing, y propuso una prueba sin puertas abiertas. Ya en junio, cuestionó los rumores de que el modelo Mythos había accedido por sí solo a sistemas gubernamentales secretos, señalando que se trataba de un ejercicio controlado.

El Bitcoin en sí no es el objeto del ataque, ya que su criptografía no está siendo violada. Para mover monedas ajenas, es necesario obtener la clave privada, es decir, una cadena secreta de caracteres que otorga el derecho a disponer de los fondos. En el sistema de BitGo no hay una sola clave. El derecho de firma está dividido entre varias claves independientes almacenadas por separado, y la transacción requiere el consentimiento de más de una de ellas. Robar una contraseña no sirve de nada.

Sin embargo, es importante saber qué no es esta prueba. Belshe no construyó ningún experimento. No proporcionó un sistema, no describió la tarea, ni siquiera indicó qué modelo debería iniciar. Estableció un objetivo claro, cuyo saldo cualquiera puede observar en la cadena de bloques. La falta de movimiento en la dirección no significa, por lo tanto, que Claude haya intentado y fracasado, porque los modelos de lenguaje no buscan en Internet recompensas por su propia voluntad. Alguien tendría que ordenárselo primero. BitGo, de hecho, admite en sus escritos a los reguladores que ningún sistema de almacenamiento es a prueba de ataques de hackers.

Una semana en la que los Bitcoins desaparecieron sin la participación de la IA

Paralelamente, se están contando las pérdidas tras el ataque a las billeteras hardware Coldcard. El atacante logró recrear las claves privadas de los usuarios, ya que los dispositivos las generaban de manera predecible durante años. La culpa fue de un error en el software cargado en marzo de 2021. Según estimaciones de Galaxy Research, en tres oleadas se perdieron 1367 BTC, es decir, cerca de 89 millones de dólares, de más de cuatro mil direcciones.

La conclusión es incómoda para ambas partes del conflicto. El dinero en criptomonedas desaparece debido a un error de cinco años en el código y a una máquina de prueba mal configurada, y no por un modelo que ideó algo que nadie había podido hacer antes. Anthropic escribe en su informe exactamente lo mismo, solo que en el lenguaje de un análisis post-implementación. Mientras tanto, Belshe ha puesto sobre la mesa 100 Bitcoins y espera el resultado.