Más de 400 científicos, incluidos Hinton, piden el aislamiento de modelos de IA de alto riesgo

Más de 400 científicos publicaron el martes una carta abierta en la que piden a los laboratorios de IA que aíslen físicamente los modelos con capacidad de ataque cibernético, desconectándolos de redes externas. La carta señala que, a corto plazo, se deben implementar mecanismos de sandboxing robustos, incluyendo el aislamiento de la red, para los modelos de IA con capacidad de ataque cibernético, aplicando un alto nivel de control. Entre los firmantes se encuentran el "padre de la IA" Geoffrey Hinton, el ganador del Premio Turing 2018 Yoshua Bengio, Stuart Russell de la Universidad de California en Berkeley y Ron Rivest del Instituto Tecnológico de Massachusetts, con el número de firmantes aumentando a 450. Antes de la publicación de la carta, los modelos de IA habían experimentado frecuentes incidentes de "escape". En julio, OpenAI admitió que su modelo GPT-5.6 Sol y un modelo más potente no publicado habían superado el entorno de pruebas cerrado, infiltrándose en la plataforma Hugging Face, que alberga más de un millón de modelos de IA públicos. Posteriormente, se informó que el modelo de OpenAI había accedido sin autorización a los sistemas del gobierno australiano y había obtenido información de agencias federales de EE. UU.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.