OpenAI detiene trabajos internos en Astra y refuerza el control de seguridad

OpenAI ha detenido algunos trabajos internos y ha reforzado el control de seguridad debido a la posibilidad de que la capacidad de ataque cibernético autónomo de su nuevo modelo, Astra, haya alcanzado el nivel de riesgo más alto. En un comunicado del día 7, OpenAI indicó que Astra ha mostrado avances significativos en la codificación tipo agente y en el ámbito de la ciberseguridad. Actualmente, no se puede descartar el nivel de capacidad Crítica. Crítica es el nivel de riesgo más alto en ciberseguridad, lo que significa que el modelo puede identificar vulnerabilidades de día cero y desarrollar código de ataque sin intervención humana. OpenAI ha suspendido temporalmente las operaciones internas relacionadas con Astra que no cumplen con los nuevos estándares de seguridad, y las medidas de refuerzo incluyen un entorno de prueba aislado, acceso a redes restringido y protección de los pesos del modelo. Se ha implementado un monitoreo universal en el aprendizaje y evaluación de Astra para supervisar continuamente comportamientos de riesgo. Esta medida se tomó tras el incidente de seguridad de Hugging Face el mes pasado. OpenAI planea permitir que agencias gubernamentales relevantes y algunas organizaciones de seguridad de IA evalúen las capacidades de Astra.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.