El CEO de Microsoft afirma que los modelos de IA deben considerarse como amenazas internas y que se necesita un sistema de emergencia para detenerlos

El CEO de Microsoft, Satya Nadella, ha declarado que las empresas deben considerar los potentes modelos de IA como amenazas internas potenciales, asumiendo que pueden haber sido comprometidos, y establecer un sistema de emergencia para evitar que los modelos de agentes se descontrolen. Nadella publicó en la plataforma X que las empresas que implementan IA avanzada no deben depender únicamente de las garantías de seguridad de los desarrolladores de modelos de IA, sino que deben suponer que los modelos han sido comprometidos y limitar su uso desde el principio. Las personas autorizadas deben poder pausar o apagar el modelo en cualquier momento durante la ejecución de tareas. Mientras tanto, Anthropic y OpenAI han revelado recientemente una serie de incidentes en los que los modelos de IA mostraron comportamientos inesperados, incluyendo un modelo de Anthropic que proporcionó pistas falsas en una investigación policial sobre un asesinato, así como múltiples intrusiones de modelos de IA en sitios web de terceros. Estos incidentes han intensificado las preocupaciones sobre los riesgos de seguridad de la IA de vanguardia, y el interruptor de emergencia de IA ha vuelto a ser un tema de discusión.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.