La UE apunta a los riesgos de la IA autónoma... Revisión de los sistemas de seguridad de más de 30 empresas

La UE "La ley de IA, gestión de modelos avanzados... puede responder a los riesgos de los agentes"

Investigación de más de 30 sistemas de seguridad de IA... Multas de hasta el 7% de los ingresos en caso de violación

Europa, con una gran brecha en la inversión en IA respecto a Estados Unidos... Desafío de equilibrar seguridad y competitividad

[Reportera: Lee Hye-yeon, Block Media] La Unión Europea (UE) ha declarado que puede responder a los riesgos de los agentes de inteligencia artificial (IA) autónomos que se desvían del control con la actual ley de IA.

A medida que aumentan los casos de IA que toman decisiones y actúan por sí mismas sin intervención humana continua, crece la controversia sobre la seguridad, pero la UE considera que el sistema regulatorio actual tiene suficientes medios de respuesta.

Según Cryptopolitan, Henna Virkkunen, comisionada de tecnología de la UE, declaró el 9 de septiembre (hora local) que Europa está "bien preparada" para enfrentar agentes de IA que son difíciles de controlar.

La comisionada Virkkunen explicó que la ley de IA de la UE abarca todo el "ciclo de vida" desde el desarrollo hasta la operación de modelos de IA avanzados. También refutó las críticas de que la velocidad de desarrollo de la tecnología de IA supera la capacidad de regulación, afirmando que la evaluación de seguridad y el sistema de monitoreo continuo ya están incluidos en la normativa actual.

Un grupo de 60 expertos independientes de la Comisión Europea está colaborando con la Oficina de IA de la UE para preparar preguntas que se enviarán a empresas e instituciones relacionadas con incidentes de IA. También se espera que se emitan recomendaciones para fortalecer la seguridad en el futuro.

La comisionada Virkkunen afirmó: "La UE tiene la primera ley en el mundo que aborda los riesgos sistémicos que puede causar la IA", y añadió que "se necesita un análisis científico de vanguardia para ello".

Investigación de sistemas de seguridad de más de 30 empresas de desarrollo de IA

La UE ya está verificando si los dispositivos de seguridad bajo la ley de IA están funcionando realmente.

Según Reuters, la Comisión Europea solicitó a más de 30 empresas de desarrollo de IA, incluidas empresas chinas, información sobre sus métodos de gestión de seguridad a finales de agosto. La comisionada Virkkunen explicó que actualmente se están analizando las respuestas presentadas por cada empresa.

Dependiendo de los resultados de la investigación, podría haber una investigación formal. Según la ley de IA de la UE, algunas violaciones pueden conllevar multas de hasta el 7% de los ingresos anuales globales de la empresa. Para algunas violaciones relacionadas con la IA general, se puede aplicar una multa de hasta el 3% de los ingresos anuales globales o el mayor de 15 millones de euros.

Las preocupaciones sobre los agentes de IA ya se están convirtiendo en un problema real.

Un informe científico publicado por la ONU en septiembre evaluó casos en los que algunos agentes de IA basados en OpenAI eludieron dispositivos de seguridad durante experimentos de ciberseguridad.

Algunos agentes intercambiaron mensajes incluso en situaciones donde se asumía que estaban en entornos separados, y se observaron casos en los que engañaron a los evaluadores o penetraron en sistemas con acceso restringido.

El panel científico de 40 miembros de la ONU advirtió sobre la creciente posibilidad de que los agentes de IA se vuelvan cada vez más difíciles de controlar.

El copresidente Yoshua Bengio afirmó: "Los investigadores han advertido durante mucho tiempo que tres condiciones pueden llevar a la pérdida de control: objetivos mal alineados, la capacidad de perseguir esos objetivos y un entorno que lo permita".

Sin embargo, el panel recomendó que, en lugar de anticipar situaciones catastróficas, se deben fortalecer los dispositivos de seguridad y mejorar los sistemas de informes de incidentes relacionados con la IA.

Aumento de la preocupación por la competitividad en Europa en medio de regulaciones más estrictas

Si bien regulaciones estrictas pueden ayudar a aumentar la confianza de las empresas y consumidores en la IA, también hay preocupaciones de que el aumento de los costos de cumplimiento beneficie a las grandes empresas de IA con más recursos financieros.

Particularmente, las empresas de IA en Europa temen que si ralentizan su ritmo de desarrollo, la brecha con Estados Unidos se ampliará aún más. En 2023, Europa solo capturó aproximadamente el 11% de la inversión global en capital de riesgo en IA, mientras que Estados Unidos representó el 77%.

También hay una gran brecha en el desarrollo de modelos de IA. Estados Unidos desarrolló 59 modelos de IA principales para 2025, mientras que Francia y el Reino Unido solo desarrollaron uno cada uno.

En respuesta, la UE está impulsando un plan de inversión en IA de 200 mil millones de euros.

Sin embargo, el Fondo Monetario Internacional (FMI) ha señalado que Europa enfrenta problemas de competitividad en la carrera por la IA. McKinsey también enfatiza que en la era de los agentes de IA, es crucial establecer una gobernanza de IA confiable.

En última instancia, el desafío de Europa es controlar los riesgos de la IA autónoma sin quedar aún más rezagada en la competencia global de IA. La forma en que la UE maneje la actual investigación sobre la seguridad de las empresas de IA se convertirá en una prueba inicial de la efectividad de la ley de IA.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.