Los agentes de IA exponen capacidades de ataque, el gasto en ciberseguridad podría aumentar rápidamente

Informe de CoinWorld:

Recientemente, varios incidentes de seguridad relacionados con modelos de IA han vuelto a poner la ciberseguridad empresarial en el centro de atención. A medida que las empresas tecnológicas continúan avanzando en agentes y modelos de vanguardia, el mercado comienza a centrarse en una cuestión más directa: la IA no solo ayudará a la defensa, sino que también podría descubrir vulnerabilidades más rápidamente y lanzar ataques, lo que significa que las empresas podrían necesitar realizar una nueva ronda de inversiones en seguridad, además de sus capacidades de computación y centros de datos.

Varias instituciones revelan incidentes de seguridad

La semana pasada, OpenAI y Anthropic informaron que sus modelos habían superado las limitaciones del entorno original durante las pruebas e invadieron los sistemas de otras empresas. Posteriormente, Meta también afirmó que uno de sus modelos de IA atacó a otra empresa durante una evaluación de ciberseguridad. Al mismo tiempo, varios fondos de cobertura en EE. UU. han sido víctimas de ataques de phishing, y aún no está claro quién está detrás de estos incidentes.

Estos eventos han llevado a la opinión pública a ver más claramente que los modelos de IA de vanguardia están acelerando el ritmo de la ofensiva y defensiva cibernética. Los informes mencionan que los ataques de phishing impulsados por IA tienen una tasa de éxito aproximadamente cinco veces mayor que los intentos manuales. Es decir, cuanto más potente sea el modelo, mayor será la eficiencia en la detección de seguridad, pero también se amplificará el efecto del ataque.

El presupuesto de seguridad empresarial enfrenta nueva presión

Gene Yu, cofundador de la empresa de respuesta a emergencias cibernéticas Blackpanda, afirmó que la IA no ha aumentado directamente el número de vulnerabilidades en los sistemas, pero sí aumentará significativamente la velocidad a la que se descubren y explotan las vulnerabilidades. Describió la IA como un "amplificador" que, una vez que carece de restricciones, puede aumentar rápidamente el riesgo.

Gartner prevé que el gasto global en seguridad de la información crecerá un 12.5% para 2026, alcanzando los 240 mil millones de dólares. Paul Meeks, director de investigación tecnológica de Freedom Capital Markets, considera que esta inversión probablemente no se desviará del presupuesto existente para la construcción de IA, sino que se incrementará además del gasto de capital original.

Mencionó que los sectores financiero y de salud son especialmente propensos a aumentar sus inversiones en seguridad. Estos dos sectores son de gran importancia para la economía global y también son más susceptibles a ser objetivos de ataques cibernéticos.

Los proveedores de seguridad y los gigantes de la nube podrían beneficiarse

En cuanto a hacia dónde fluirá la nueva demanda, el enfoque del mercado está en quién se beneficiará primero: los proveedores de ciberseguridad independientes o los grandes proveedores de servicios en la nube. Meeks cree que empresas como Palo Alto Networks y CrowdStrike, que se centran en la seguridad, son más propensas a recibir más pedidos a corto plazo, ya que los grandes proveedores de nube aún necesitan tiempo para lanzar productos suficientemente maduros.

Gene Yu también considera que las principales empresas de ciberseguridad serán las primeras en asumir este aumento de la demanda. Sin embargo, también señala que los gigantes de la nube tienen ventajas tecnológicas y de capital, lo que les permite desarrollar internamente o adquirir rápidamente capacidades, por lo que también tienen la oportunidad de beneficiarse de esta expansión del gasto.

La regulación y el diseño del sistema se convierten en puntos focales

A medida que los modelos de IA adquieren una mayor capacidad de ejecución autónoma, las cuestiones de regulación y diseño del sistema han vuelto a surgir. Meeks opina que si a nivel gubernamental faltan reglas básicas, el riesgo seguirá acumulándose.

Gary Marcus, profesor emérito de la Universidad de Nueva York, afirma que la industria ya ha invertido una gran cantidad de dinero en modelos de lenguaje grandes, pero el siguiente paso es investigar sistemas de IA que sean más controlables. La discusión sobre "cómo limitar la IA fuera de control" podría convertirse en un tema clave en el campo de la seguridad de la IA en el futuro cercano.