La confianza en línea sacudida por la IA... La verificación basada en ZK como solución emergente

Con la proliferación de contenido sintético y la IA autónoma, la "confianza" en línea se está desmoronando, y el sistema de verificación basado en "pruebas de conocimiento cero (ZK)" está surgiendo como una solución clave.

Recientemente, a raíz del conflicto en Irán, un video falso generado por IA se ha difundido entre cientos de millones de personas, lo que ha socavado fundamentalmente la confianza en imágenes y videos. Antes, "ver era creer", pero ahora el entorno ha cambiado a uno donde la duda es la norma. El problema va más allá de los simples deepfakes; la IA ha comenzado a "actuar" en sistemas económicos y sociales reales.

Limitaciones de la tecnología de detección, ya es demasiado tarde

El enfoque tradicional ha sido crear otra IA para detectar la IA. Sin embargo, este enfoque tiene limitaciones estructurales. Se han reportado casos en los que la precisión de detección cae hasta un 4% solo por distorsiones simples de imagen, lo que sugiere que la competencia en detección no es una solución esencial.

El problema más grande es que la IA ya no se limita a la creación de contenido, sino que actúa como agentes autónomos. Estos realizan tareas como navegar por la web, comprar, negociar y publicar contenido, interactuando directamente con los humanos. Algunos incluso conversan con niños, pero los usuarios pueden no darse cuenta de que están tratando con una máquina.

En este proceso, pequeños errores se amplifican en daños a gran escala. Por ejemplo, una IA con datos de entrenamiento ligeramente contaminados puede cometer errores repetidos en facturación médica, lo que podría resultar en pérdidas de millones de dólares en toda una red hospitalaria. La IA de comercio también puede buscar optimizar ganancias, aprovechando las fallas en el sistema de precios y causando pérdidas no intencionadas de miles de millones de dólares.

El problema es que la verificación posterior es casi imposible. Las decisiones de la IA se calculan probabilísticamente en base a miles de millones de parámetros y pueden dar respuestas diferentes a la misma pregunta. Es difícil rastrear con qué datos se entrenó y qué procesos se siguieron para llegar a una conclusión.

Sin 'pruebas', no hay confianza

Como alternativa para resolver estas limitaciones, las "pruebas de conocimiento cero (ZK)" están recibiendo atención. La prueba de conocimiento cero es una técnica criptográfica que permite demostrar matemáticamente que un hecho es verdadero sin revelar información sensible.

Esta tecnología es de un nivel completamente diferente a la simple etiquetación o marcas de agua. Puede probar de manera irrefutable que la IA ha llegado a un resultado específico basado en ciertos datos. Es decir, no se trata de "creerme", sino de "te lo demostraré".

En el ámbito de los medios, se puede probar si una foto fue tomada con un equipo real, si fue generada en un momento específico y si no ha sido editada. En el ámbito de la IA, es aún más potente. Se puede verificar si un resultado fue generado con un modelo y parámetros específicos, si los datos de entrenamiento no estaban contaminados y si se cumplen los requisitos regulatorios.

Además, se utiliza para la "verificación de identidad" que distingue entre humanos y IA. Los usuarios pueden demostrar que son humanos sin revelar información personal, y la IA puede revelar de manera transparente que es un agente.

La evolución de la web, de 'leer' a 'probar'

Internet también ha enfrentado problemas de confianza en el pasado. HTTPS fue la solución a esto. Los sitios web debían probar su identidad a través de certificados de cifrado, y esta estructura se convirtió en la base del comercio electrónico.

Luego, la web 2.0 creció sobre contenido generado por usuarios, pero esto era una estructura centrada en humanos. Ahora, con la aparición de agentes de IA como actores económicos, surge un nuevo problema: "¿quién es responsable?".

La web 3.0 ha promovido la propiedad y la descentralización, pero no se ha difundido tanto como se esperaba. En el mercado, la imagen de especulación de tokens se ha intensificado, oscureciendo la visión original. Los expertos ahora creen que el enfoque debe estar en la "verificación" en lugar de la "propiedad".

En última instancia, el núcleo del futuro de Internet es la "confianza verificable". Debe ser posible verificar quién creó el sistema, con qué datos se entrenó y qué autoridad tiene para actuar.

En la era de la IA, la regulación también debe ser 'centrada en la prueba'

Las discusiones políticas también se están moviendo en esta dirección. El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) ya está considerando la estandarización de las pruebas de conocimiento cero como parte de la "tecnología de cifrado mejorada para la privacidad".

Los expertos señalan que, especialmente en áreas de alto riesgo como transacciones financieras o interacciones con niños, los agentes de IA deben tener pruebas criptográficas. Cada acción importante—pago, contrato, intercambio de datos—debe demostrar quién la aprobó y bajo qué condiciones se realizó.

Esto se extiende más allá de un simple problema técnico a un problema de seguridad nacional. Si los deepfakes fueron una "guerra de prueba", los agentes de IA autónomos son el "juego real" que puede perturbar la economía y la sociedad reales.

En última instancia, Internet está evolucionando de 'leer', 'escribir' a 'probar'. Las pruebas de conocimiento cero tienen una gran posibilidad de convertirse en la infraestructura clave para restablecer estándares en un entorno digital donde la confianza se ha desmoronado.

Aviso legal: Este contenido se brinda únicamente con fines informativos y de marca, y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Ningún evento, recompensa, evento en línea o información relacionada que se mencione aquí debe considerarse una recomendación, solicitud o invitación para comprar, vender, intercambiar u operar de cualquier otra forma con criptoactivos ni para utilizar ningún servicio. Los criptoactivos son altamente volátiles y pueden generar pérdidas. Los servicios y eventos en línea de WEEX pueden no estar disponibles en todas las regiones y están sujetos a las leyes, regulaciones y requisitos de elegibilidad aplicables. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con criptomonedas.