La confianza en línea sacudida por la IA... La verificación basada en ZK como solución emergente

Con la proliferación de contenido sintético y la IA autónoma, la "confianza" en línea se ha desmoronado, y el sistema de verificación basado en "pruebas de conocimiento cero (ZK)" ha surgido como una solución clave.

Recientemente, a raíz del conflicto en Irán, los videos falsos generados por IA se han difundido entre cientos de millones de personas, lo que ha socavado fundamentalmente la confianza en imágenes y videos. En el pasado, "ver era creer", pero ahora ha cambiado a un entorno donde se consume con la premisa de la duda. El problema va más allá de los simples deepfakes; la IA ha comenzado a "actuar" en sistemas económicos y sociales reales.

Limitaciones de la tecnología de detección, ya es demasiado tarde

Los enfoques existentes han consistido en crear otra IA para detectar la IA. Sin embargo, este enfoque tiene limitaciones estructurales. Se han reportado casos en los que la precisión de detección cae hasta un 4% solo por una simple distorsión de imagen, lo que indica que la competencia en detección no es una solución esencial.

El problema mayor es que la IA ya no se limita a generar contenido, sino que actúa como agentes autónomos. Estos realizan navegación web, compras, negociaciones y publicaciones de contenido, interactuando directamente con los humanos. Algunos incluso conversan con niños, pero los usuarios pueden no darse cuenta de que están tratando con una máquina.

En este proceso, pequeños errores se amplifican en daños a gran escala. Por ejemplo, una IA con datos de entrenamiento ligeramente contaminados puede cometer errores repetidos en facturación médica, lo que podría resultar en pérdidas de millones de dólares en toda una red hospitalaria. La IA de comercio también puede buscar optimizar ganancias, aprovechando las fallas en el sistema de precios y causando pérdidas no intencionadas de miles de millones de dólares.

El problema es que la verificación posterior es casi imposible. Las decisiones de la IA se calculan probabilísticamente en base a miles de millones de parámetros y pueden dar respuestas diferentes a la misma pregunta. Es difícil rastrear con qué datos se entrenó y qué procesos se siguieron para llegar a una conclusión.

Sin "pruebas", no hay confianza

Como alternativa para resolver estas limitaciones, las "pruebas de conocimiento cero (ZK)" están ganando atención. La prueba de conocimiento cero es una técnica criptográfica que demuestra matemáticamente que un hecho es verdadero sin revelar información sensible.

Esta tecnología es de un nivel completamente diferente a la simple etiquetación o marcas de agua. Puede probar de manera irrefutable que la IA ha derivado un resultado específico basado en ciertos datos. Es decir, no se trata de "confía en mí", sino de "te lo demostraré".

En el ámbito de los medios, se puede probar si una foto fue tomada con un equipo real, si fue generada en un momento específico y si no ha sido editada. En el ámbito de la IA, es aún más potente. Se puede verificar si el resultado fue generado con un modelo y parámetros específicos, si los datos de entrenamiento no estaban contaminados y si se cumplen los requisitos regulatorios.

Además, se utiliza para la "verificación de identidad" que distingue entre humanos y IA. Los usuarios pueden demostrar que son humanos sin revelar información personal, y la IA puede revelar transparentemente que es un agente.

La evolución de la web, de "leer" a "probar"

Internet también enfrentó problemas de confianza en el pasado. HTTPS fue la solución a esto. Los sitios web debían probar su identidad a través de certificados de cifrado, y esta estructura se convirtió en la base del comercio electrónico.

Después, Web2 creció sobre contenido generado por usuarios, pero era una estructura centrada en humanos. Ahora, con la aparición de agentes de IA como actores económicos, surge un nuevo problema: "¿quién es responsable?"

Web3 ha promovido la propiedad y la descentralización, pero no se ha difundido tanto como se esperaba. En el mercado, la imagen de especulación de tokens se ha intensificado, oscureciendo la visión original. Los expertos creen que ahora el enfoque debe estar en "verificación" en lugar de "propiedad".

En última instancia, el núcleo del futuro de Internet es "confianza verificable". Debe ser posible verificar quién creó el sistema, con qué datos se entrenó y qué autoridad tiene para actuar.

En la era de la IA, la regulación también debe centrarse en "pruebas"

Las discusiones políticas también se están moviendo en esta dirección. El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) ya está considerando la estandarización de las pruebas de conocimiento cero como parte de la "tecnología de cifrado mejorada para la privacidad".

Los expertos señalan que, especialmente en áreas de alto riesgo como transacciones financieras o interacciones con niños, los agentes de IA deben tener pruebas criptográficas. Cada acción importante—pago, contrato, intercambio de datos—debe demostrar quién la aprobó y bajo qué condiciones se realizó.

Esto se expande más allá de un simple problema técnico a un problema de seguridad nacional. Si los deepfakes fueron una "guerra de prueba", la IA autónoma puede ser el "juego real" que puede perturbar la economía y la sociedad reales.

En última instancia, Internet está evolucionando de "leer (Read)" y "escribir (Write)" a la etapa de "probar (Prove)". Las pruebas de conocimiento cero tienen una gran posibilidad de convertirse en la infraestructura clave para restablecer estándares en un entorno digital donde la confianza se ha desmoronado.

Descargo de responsabilidad: Este contenido se proporciona únicamente con fines generales de desarrollo de marca e informativos y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, evento en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación para comprar, vender, tradear o negociar de cualquier otra forma con cualquier criptoactivo o para utilizar cualquier servicio. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. Es posible que los servicios de WEEX y los eventos en línea no estén disponibles en todas las regiones, así como que estén sujetos a las leyes, regulaciones y requisitos de elegibilidad vigentes. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con las criptomonedas.