¿Quién asume la responsabilidad cuando los agentes de IA son empleados?

Los empleados digitales están en el trabajo, pero la responsabilidad se vuelve confusa.

Escrito por: Forbes

Traducido por: AididiaoJP, Foresight News

Según una encuesta de Anthropic, el 57% de las organizaciones ya han implementado agentes de IA para manejar flujos de trabajo de múltiples etapas, y el 81% de las empresas planean utilizarlos para tareas más complejas para 2026. Al mismo tiempo, muchas compañías aún están explorando cómo gestionar realmente a estos agentes: una encuesta de la Cloud Security Alliance muestra que el 82% de las empresas encuestadas han descubierto al menos un agente de IA o flujo de trabajo autónomo del que su equipo de seguridad o TI no tenía conocimiento.

Detrás de esta rápida adopción, hay un cambio fundamental en la percepción de la inteligencia artificial por parte de las empresas. Los agentes ya no se limitan a redactar textos, realizar investigaciones y mantener conversaciones básicas, sino que están entrando directamente en diálogos con los clientes, bases de datos internas y operaciones comerciales diarias. Pueden programar citas, actualizar registros, filtrar pistas y realizar tareas que anteriormente eran responsabilidad de los empleados.

Este cambio está impulsando una discusión más amplia: ¿cómo deben las empresas gestionar a los agentes de IA como una nueva forma de fuerza laboral digital? Empresas tecnológicas como Microsoft y Okta están desarrollando sistemas que otorgan a los agentes una identidad independiente, designan responsables y limitan sus permisos. El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) también está investigando cómo aplicar los estándares existentes de identificación, autorización y auditoría a los agentes.

La empresa de comunicaciones comerciales Nextiva ha posicionado su asistente de IA XBert directamente como un "empleado de IA". Este agente puede atender llamadas y mensajes de clientes, programar citas, filtrar pistas y redirigir solicitudes a los sistemas comerciales relevantes. Las empresas pueden establecer su ámbito de responsabilidad, decidir cuándo transferir a un humano y revisar todos los registros de interacción.

Llamar a un software "empleado" significa que puede representar a la empresa, ejercer poder en un ámbito limitado y completar tareas en nombre de la empresa. Sin embargo, la empresa que lo implementa sigue siendo responsable de lo que dice y hace.

"La confianza en los agentes de IA es similar a la confianza en los empleados: debe ganarse a través del rendimiento y debe ser verificable", me dijo Yaniv Masjedi, director de marketing de Nextiva, en una entrevista. Agregó que los agentes deben dejar claro que son IA, especificar lo que pueden y no pueden hacer, y ofrecer siempre la opción de transferir a un humano.

"Detrás de escena, las empresas necesitan tener la misma rigurosidad que tendrían con un nuevo empleado: definir permisos, registrar todas las acciones y designar a una persona real responsable de los resultados. La IA nunca posee los resultados; la empresa lo hace. Las promesas hechas por el agente son tus promesas."

Cómo gestionar la nueva fuerza laboral digital

El nivel de supervisión que requieren los agentes depende en gran medida de lo que pueden hacer. Si solo responden preguntas basadas en una base de conocimiento aprobada, el riesgo es relativamente controlable; si pueden acceder a registros de clientes, enviar mensajes, otorgar puntos o modificar cuentas, se necesita un control más preciso.

Las empresas deben gestionar la identidad y los permisos de acceso de los agentes con la misma seriedad que lo harían con los empleados humanos. Las medidas de control en torno a los agentes se convierten, de hecho, en su descripción de trabajo: qué sistemas pueden acceder, qué acciones pueden realizar y qué decisiones aún requieren aprobación humana.

"Si un agente va a trabajar como un empleado, construye un 'archivo de empleo': designa un responsable directo, define el ámbito del puesto, establece credenciales de acceso que caduquen, documenta los umbrales para transferir a un humano y establece un proceso completo de salida", escribió Anupam Satyasheel, CEO de Occams Advisory y cofundador de Occams AI, en una respuesta.

"El último día de un empleado humano, su tarjeta de trabajo se desactiva. Sin embargo, la mayoría de las credenciales de los agentes no tienen un 'último día'." Agregó.

Una investigación reciente de Okta muestra que la infraestructura de gestión básica aún está en construcción: solo el 47% de los ejecutivos afirma poder identificar a todos los agentes en el entorno, el 46% puede controlar el contenido al que acceden estos agentes y el 45% puede autorizar sus acciones específicas.

El desafío radica en: imponer suficiente estructura sin sofocar la flexibilidad inherente de los agentes.

"Los agentes son inherentemente flexibles. Controlarlos demasiado estrictamente equivale a pagar mucho por ejecutar un script; controlarlos demasiado laxamente equivale a no tener gobernanza en absoluto", me dijo Imran Siddique, director de plataforma de Opaque Systems, en una respuesta escrita.

Él cree que los agentes deben tener una identidad de máquina independiente y una lista clara de capacidades, en lugar de un título de trabajo amplio o heredar directamente los permisos de un usuario humano.

"Este agente solo puede realizar este conjunto de acciones—sin permisos implícitos ni herencia de permisos", dijo.

Los puestos humanos a menudo llevan expectativas informales y poderes tácitos. Los agentes de IA operan completamente a través de permisos de acceso del sistema: siempre que la cuenta conectada permita una acción, pueden ejecutarla, incluso si la empresa nunca tuvo la intención de otorgar ese poder.

Estableciendo confianza

Definir quién es responsable del agente es solo una parte de la estructura. La empresa también debe poder identificar al agente en sí, limitar sus permisos y reconstruir completamente todas sus acciones.

La plataforma de verificación Sumsub lanzó recientemente el marco "Conoce a tu Agente" (Know Your Agent), que vincula a los agentes de IA con identidades humanas verificadas. "Vincular a los agentes de IA con identidades humanas verificadas es la base de la responsabilidad, pero eso en sí mismo puede no ser suficiente", me dijo Ilya Brovin, director de crecimiento de Sumsub, en una respuesta escrita. Las organizaciones deben poder aclarar: quién es responsable de este agente, qué se le autoriza a hacer y qué ha hecho realmente.

Esto requiere una identidad de máquina persistente, permisos estrictamente limitados, autenticación continua y registros de actividad a prueba de manipulaciones. "La confianza debe ser continua, no única", agregó Brovin.

Esta distinción refleja la diferencia entre los agentes y la verificación de identidad única para usuarios humanos. Una persona puede verificar su identidad una vez al abrir una cuenta o acceder a un servicio. Sin embargo, un agente puede operar continuamente, moverse entre sistemas y ejecutar nuevas acciones horas o incluso días después de la autorización inicial.

Los clientes deben saber claramente: qué empresa representa este agente, que están conversando con una IA, qué solicitudes puede manejar y cómo contactar a un humano en caso de decisiones sensibles o importantes. El equipo interno también necesita registros más completos: quién autorizó a este agente, qué datos accedió, qué acciones realizó y si esas acciones estaban dentro del ámbito de aprobación.

El auge de los empleados de IA exige que las empresas apliquen principios de gestión familiares—propiedad, descripciones de trabajo, acceso limitado, supervisión y procesos de salida— a una nueva clase de "empleados". A medida que los agentes se integran en la fuerza laboral digital, aquellos que se benefician más serán aquellos que, al otorgar mayor autonomía, también establezcan límites y hagan cumplir la responsabilidad.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.