En nuestros artículos anteriores de esta serie, analizamos el auge de la IA agentiva y sus implicaciones para el comercio digital y la identidad. Explicamos cómo los agentes autónomos están empezando a actuar en nombre de los usuarios y las organizaciones, ejecutando decisiones y transacciones con una independencia cada vez mayor.
Esta evolución plantea una cuestión fundamental: ¿cómo se debe establecer, regular y garantizar la confianza en un mundo en el que las acciones ya no son iniciadas directamente por los seres humanos?
Tradicionalmente, la seguridad se ha basado en la premisa clara de que hay una persona en el punto de interacción. La IA agentiva pone en tela de juicio esa premisa. Actualmente se están diseñando sistemas en los que los agentes de software determinan qué comprar, a quién pagar y cuándo actuar, a menudo sin intervención humana en tiempo real.
En consecuencia, los modelos de seguridad actuales deben evolucionar. El objetivo ya no es simplemente proteger los sistemas frente a los actores malintencionados, sino facilitar una autonomía fiable dentro de unos límites claramente definidos y exigibles.
El modelo de seguridad tradicional: la verificación de personas
Los marcos tradicionales de seguridad digital se diseñaron en torno a un modelo relativamente sencillo. Un usuario se autentica, inicia una transacción y el sistema evalúa el riesgo basándose en las credenciales, las señales del dispositivo y los patrones de comportamiento.
Históricamente, la automatización se ha considerado una amenaza. Los bots se asociaban al fraude, y las actividades de alta velocidad se consideraban sospechosas. Esto llevó a la adopción generalizada de controles como el CAPTCHA, la identificación de dispositivos y la autenticación reforzada.
Estos enfoques resultaron eficaces porque se ajustaban a la forma en que se utilizaban los sistemas. La persona era quien tomaba las decisiones, y la función del sistema consistía en verificar esa identidad y detectar anomalías.
El cambio: facilitar la actuación de agentes de confianza
La IA agencial introduce un paradigma diferente. Ahora, los sistemas deben reconocer que los agentes no humanos pueden ser participantes legítimos.
La cuestión ya no es si una interacción está automatizada, sino si el agente está autorizado, opera dentro de unos límites definidos y actúa en nombre de un mandante verificado.
Esto requiere pasar de la verificación de identidad a la gestión de la autoridad delegada. Las organizaciones deben poder determinar quién ha autorizado a un agente, qué está autorizado a hacer, en qué condiciones y durante cuánto tiempo. Igualmente importante es la capacidad de revocar esa autoridad de forma inmediata si fuera necesario.
El concepto «Conoce a tu agente» (KYA) está surgiendo como una extensión natural del concepto «Conoce a tu cliente» (KYC), lo que refleja la necesidad de generar confianza no solo en las personas, sino también en los sistemas que actúan en su nombre.
La identidad pasa a ser contextual y delegada
La identidad digital nunca ha sido tan única ni tan estática como suponen muchos sistemas. Es intrínsecamente contextual y, a menudo, implica una delegación entre personas, organizaciones y dispositivos.
La IA agencial lo deja claro. Los agentes necesitan una forma de identidad que les permita ser identificados de forma única, vinculados a un principal y regulados mediante permisos definidos. Sus acciones deben ser observables y auditables.
Cuando los agentes comienzan a realizar transacciones financieras, a celebrar acuerdos o a poner en marcha procesos operativos, se convierten, de hecho, en actores dentro de entornos regulados. Sin una identidad y una responsabilidad claras, su comportamiento pasa a ser indistinguible de una actividad maliciosa.
Una nueva superficie de ataque: la integridad de las decisiones
La ciberseguridad tradicional se centra en proteger los sistemas frente al acceso no autorizado y al código malicioso. Los sistemas agenticos introducen un tipo diferente de riesgo: la manipulación de la toma de decisiones.
Amenazas como la inyección inmediata, la suplantación de agentes y la manipulación de datos pueden dar lugar a resultados que, desde el punto de vista del sistema, son lógicamente coherentes, pero que en la práctica resultan indeseables o perjudiciales. En estos casos, el sistema no se ha visto comprometido en el sentido tradicional, pero el resultado sigue siendo inseguro.
Esto pone de relieve la necesidad de integrar la seguridad en el propio proceso de toma de decisiones, en lugar de depender únicamente de los controles perimetrales.
Cómo gestionar un exceso de autonomía
Uno de los riesgos más importantes en los sistemas basados en agentes es la autonomía excesiva. Esto ocurre cuando a los agentes se les asignan objetivos generales sin restricciones lo suficientemente precisas.
En estos casos, los agentes pueden llevar a cabo acciones que, desde un punto de vista técnico, cumplan sus objetivos, pero que vayan más allá de la intención del usuario. No se trata de un comportamiento malintencionado, sino más bien de una consecuencia de la optimización de los resultados sin un control adecuado.
Captar la intención del usuario y traducirla en restricciones aplicables se convierte en un requisito fundamental. La seguridad debe centrarse no solo en impedir acciones no autorizadas, sino también en garantizar que las acciones autorizadas se ajusten a las expectativas.
La tokenización da paso a la aplicación de políticas
La tokenización sigue siendo un importante mecanismo de control, sobre todo en el ámbito de los pagos. Sin embargo, en un entorno basado en agentes, los tokens deben contener algo más que una simple referencia a un activo o credencial subyacente.
Deben codificar el alcance de la delegación, las restricciones normativas, los plazos y la procedencia. Sin este contexto, la tokenización se limita a acelerar las transacciones sin mejorar el control.
Esto está impulsando la necesidad de contar con marcos de tokens más sofisticados que incorporen políticas y autorizaciones directamente en la capa de transacciones.
Auditabilidad y rendición de cuentas
Dado que los agentes actúan en nombre de los usuarios, la capacidad de explicar y reconstruir las decisiones se convierte en algo esencial. Ya no bastará con atribuir acciones a un sistema sin comprender cómo y por qué se llevaron a cabo dichas acciones.
Las organizaciones deben poder rastrear las decisiones hasta su intención original, los datos de entrada que se tuvieron en cuenta, las restricciones aplicadas y la lógica seguida. Este nivel de auditabilidad es necesario para cumplir con los requisitos normativos y garantizar la confianza de los usuarios.
Sin ello, la rendición de cuentas se vuelve poco clara, lo que supone un riesgo tanto para los proveedores de servicios como para los usuarios finales.
La complejidad de los sistemas multiagente
Los retos se acentúan aún más en entornos en los que interactúan múltiples agentes. La coordinación entre agentes conlleva nuevos riesgos, como la participación no autorizada, la falta de alineación de objetivos y los errores en cadena.
La seguridad en estos sistemas requiere un cambio de enfoque hacia la gestión de las interacciones y los comportamientos emergentes, en lugar de centrarse únicamente en los terminales individuales. Esto exige nuevos enfoques que combinen elementos de diseño de sistemas, gobernanza y supervisión continua.
De la seguridad a la gobernanza
La transformación más significativa es el paso de la seguridad como función defensiva a la gobernanza como capacidad facilitadora.
Las organizaciones deben definir quién puede crear agentes, cómo se certifican, qué normas deben cumplir y cómo se supervisan y controlan a lo largo del tiempo. Esto refuerza el papel de los proveedores de identidad, las redes de pago y los organismos reguladores a la hora de establecer marcos comunes de confianza.
Sin una gestión deliberada, el ecosistema corre el riesgo de fragmentarse y adolecer de incoherencias, ya que las distintas plataformas impondrían sus propias normas y estándares.
Conclusión: fomentar la confianza a gran escala
El reto no consiste en impedir que los agentes actúen, sino en permitirles actuar de forma segura, transparente y dentro de unos límites claramente definidos.
La IA agentiva supone un cambio fundamental en la forma en que se toman y se ejecutan las decisiones. La seguridad debe evolucionar en consecuencia, yendo más allá de los modelos tradicionales centrados en la autenticación y la detección de fraudes.
El futuro de la confianza digital dependerá de nuestra capacidad para combinar la identidad, las políticas y la auditabilidad en un marco coherente que permita tanto la autonomía como el control.
En este contexto, la confianza programable se convierte en una capacidad fundamental. Permite a las organizaciones definir, aplicar y verificar las condiciones en las que operan los agentes, creando un sistema en el que la autonomía puede ampliarse sin comprometer la rendición de cuentas.
Descubre más en nuestra serie de entradas del blog sobre comercio con IA agencial:
Capítulo I: La IA agencial y los pagos: cuando la IA tiene un monedero y voluntad propia.
Capítulo II: Comercio «agentic»: cuando tu cartera tiene cerebro.
Capítulo III: Comercio «agentic»: publicación en Llamas.
Capítulo V: De las emociones a los algoritmos: por qué el comercio agencial necesita una nueva capa de confianza.
Capítulo VI: Cerrar la brecha de confianza en el comercio agénico.
Capítulo VII: Marco de confianza: cómo crear confianza verificable para las transacciones autónomas.
Capítulo VIII: De KYA a la confianza continua: regulación del comercio agencial en producción con FACT.
Capítulo IX: KYA no es suficiente: presentación de FACT, la capa de confianza en tiempo de ejecución para el comercio basado en agentes.
Capítulo X: El agente que hizo trampa en el examen
