Em nossos artigos anteriores desta série, exploramos o surgimento da IA agênica e suas implicações para o comércio digital e a identidade. Descrevemos como os agentes autônomos estão começando a agir em nome de usuários e organizações, executando decisões e transações com cada vez mais independência.
Essa evolução levanta uma questão fundamental: como a confiança deve ser estabelecida, regulada e garantida em um mundo em que as ações não são mais iniciadas diretamente por seres humanos?
Tradicionalmente, a segurança tem sido construída com base na premissa clara de que há um ser humano no ponto de interação. A IA agentiva desafia essa premissa. Atualmente, estão sendo projetados sistemas nos quais agentes de software determinam o que comprar, a quem pagar e quando agir, muitas vezes sem intervenção humana em tempo real.
Como resultado, os modelos de segurança existentes precisam evoluir. O foco não está mais simplesmente em proteger os sistemas contra agentes mal-intencionados, mas em possibilitar uma autonomia confiável dentro de limites claramente definidos e aplicáveis.
O modelo de segurança tradicional: verificação de pessoas
As estruturas tradicionais de segurança digital foram projetadas com base em um modelo relativamente simples. Um usuário se autentica, inicia uma transação e o sistema avalia o risco com base em credenciais, sinais do dispositivo e padrões de comportamento.
Historicamente, a automação tem sido vista como uma ameaça. Os bots eram associados à fraude, e atividades em alta velocidade eram consideradas suspeitas. Isso levou à adoção generalizada de controles como o CAPTCHA, a identificação de dispositivos e a autenticação reforçada.
Essas abordagens foram eficazes porque se alinhavam à forma como os sistemas eram utilizados. O ser humano era quem tomava as decisões, e o papel do sistema era verificar essa identidade e detectar anomalias.
A mudança: capacitar agentes de confiança
A IA agentiva introduz um paradigma diferente. Os sistemas devem agora reconhecer que atores não humanos podem ser participantes legítimos.
A questão já não é se uma interação é automatizada, mas se o agente está autorizado, opera dentro de limites definidos e age em nome de um principal verificado.
Isso exige uma mudança da verificação de identidade para o gerenciamento de autorizações delegadas. As organizações devem ser capazes de determinar quem autorizou um agente, o que ele tem permissão para fazer, em que condições e por quanto tempo. Igualmente importante é a capacidade de revogar essa autorização imediatamente, se necessário.
O conceito de “Conheça seu Agente” (KYA) está surgindo como uma extensão natural do “Conheça seu Cliente” (KYC), refletindo a necessidade de estabelecer confiança não apenas nas pessoas, mas também nos sistemas que atuam em nome delas.
A identidade torna-se contextual e delegada
A identidade digital nunca foi tão única ou estática quanto muitos sistemas supõem. Ela é inerentemente contextual e, muitas vezes, envolve a delegação entre indivíduos, organizações e dispositivos.
A IA agentiva deixa isso bem claro. Os agentes precisam de uma forma de identidade que lhes permita ser identificados de maneira única, vinculados a um principal e regulados por meio de permissões definidas. Suas ações devem ser observáveis e auditáveis.
À medida que os agentes começam a realizar transações financeiras, celebrar contratos ou acionar processos operacionais, eles passam, de fato, a atuar em ambientes regulamentados. Sem uma identidade clara e sem prestação de contas, seu comportamento torna-se indistinguível de atividades maliciosas.
Uma nova superfície de ataque: integridade das decisões
A segurança cibernética tradicional concentra-se na proteção dos sistemas contra acessos não autorizados e códigos maliciosos. Os sistemas agenticos introduzem uma classe diferente de risco: a manipulação da tomada de decisões.
Ameaças como injeção imediata, falsificação de agente e contaminação de dados podem levar a resultados que são logicamente consistentes do ponto de vista do sistema, mas indesejáveis ou prejudiciais na prática. Nesses casos, o sistema não foi comprometido no sentido tradicional, mas o resultado ainda é inseguro.
Isso ressalta a necessidade de integrar a segurança ao próprio processo de tomada de decisão, em vez de depender exclusivamente de controles de perímetro.
Como lidar com a autonomia excessiva
Um dos riscos mais significativos em sistemas agentes é a autonomia excessiva. Isso ocorre quando os agentes recebem objetivos amplos, sem restrições suficientemente precisas.
Nesses cenários, os agentes podem realizar ações que, tecnicamente, atendam aos seus objetivos, mas vão além da intenção do usuário. Não se trata de um comportamento mal-intencionado, mas sim de uma consequência da otimização de resultados sem uma governança adequada.
Captar a intenção do usuário e traduzi-la em restrições aplicáveis torna-se um requisito essencial. A segurança deve se concentrar não apenas em impedir ações não autorizadas, mas também em garantir que as ações autorizadas permaneçam alinhadas às expectativas.
A tokenização evolui para a aplicação de políticas
A tokenização continua sendo um importante mecanismo de controle, especialmente na área de pagamentos. No entanto, em um ambiente orientado por agentes, os tokens devem conter mais do que apenas uma referência a um ativo ou credencial subjacente.
É necessário codificar o escopo da delegação, as restrições de política, os prazos e a proveniência. Sem esse contexto, a tokenização simplesmente acelera as transações sem melhorar o controle.
Isso está impulsionando a necessidade de estruturas de tokens mais sofisticadas, que incorporem políticas e autorizações diretamente na camada de transações.
Auditabilidade e prestação de contas
Como os agentes agem em nome dos usuários, a capacidade de explicar e reconstruir decisões torna-se essencial. Não será mais suficiente atribuir ações a um sistema sem compreender como e por que essas ações foram realizadas.
As organizações devem ser capazes de rastrear as decisões até a intenção original, os dados de entrada considerados, as restrições aplicadas e a lógica seguida. Esse nível de rastreabilidade é necessário para atender tanto aos requisitos regulatórios quanto à confiança dos usuários.
Sem isso, a responsabilização fica ambígua, gerando riscos tanto para os prestadores de serviços quanto para os usuários finais.
A complexidade dos sistemas multiagentes
Os desafios tornam-se ainda mais evidentes em ambientes onde vários agentes interagem. A coordenação entre os agentes traz novos riscos, incluindo participação não autorizada, objetivos desalinhados e erros em cascata.
A segurança nesses sistemas exige uma mudança de foco para o gerenciamento das interações e do comportamento emergente, em vez de se concentrar exclusivamente nos terminais individuais. Isso requer novas abordagens que combinem elementos de projeto de sistemas, governança e monitoramento contínuo.
Da segurança à governança
A transformação mais significativa é a mudança da segurança, como função defensiva, para a governança, como capacidade facilitadora.
As organizações devem definir quem pode criar agentes, como eles são certificados, quais regras devem seguir e como são monitorados e controlados ao longo do tempo. Isso reforça o papel dos provedores de identidade, das redes de pagamento e dos órgãos reguladores no estabelecimento de estruturas compartilhadas de confiança.
Sem uma governança deliberada, o ecossistema corre o risco de sofrer fragmentação e inconsistência, com diferentes plataformas impondo suas próprias regras e padrões.
Conclusão: promovendo a confiança em grande escala
O desafio não é impedir que os agentes ajam, mas sim permitir que ajam com segurança, transparência e dentro de limites claramente definidos.
A IA agentiva representa uma mudança fundamental na forma como as decisões são tomadas e executadas. A segurança deve evoluir de acordo com isso, indo além dos modelos tradicionais focados na autenticação e na detecção de fraudes.
O futuro da confiança digital dependerá da nossa capacidade de combinar identidade, políticas e auditabilidade em uma estrutura coesa que apoie tanto a autonomia quanto o controle.
Nesse contexto, a confiança programável torna-se uma capacidade fundamental. Ela permite que as organizações definam, apliquem e verifiquem as condições sob as quais os agentes operam, criando um sistema em que a autonomia pode ser ampliada sem comprometer a prestação de contas.
Saiba mais em nossa série de posts sobre comércio com IA autônoma:
Capítulo I: IA agênica e pagamentos: quando a IA ganha uma carteira e vontade própria.
Capítulo II: Comércio com IA Agênica: quando sua carteira ganha um cérebro.
Capítulo III: Comércio com IA agentiva: publicação no Llamas.
Capítulo V: Da emoção aos algoritmos: por que o comércio agênico precisa de uma nova camada de confiança.
Capítulo VI: Preenchendo a lacuna de confiança no comércio agênico.
Capítulo VII: Estrutura de confiança: construindo confiança verificável para transações autônomas.
Capítulo VIII: Do KYA à confiança contínua: regulamentação do comércio agênico em produção com o FACT.
Capítulo IX: O KYA não é suficiente: apresentando o FACT, a camada de confiança em tempo de execução para o comércio agênico.
Capítulo X: O agente que colou na prova
