As Limitações e as Finanças Agênticas

Nas últimas semanas, conversamos um pouco sobre o Embedded FX e o que achamos que isso significa. Embora sejamos obviamente grandes defensores da automação, nosso ponto de vista é um pouco diferente do que costuma ser apresentado no mercado. Muitas vezes, quando as pessoas falam sobre o futuro dos pagamentos, elas apontam para operações de tesouraria totalmente agênticas, sistemas que transacionam e se adaptam com pouca ou nenhuma interação humana. Isso parece uma espécie de ponto final lógico da curva tecnológica atual, até que se mude um pouco a perspectiva. Em um sistema projetado dessa forma, quem toma as decisões e quem assume a responsabilidade por elas? A máquina? Parece improvável que os reguladores aceitem isso. Parece improvável que seus clientes aceitem se algo der errado. Não, você é o responsável e, por esse motivo, você realmente não quer agentes rodando por toda parte tomando decisões. O que você quer são sistemas que sejam robustos o suficiente para resistir à incerteza, mantendo-se controláveis o suficiente para resistir a uma auditoria. Antes de nos aprofundarmos nisso, aqui está um lembrete rápido de como pensamos sobre os diferentes tipos de sistemas agênticos; você pode ler o artigo completo aqui. Os Quatro Níveis Básicos da Taxonomia Agêntica Automação baseada em regras. Trata-se de árvores de decisão puramente mecânicas: Condição atendida, ação executada. Elas existem há décadas. O exemplo mais fácil é um software programado para "emitir a folha de pagamento no dia 5 do mês". Baseado em regras com tratamento de exceções. É aqui que se encontra grande parte da infraestrutura de pagamentos "inteligente" atual. Você ainda está lidando com software baseado em regras: Se isso, então aquilo. A diferença é que você tem uma árvore de decisão mais elaborada. Voltando ao exemplo do software de folha de pagamento, digamos que o dia 5 do mês caia em um domingo. O software do item 1 pode travar, mas um software baseado em regras com tratamento de exceções transferirá o pagamento para o próximo dia útil. Sistemas orientados por ML com supervisão. Os sistemas orientados por aprendizado de máquina (ML) são projetados para observar padrões, fazer recomendações e melhorar com o tempo. Talvez ele perceba que, após cada folha de pagamento, os pagamentos por meio de um determinado corredor não chegam ou atrasam se o dia 5 cair em uma sexta-feira. O sistema pode propor um processo excepcional para esses pagamentos quando isso acontecer — talvez liberando-os no dia anterior. Isso é um divisor de águas genuíno para as operações de tesouraria que poderia melhorar drasticamente a eficácia de um sistema de pagamentos. Isso o torna agêntico? É discutível. Sistemas autônomos de ponta a ponta. Agora estamos falando de agentes reais: um sistema que observa as condições, formula opiniões, decide sobre um curso de ação e o executa, sem uma pessoa no ciclo em cada etapa. Ele otimiza sua folha de pagamento global, paga os freelancers por último (e no último dia de validade de suas faturas) e inicia transações internacionais nas condições estatisticamente mais favoráveis. Se surgir um problema, ele pode avisar você, assumindo que haja alguém do outro lado para ler. Ninguém realmente quer a realidade do item 4 em finanças em nenhum nível, por motivos que abordaremos. Mas também, vamos descer do nosso palanque da taxonomia e ser realistas: quando as pessoas falam sobre pagamentos agênticos, o que têm em mente é algo como uma mistura dos pontos 2 e 3, em que você tem um sistema amplamente baseado em regras e, em seguida, "agentes" orientados por LLM interagindo com ele para fazer as coisas funcionarem de forma mais fluida antes que a intervenção seja necessária. O que impede a maioria das pessoas é que é difícil identificar exatamente onde esses agentes deveriam intervir e com qual nível de autonomia. Por que as Tesourarias Totalmente Agênticas Não São o Objetivo O marketing comum do setor apresenta os pagamentos internacionais automatizados como uma curva de maturidade — como se toda operação de tesouraria eventualmente alcançasse a autonomia total, sendo apenas uma questão de tempo. Isso é tolice. Em "How Agentic AI Will Reshape Payments" (Como a IA Agêntica Redefinirá os Pagamentos), Sonja Davidovic e Hervé Tourpe observam que as tesourarias que buscam incorporar a IA agêntica "devem conciliar duas lógicas de design fundamentalmente diferentes: a natureza adaptativa e probabilística dos sistemas de IA agêntica e os requisitos determinísticos das infraestruturas do mercado financeiro". O atrito de design que eles descrevem se manifesta de forma mais visível nas áreas de rastreabilidade e gestão da informação. A questão da rastreabilidade é simples. Ela resume perfeitamente por que presumir que todas as operações de tesouraria um dia serão automatizadas e orientadas por agentes é ingênuo e imprudente. Como regra, os regimes de pagamento exigem que as ordens de pagamento sejam rastreáveis até uma instrução autorizada. Esse pequeno detalhe é a base de qualquer auditoria, e as transações realizadas por agentes podem nem sempre corresponder a instruções explícitas no nível da transação. Sua introdução, portanto, exige limites de intervenção muito claros. Comprometer o aspecto de autorização humana da rastreabilidade não apenas enfraquece a defesa sobre a qual o sistema financeiro opera, mas também abre espaço para os tipos de problemas com os quais Davidovic e Tourpe se preocupam em larga escala: "sem as salvaguardas apropriadas, delegar a iniciação de pagamentos a agentes autônomos poderia introduzir novos riscos operacionais, jurídicos e sistêmicos, incluindo incentivos desalinhados, erros de modelo e comportamentos automatizados altamente correlacionados entre os mercados". O segundo detalhe refere-se ao tratamento da informação. A segurança da informação em finanças está preocupada principalmente com a proteção de dois ativos cruciais: as informações de identidade e os próprios ativos financeiros. (Dinheiro também é informação.) Os agentes orientados por IA só podem melhorar com o consumo regular de informações. De acordo com o Blue Bridge Group AI, isso levou a uma característica surpreendente: faz com que eles a busquem, mesmo quando essa informação é confidencial e desnecessária para suas operações. Esse problema emergente, sinalizado em uma sessão de segurança de IA no VivaTech em Paris este ano, resultou na necessidade de empresas com sistemas agênticos criarem agentes adicionais para mitigar o problema — agentes de chapéu preto (black-hats) para explorar falhas de sistema ou fraquezas de dados (incluindo funcionários); chapéus brancos (white-hats) para corrigir essas descobertas e chapéus roxos (purple-hats) para aprender e se adaptar com ambos. Existem boas razões para introduzir um modelo tão incontrolável em sua estrutura? Como meio de detectar e mitigar novos tipos de fraude, talvez, mas em muitos outros domínios, estratégias puramente agênticas introduzem novos riscos com auditabilidade limitada, riscos que têm uma chance enorme de trazer sérias consequências negativas para você. Agora que tirei toda a diversão do assunto, vamos falar sobre onde achamos que os pagamentos internacionais autônomos realmente valem a pena. Expectativas Realistas para Pagamentos Internacionais Automatizados Os pagamentos agênticos fazem mais sentido quando as transações são: Repetíveis Limitadas em valor e risco Auditáveis de ponta a ponta Reversíveis ou passíveis de escalonamento em caso de falha Pense nessas características como condições prévias para que a autonomia exista em qualquer parte de sua estrutura. Esses detalhes podem parecer reduzir o potencial e o escopo total de um agente, mas, na verdade, estamos definindo limites para garantir a responsabilidade. Notavelmente, esses critérios não controlam o tamanho ou o volume das transações. O que eles controlam é o tamanho do impacto em caso de erro. Aqui está um exemplo de onde os pagamentos agênticos fazem sentido: Você paga um fornecedor todo mês durante dois anos pelo mesmo canal. Este mês, a referência da fatura não corresponde ao que está registrado; há um dígito incorreto, provavelmente um erro de digitação. Um sistema baseado em regras pode travar nessa fatura. Mas um agente com o histórico de transações pode deduzir, com base em outros detalhes, que o fornecedor e o valor são os mesmos. Isso se encaixa em um padrão estabelecido, com uma pequena exceção. O agente aprova o pagamento, mas o sinaliza para uma revisão pós-execução não urgente. Se a decisão for errada, o problema estará contido e será reversível, e tanto o cliente quanto o canal são bem conhecidos por suas operações. Um telefonema provavelmente resolveria o problema, caso ele surja. Aqui está uma situação que você não deve automatizar: Uma nova contraparte envia uma instrução de pagamento com um pequeno erro — um número de referência incorreto. O erro não é maior do que o cenário do primeiro exemplo, mas, neste caso, não existe histórico de pagamentos para comparar com este documento e o valor é alto. O canal em questão possui controles de capital, portanto, se você errar e precisar solicitar o dinheiro de volta, talvez precise apresentar uma declaração regulatória. Do ponto de vista de um agente, esses dois cenários são significativamente semelhantes. É isso que você deve guardar: a adequação agêntica não se trata de quão difícil algo é; trata-se do tamanho do esforço necessário para desfazer a ação. Realisticamente, a maioria dos casos reais que você encontrar não será dividida de forma tão clara como mostram esses exemplos. Você pode encontrar uma transação repetível e limitada com uma trilha de auditoria instável, ou uma transação facilmente reversível que não se repete. Os critérios que compartilhamos são um ponto de partida para expandir com segurança à medida que você se familiariza com a forma como suas operações absorvem os sistemas agênticos.