As Limitações e as Finanças Agênticas

Nas últimas semanas, conversamos um pouco sobre Embedded FX e o que achamos que isso significa. Embora sejamos obviamente grandes defensores da automação, nosso ponto de vista é um pouco diferente do que costuma ser apresentado no mercado. Muitas vezes, quando as pessoas falam sobre o futuro dos pagamentos, elas apontam para operações de tesouraria totalmente agênticas (agentic), sistemas que transacionam e se adaptam com pouca ou nenhuma interação humana.

Esse parece ser um tipo de ponto final lógico da curva tecnológica atual, até que você afaste um pouco a câmera.

Em um sistema projetado dessa forma, quem toma decisões e quem se responsabiliza por elas? A máquina? Parece improvável que os reguladores aceitem isso. Parece improvável que seus clientes aceitem se algo der errado. Não, você é o responsável e, por esse motivo, você realmente não quer agentes correndo por toda parte tomando decisões. O que você quer são sistemas robustos o suficiente para resistir à incerteza, mas que permaneçam controláveis o suficiente para resistir a uma auditoria.

Antes de nos aprofundarmos nisso, aqui está um lembrete rápido de como pensamos sobre os diferentes tipos de sistemas agênticos; você pode ler o artigo completo aqui.

Os Quatro Níveis Básicos de Taxonomia Agêntica

1. Automação baseada em regras. Trata-se apenas de árvores de decisão repetitivas: Condição atendida, ação executada. Elas existem há décadas. O exemplo mais fácil de citar é um software programado para "emitir a folha de pagamento no dia 5 do mês".

2. Baseado em regras com tratamento de exceções. É aqui que se encontra atualmente grande parte da infraestrutura de pagamentos "inteligentes". Você ainda está lidando com software baseado em regras: Se isso, então aquilo. A diferença é que você tem uma árvore de decisão mais elaborada. Para voltar ao exemplo do software de folha de pagamento, digamos que o dia 5 do mês caia em um domingo. O software do nº 1 pode travar, mas um software baseado em regras com tratamento de exceções transferirá o pagamento para o próximo dia útil.

3. Sistemas orientados por ML (Machine Learning) com supervisão. Os sistemas orientados por aprendizado de máquina são projetados para observar padrões, fazer recomendações e melhorar com o tempo. Talvez ele perceba que, após cada folha de pagamento, os pagamentos por um determinado corredor não chegam ou atrasam se o dia 5 cair em uma sexta-feira. O sistema pode propor um processo excepcional para esses pagamentos quando isso acontecer — talvez liberando-os no dia anterior. Isso é uma verdadeira revolução para as operações de tesouraria que poderia melhorar drasticamente a eficácia de um sistema de pagamentos. Isso o torna agêntico? Discutível.

4. Sistemas autônomos de ponta a ponta. Agora estamos falando de agênticos de verdade: um sistema que observa condições, formula opiniões, decide sobre um curso de ação e o executa, sem uma pessoa no ciclo em cada etapa. Ele otimiza sua folha de pagamento global, paga os freelancers por último (e no último dia de validade da fatura) e inicia transações internacionais nas condições estatisticamente mais favoráveis. Se surgir um problema, ele pode avisar você, presumindo que haja alguém do outro lado para ler.

Ninguém realmente quer a realidade nº 4 em finanças em nenhum nível, por motivos nos quais entraremos em detalhes. Mas também, vamos descer do nosso pedestal da taxonomia e ser realistas: quando as pessoas falam sobre pagamentos agênticos, o que têm em mente é algo como uma mistura dos pontos 2 e 3, em que você tem um sistema amplamente baseado em regras e, em seguida, "agentes" orientados por LLM interagindo com ele para fazer as coisas funcionarem de forma mais suave antes que a intervenção seja necessária.

O que impede a maioria das pessoas é que é difícil identificar onde esses agentes devem intervir e em qual nível de autonomia.

Por que Tesourarias Totalmente Agênticas não são o Objetivo

O marketing comum do setor apresenta os pagamentos internacionais automatizados como uma curva de maturidade — como se toda operação de tesouraria eventualmente alcançasse a autonomia total, sendo apenas uma questão de tempo.

Isso é tolice.

Em "How Agentic AI Will Reshape Payments" (Como a IA Agêntica vai Remodelar os Pagamentos), Sonja Davidovic e Hervé Tourpe observam que as tesourarias que buscam incorporar IA agêntica "devem conciliar duas lógicas de design fundamentalmente diferentes: a natureza adaptativa e probabilística dos sistemas de IA agêntica e os requisitos determinísticos das infraestruturas do mercado financeiro".

O atrito de design que eles descrevem se manifesta de forma mais visível nas áreas de rastreabilidade e gestão de informações.

A questão da rastreabilidade é simples. Ela resume perfeitamente por que presumir que todas as operações de tesouraria serão um dia automatizadas e orientadas de forma agêntica é ingênuo e imprudente. Como regra, os regimes de pagamento exigem que as ordens de pagamento sejam rastreáveis até uma instrução autorizada. Esse pequeno detalhe é a base de toda auditoria, e as transações realizadas por agentes podem nem sempre corresponder a instruções explícitas no nível da transação. Sua introdução, portanto, exige limites de intervenção muito claros.

Comprometer o aspecto de autorização humana da rastreabilidade não apenas enfraquece a defensibilidade sobre a qual o sistema financeiro opera, mas também convida aos tipos de problemas com os quais Davidovic e Tourpe se preocupam em escala: "sem as salvaguardas apropriadas, delegar a iniciação de pagamentos a agentes autônomos poderia introduzir novos riscos operacionais, legais e sistêmicos, incluindo incentivos desalinhados, erros de modelo e comportamentos automatizados altamente correlacionados entre os mercados".

O segundo detalhe refere-se ao tratamento da informação. A segurança da informação em finanças preocupa-se principalmente com a proteção de dois ativos cruciais: informações de identidade e os próprios ativos financeiros. (Dinheiro também é informação.)

Agentes orientados por IA só podem melhorar com o consumo regular de informações. Isso levou a uma característica surpreendente, de acordo com o Blue Bridge Group AI: faz com que eles as busquem, mesmo quando essas informações são confidenciais e não necessárias para suas operações. Esse problema emergente, destacado em uma sessão de segurança de IA no VivaTech em Paris este ano, resultou na necessidade de empresas com sistemas agênticos criarem agentes adicionais para mitigar esse problema — "black-hats" para explorar falhas do sistema ou fraquezas de dados (incluindo funcionários); "white-hats" para corrigir essas descobertas, e "purple-hats" para aprender e se adaptar com ambos.

Existem bons motivos para introduzir um modelo tão difícil de controlar na sua infraestrutura tecnológica? Como meio de detectar e mitigar novos tipos de fraude, talvez, mas em muitas outras áreas, estratégias puramente agênticas introduzem novos riscos com auditabilidade limitada, risco que tem uma chance enorme de estourar na sua cara.

Agora que já tirei toda a graça do assunto, vamos falar sobre onde acreditamos que os pagamentos internacionais autônomos realmente valem a pena.

Expectativas Realistas para Pagamentos Internacionais Automatizados

Os pagamentos agênticos fazem mais sentido quando as transações são:

• Repetíveis

• Limitadas em valor e risco

• Auditáveis de ponta a ponta

• Reversíveis ou passíveis de escalonamento quando falham

Pense nessas características como pré-requisitos para que a autonomia exista em qualquer parte da sua infraestrutura tecnológica. Esses detalhes podem parecer diluir o potencial e o escopo total de um agente, mas na verdade estamos delimitando o escopo para garantir a responsabilidade.

Notavelmente, esses critérios não controlam o tamanho ou o volume das transações. O que eles controlam é o tamanho do raio de impacto em casos de erro.

Aqui está um exemplo de onde os pagamentos agênticos fazem sentido:

Você paga um fornecedor todo mês durante dois anos pelo mesmo canal. Este mês, a referência da fatura não coincide com a registrada no arquivo; há um dígito incorreto, provavelmente um erro de digitação. Um sistema baseado em regras travaria nessa fatura. Mas um agente com o histórico de transações pode deduzir, com base em outros detalhes, que o fornecedor e o valor são os mesmos. Encaixa-se em um padrão estabelecido, com uma pequena exceção. O agente a aprova, mas a sinaliza para uma revisão não urgente pós-execução.

Se a sua decisão se mostrar errada, o problema estará contido e será reversível, e tanto o cliente quanto o canal são bem conhecidos pelas suas operações. Um telefonema provavelmente resolveria o problema caso ele surja.

Aqui está uma situação que você não deve automatizar:

Uma nova contraparte envia uma instrução de pagamento com um pequeno erro — um número de referência incorreto. O erro não é maior do que o cenário do primeiro exemplo, mas, neste caso, não existe histórico de pagamentos para comparar com este documento, e o valor é alto. O canal em questão possui controles de capital, portanto, se você errar e precisar solicitar o dinheiro de volta, poderá ter que apresentar uma declaração regulatória.

Do ponto de vista de um agente, esses dois cenários são significativamente semelhantes. É isso que você deve reter: a adequação agêntica não se trata de quão difícil algo é; trata-se do tamanho do esforço para desfazer.

Realisticamente, a maioria dos casos reais que você encontrar não se dividirá de forma tão clara quanto mostram esses exemplos. Você pode encontrar uma transação repetível e limitada com uma trilha de auditoria instável, ou uma transação facilmente reversível que não se repete. Os critérios que compartilhamos são um ponto de partida para expandir com segurança à medida que você se familiariza com a forma como suas operações assimilam os sistemas agênticos.