Um grupo formado por importantes instituições financeiras internacionais emitiu um alerta oficial sobre os riscos associados ao uso de agentes de inteligência artificial voltados para o comércio eletrônico. A tecnologia, que permite que sistemas automatizados realizem buscas, comparem produtos e concluam transações financeiras em nome dos consumidores, avança em ritmo superior ao desenvolvimento de marcos regulatórios e mecanismos de proteção. O aviso conjunto foi publicado por empresas como NatWest, Bank of America, ING, Capital One e Commonwealth Bank of Australia.
O ecossistema tecnológico tem visto diversas companhias investirem pesado no desenvolvimento dessas soluções automatizadas. Organizações como OpenAI, empresa responsável pelo ChatGPT e pelos modelos GPT, Anthropic, criadora do Claude, Google e Meta trabalham ativamente na consolidação de ferramentas capazes de executar tarefas complexas de forma autônoma. Simultaneamente, o setor varejista busca adaptar suas plataformas para garantir que seus produtos sejam recomendados por esses assistentes virtuais.
O relatório divulgado pelo bloco de bancos aponta que a autonomia concedida a esses sistemas introduz vulnerabilidades críticas para a segurança dos usuários. Uma das principais preocupações reside na possibilidade de o sistema tomar decisões divergentes das expectativas do cliente, resultando em aquisições indesejadas ou gastos acima do orçamento estipulado. Além disso, existe a ameaça iminente de fraudes direcionadas, onde programas maliciosos podem interceptar dados de cartões de crédito e informações confidenciais inseridas durante o processo automatizado.
A privacidade dos dados surge como outro ponto central de debate no documento emitido pelas instituições financeiras. Para que os assistentes virtuais operem com eficiência, é necessário o acesso constante a dados pessoais e históricos financeiros, o que eleva a exposição a vazamentos e usos inadequados de informações sensíveis. O cenário regulatório atual ainda carece de definições claras sobre responsabilidade civil, deixando margem para dúvidas sobre quem deve arcar com prejuízos caso uma transação intermediada por um algoritmo falhe.
O impacto prático dessa tecnologia já pode ser observado nos registros de grandes redes varejistas do mercado global. A varejista britânica John Lewis reportou que as consultas originadas por sistemas automatizados em sua plataforma alcançaram a marca de dois ponto cinco por cento em setembro, apresentando um salto expressivo em comparação com os zero ponto três por cento registrados no mesmo período do ano anterior. Esse crescimento acelerado demonstra a urgência de estabelecer diretrizes seguras antes que a adoção em massa se consolide.
Diante do cenário de vulnerabilidades, o consórcio de bancos planeja negociar propostas diretamente com órgãos reguladores e formuladores de políticas públicas. As medidas sugeridas incluem a obrigatoriedade de identificação clara quando um sistema automatizado estiver conduzindo uma negociação, além de maior transparência em relação aos algoritmos de recomendação adotados pelos chatbots. As instituições financeiras também defendem o direito de escolha para clientes e comerciantes sobre quais plataformas utilizar e a padronização na interoperabilidade entre diferentes estruturas tecnológicas.
O avanço de agentes autônomos no comércio eletrônico reflete uma transformação profunda na forma como os consumidores interagem com o ambiente digital. Contudo, a falta de padronização de segurança e a exposição de dados financeiros exigem cautela redobrada por parte do mercado financeiro e dos desenvolvedores de tecnologia. A articulação entre bancos e reguladores busca mitigar os impactos negativos dessa transição, garantindo que a conveniência proporcionada pelas ferramentas automatizadas não venha acompanhada de riscos inaceitáveis para a integridade patrimonial dos usuários.
