Governança ganha centralidade à medida que agentes de IA assumem mais tarefas corporativas
Pesquisa da Deloitte indica que 23% das empresas já adotam agentes de inteligência artificial, porcentagem que deve saltar para 74% em dois anos, enquanto apenas 21% contam com salvaguardas robustas para supervisionar o comportamento desses sistemas. Os dados, apresentados no contexto da discussão sobre o tema no AI & Big Data Expo North America 2026, em Santa Clara, Califórnia, expõem uma aceleração na adoção de IA com autonomia crescente. A Deloitte, patrocinadora diamante do evento, tem desenvolvido estruturas de governança e abordagens consultivas para auxiliar organizações a gerenciar esses sistemas, enfatizando que a prioridade não é apenas construir modelos mais capazes, mas garantir que se comportem de forma compreensível, gerenciável e confiável ao longo do tempo.
A transição de ferramentas de IA puramente reativas para agentes com capacidade de planejamento, decisão e execução de tarefas representa uma mudança importante no uso corporativo da tecnologia. Os modelos de linguagem grandes, ou LLMs, são treinados em vastas bases de dados textuais para gerar respostas coerentes e relevantes, mas historicamente dependiam de um comando humano para agir. Em contraste, a IA agente consegue decompor um objetivo em etapas, selecionar ações, invocar APIs e interagir com outros sistemas para completar tarefas com pouca intervenção humana. Essa maior independência traz desafios inéditos. Ao tomar decisões por conta própria, o sistema pode seguir trajetórias não totalmente previstas pelos desenvolvedores, usar dados de maneiras não antecipadas e expor vulnerabilidades que dificilmente seriam detectadas em tempo real.
A Deloitte destaca que a governança não deve ser uma camada acrescentada após a implantação, mas sim incorporada ao ciclo completo de vida do sistema. Na fase de desenho, as organizações precisam definir claramente o que o sistema pode acessar, quais tipos de decisões está autorizado a tomar e quais são seus limites. Isso pode incluir regras explícitas de uso de dados, políticas de privacidade, restrições a sistemas sensíveis e protocolos para cenários de incerteza. Sem essas fronteiras, mesmo modelos bem treinados podem gerar consequências difíceis de reverter. Uma vez em produção, o foco se volta para controle de acesso e monitoramento contínuo, pois agentes autônomos podem se ajustar ao interagir com novos dados e se afastar progressivamente de seu propósito original.
A transparência e a responsabilidade ganham peso proporcional ao grau de autonomia dos agentes. Quando um sistema toma ações sem aprovação humana direta, torna-se mais complexo rastrear a cadeia de decisões que levou a um determinado resultado. A pesquisa aponta que apenas cerca de um quinto das empresas reporta ter salvaguardas fortes para supervisionar o comportamento desses agentes. Entre as práticas recomendadas estão a geração de logs detalhados de cada ação executada e a documentação das decisões tomadas pelo sistema. Esses registros são fundamentais para auditorias, investigações de incidentes e para cumprir obrigações regulatórias. Em setores regulados, como o financeiro e o de saúde, demonstrar conformidade por meio de trilhas de auditoria é não apenas uma boa prática, mas muitas vezes um requisito legal.
O monitoramento em tempo real surge como uma peça-chave na operação de agentes autônomos. Regras estáticas podem ser insuficientes diante da dinamicidade de ambientes de produção, onde os agentes enfrentam situações inéditas. A abordagem defendida pela Deloitte inclui supervisão em tempo real, permitindo que as equipes observem o que o sistema está fazendo enquanto executa suas tarefas. Se um comportamento inesperado for detectado, é possível interromper determinadas ações, ajustar permissões ou desativar funções específicas até que o problema seja avaliado. Esse tipo de resposta rápida reduz o risco de danos em escala e facilita a conformidade com normas e padrões externos, além de preservar a confiança das partes interessadas na tecnologia.
Um exemplo prático mencionado no contexto da discussão envolve o monitoramento de desempenho de equipamentos em múltiplas instalações industriais. Sensores captam dados de vibração, temperatura e pressão, e sistemas de análise de dados identificam sinais precoces de falha. Ao detectar anomalias, um agente de IA pode acionar fluxos de manutenção, atualizar sistemas internos e registrar a ocorrência. Nesse cenário, as estruturas de governança definem quais ações o sistema pode tomar autonomamente, quando é necessária aprovação humana e como as decisões são documentadas. Do ponto de vista do usuário final, o processo aparenta ser uma única ação integrada, mas, nos bastidores, múltiplos sistemas são coordenados sob regras de acesso, controle e registro bem definidas.
A evolução tecnológica que sustenta esses agentes baseia-se em arquiteturas que combinam modelos de linguagem com orquestração de ferramentas, acesso a APIs e, em alguns casos, técnicas de recuperação de informações para incorporar contexto específico da organização. No entanto, essa maior capacidade de atuar diretamente sobre sistemas corporativos exige reconsiderar modelos de segurança e compliance. O controle de versionamento dos modelos, a gestão de dados utilizados para o ajuste fino e a segregação de ambientes de teste e produção tornam-se ainda mais críticos quando o sistema pode disparar ações com impacto operacional ou financeiro. As organizações precisam também definir políticas claras sobre retenção e descarte de logs, considerando a sensibilidade dos dados envolvidos e prazos legais.
O desafio atual não reside apenas em aumentar a capacidade dos modelos, mas em garantir que seu comportamento permaneça dentro de limites previsíveis e auditáveis. À medida que a tecnologia avança, algumas iniciativas exploram métodos para aumentar a explicabilidade das decisões, como o uso de modelos que geram justificativas para suas escolhas ou a aplicação de camadas de verificação que checam a consistência de resultados antes da execução. Há também discussões sobre classificação de níveis de autonomia, em que agentes poderiam operar sob regimes de liberdade condicionada, agindo livremente em domínios de baixo risco, mas sendo sujeitos a revisão humana em contextos críticos. Essas camadas adicionais de controle buscam equilibrar eficiência operacional com mitigação de riscos.
Para além dos aspectos técnicos, o debate envolve responsabilização jurídica e ética. Se um agente autônomo tomar uma decisão que cause prejuízos, é preciso estabelecer com clareza a cadeia de responsabilidade. As organizações que implementam esses sistemas estão, portanto, desenvolvendo comitês de ética em IA, políticas de uso aceitável e protocolos de escalonamento de incidentes. A cultura organizacional também precisa evoluir, com equipes multidisciplinares — incluindo juristas, especialistas em segurança de dados, profissionais de compliance e gestores de negócio — colaborando na concepção, implantação e supervisão dessas tecnologias. Essa governança integrada ajuda a alinhar a operação dos agentes com valores da empresa e requisitos regulatórios, reduzindo riscos reputacionais e operacionais.
RESUMO: A adoção de agentes de inteligência artificial nas empresas está avançando rapidamente: 23% já usam essa tecnologia e a projeção é chegar a 74% em dois anos, enquanto apenas 21% possuem salvaguardas fortes para supervisionar seu comportamento. A Deloitte desenvolve estruturas de governança que incluem regras claras desde o desenho do sistema, monitoramento em tempo real e registros detalhados de ações e decisões. A transição de modelos puramente reativos para agentes autônomos exige limites bem definidos sobre acesso a dados, tipos de decisões permitidas e responsabilização, equilibrando eficiência operacional com transparência, conformidade e confiança na tecnologia.
