A passagem da inteligência artificial de um estágio em que o usuário basicamente conversava com o sistema para uma fase de agentes autônomos, capazes de tomar decisões e executar ações por conta própria, transformou a governança em exigência obrigatória para empresas que pretendem usar a tecnologia com segurança. A avaliação ganhou força entre especialistas brasileiros, que defendem que a disciplina de governar sistemas de IA em breve terá o mesmo peso institucional que a governança financeira ocupa hoje nas corporações.
Quem resume o problema é Lia Pullen Parente, coordenadora da Comissão de Inovação e IA da Associação de Conselheiros do Brasil (ACBrasil), entidade que reúne conselheiros consultivos e de administração. Para ela, a reação típica de muitos gestores diante dos riscos é simplesmente proibir a tecnologia. Em um mercado hipercompetitivo, no entanto, banir a IA equivale a decretar a obsolescência operacional da organização, porque a proibição apenas empurra o uso para a clandestinidade, aumentando os riscos sem gerar os benefícios da inovação.
"Antecipar-se a esse movimento não é uma medida defensiva, é um diferencial estratégico que separa as empresas resilientes daquelas que ficaram expostas à IA de sombra", afirma Parente, referindo-se ao fenômeno em que colaboradores adotam ferramentas de IA sem qualquer controle institucional. A governança, argumenta, deve valer tanto para setores em que a IA é o próprio serviço inovador quanto para a maior parte das empresas, em que a tecnologia funciona como processo inovador e ferramenta de criação de novos produtos.
Na arquitetura de IA, segundo Gustavo Donato, professor e vice-presidente de conhecimento e aprendizagem da Fundação Dom Cabral (FDC), existem diferentes vias de crescimento, que envolvem dados, engenharia, estratégia e decisão, além de uma específica de governança. A razão é direta: os agentes de IA começam a decidir, a se conectar com sistemas críticos e a abrir portas, inclusive de cibersegurança, sem necessariamente uma supervisão contínua.
Para Dora Kaufman, professora da PUC-SP, governança em IA significa uma mudança de paradigma: migrar da subjetividade das discussões éticas e transformá-las em critérios, objetivos e decisões institucionais justificadas. Toda organização tem diretrizes de governança, especialmente a partir de uma certa escala de atuação, mas o desafio atual é incorporar a IA, que tem natureza distinta dos sistemas tradicionais.
Enquanto os sistemas convencionais são programados e determinísticos, os modelos de IA são probabilísticos, o que exige uma gestão mais complexa, capaz de lidar com a variável da incerteza. "A governança corporativa é o elemento que permite à organização navegar na complexidade da IA, transformando riscos em ativos. A governança não é um plano, mas um processo", diz Kaufman. Esse processo requer monitoramento contínuo de riscos e envolve áreas como jurídico, TI e compliance. Segundo a pesquisadora, estão no bom caminho as organizações que desenvolvem a governança em sintonia com o que já praticam em compliance, estruturação de dados e políticas ESG, sigla em inglês para critérios ambientais, sociais e de governança.
Kaufman descreve uma arquitetura de governança com a confiança como elemento central. Governar IA significa, na sua definição, orquestrar a confiança, garantindo que o sistema permaneça sob controle e supervisão humana. O processo inclui o desenho da governança, o desenvolvimento, com construção, implementação e capacitação, e a entrega de valor com retorno sobre o investimento. "E você tem que ter a supervisão humana garantida em todas as etapas", afirma.
Os graus de maturidade das organizações nessa matéria, porém, ainda são muito dispersos. A FDC considera que existem cinco níveis de maturidade em governança de IA. Poucas das empresas acompanhadas pela escola de negócios estão no nível 1, em que só há soluções de funções básicas de monitoramento, análise e alerta. "A maioria está nos níveis 2 e 3, que geram algum valor, mas ainda não são sistemicamente orquestrados", afirma Donato. Os níveis 4, chamado de sistêmico, e 5, considerado transformacional, indicam integração crescente da IA aos processos, à cultura e à estratégia da empresa.
Os dados da indústria paulista confirmam o diagnóstico. A pesquisa IA na Indústria Paulista, realizada pela Federação das Indústrias do Estado de São Paulo (Fiesp) com 285 empresas, avaliou desde negócios com faturamento de até R$ 10 milhões até gigantes da manufatura com receitas anuais superiores a R$ 300 milhões. Embora as indústrias se sintam tecnologicamente preparadas, com avaliações positivas para disponibilidade de dados, sistemas de gestão e infraestrutura de TI, existe um vácuo na organização estratégica.
O principal gargalo identificado foi a ausência de políticas internas para o uso da IA, item que recebeu a nota mais baixa do autodiagnóstico setorial: 2,8, em uma escala de 0 a 5. A fragilidade é maior entre as pequenas indústrias, segmento em que a nota cai para 2,3, enquanto a inovação avança sem acompanhamento de normas de segurança cibernética e controle.
Há também um componente cultural. Luiz Martha, diretor de conhecimento e impacto do Instituto Brasileiro de Governança Corporativa (IBGC), defende que orientar as equipes é fundamental. Sem essa orientação, o funcionário tende a usar uma ferramenta própria e a colocar documentos restritos lá dentro. "O segredo está em incentivar projetos, mas com parâmetros: usar apenas as ferramentas fornecidas pela companhia, colocar no sistema documentos que não tenham dados sensíveis, seja da companhia, seja dos clientes, entre outras coisas", argumenta.
A pressão competitiva é o que impulsiona a corrida pela adoção. Sylvio Araújo Gomide, presidente do Conselho Superior de Inovação e Competitividade da Fiesp, observa que, quando surge uma tecnologia nova, as empresas se preocupam em acelerar a adoção para não perder competitividade. "Hoje em dia, um banco de 50 anos está vendo uma fintech ultrapassá-lo em termos de inovação. Mas como mover esse transatlântico para um novo patamar tecnológico? Aí entra a governança", diz. Para ele, não faz sentido baixar um pacote de regras lacradas diante de uma tecnologia em evolução acelerada: é preciso uma governança viva, que se atualize a cada momento, sempre estimulando o uso criativo da novidade com um olhar de segurança nas operações.
Uma prática recomendada pela maioria dos especialistas é envolver na definição da governança os representantes das equipes operacionais, ou seja, os profissionais que usarão a tecnologia na ponta e responderão por resultados. É o que faz o Parque de Inovação Tecnológica (PIT), de São José dos Campos. Lá, a demanda de governança de IA foi assumida pelo conselho de administração, que não se envolve nas questões operacionais, e foi instalado um comitê multidisciplinar com todas as áreas. "Pensamos em um formato que evitasse o controle e a burocracia e que avaliasse os riscos", explica Sergio Buani, vice-presidente de governança e administração do PIT. O trabalho começou junto aos colaboradores e parceiros, perguntando o que entendiam como uso de IA, que uso já faziam e como integravam a tecnologia aos processos e à estratégia de cada empresa. Agora, o parque cria níveis de risco, não para controle, mas para estabelecer um tratamento adequado a cada risco.
O conjunto de depoimentos indica que a governança de IA deixou de ser tema de discussões abstratas sobre ética para se tornar questão operacional, com indicadores, processos e níveis de maturidade mensuráveis. A experiência de instituições como o PIT sugere que a adoção responsável depende menos de regras rígidas e mais de processos participativos, atualizados conforme a tecnologia evolui.
Para Parente, da ACBrasil, o ponto de chegada é claro: a governança de IA será, em breve, tão vital quanto a governança financeira, e as empresas que se anteciparem terão vantagem sobre as que apenas reagirem quando os riscos já tiverem se materializado.
