OpenAI propõe que Estados Unidos liderem criação de padrões técnicos globais para IA de fronteira
A OpenAI apresentou nesta segunda-feira (21) uma proposta para que os Estados Unidos assumam a liderança de um esforço internacional voltado à criação de padrões técnicos globais para sistemas de inteligência artificial de fronteira. A iniciativa foi divulgada em meio à Assembleia Geral das Nações Unidas e abrange inclusive tecnologias capazes de realizar aprimoramento recursivo de suas próprias capacidades, um dos pontos mais sensíveis do debate atual sobre segurança em IA.
O documento da empresa defende a criação de mecanismos que permitam estabelecer padrões nacionais e internacionais complementares, além de métricas compartilhadas e protocolos padronizados para comunicação de incidentes. De acordo com a OpenAI, o objetivo é facilitar a comparação de evidências, a avaliação de riscos e a resposta coletiva a problemas relacionados ao desenvolvimento de sistemas cada vez mais avançados.
Um dos eixos centrais da proposta é o chamado aprimoramento recursivo, conhecido pela sigla RSI. Trata-se de um processo no qual sistemas de IA passam a executar um volume crescente de tarefas relacionadas ao desenvolvimento de novas gerações de inteligência artificial. Segundo a OpenAI, pesquisas automatizadas podem envolver diferentes níveis de supervisão humana, e à medida que os sistemas assumem mais funções no desenvolvimento de sucessivas gerações, eles poderiam conduzir um processo de aprimoramento recursivo, potencialmente acelerando o ritmo de avanço da tecnologia.
A empresa ressalva, entretanto, que o RSI totalmente autônomo não está acontecendo atualmente e que não deveria ser buscado enquanto não for possível realizá-lo com segurança. Para a OpenAI, o avanço nessa área deve depender da capacidade de preservar o controle humano e de decisões democráticas informadas sobre seus benefícios e riscos. Sem supervisão adequada, argumenta a companhia, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os próprios processos de pesquisa conduzidos pelos sistemas.
A proposta também aponta que padrões internacionais de segurança e proteção para o desenvolvimento de IA de fronteira podem ser tão importantes quanto pesquisas de alinhamento para acompanhar o ritmo de evolução da tecnologia. A OpenAI identifica três desafios principais que justificariam uma coordenação entre países. O primeiro é a fragmentação, com diferentes nações podendo adotar avaliações, exigências de comunicação e definições de incidentes incompatíveis entre si. O segundo é a ação coletiva, já que países agindo isoladamente podem produzir resultados que nenhum deles desejaria, especialmente diante da possibilidade de aceleração da pesquisa por sistemas de IA. O terceiro é a capacidade desigual, uma vez que conhecimentos e atividades relacionados ao desenvolvimento de IA de fronteira estão distribuídos de maneira heterogênea entre os países. Esses desafios, segundo a empresa, abrangem tanto modelos abertos quanto fechados.
Na parte operacional da proposta, a OpenAI sugere aproveitar a rede de institutos nacionais de segurança em IA já existente em países como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas instituições poderiam colaborar na definição de padrões por meio do Center for AI Standards and Innovation e de organismos nacionais do setor, com foco em modelos de fronteira e no gerenciamento de benefícios e riscos associados à pesquisa automatizada, incluindo o RSI. Os padrões funcionariam como uma base técnica comum para medir capacidades, analisar riscos e verificar a suficiência de mecanismos de proteção.
A OpenAI esclarece que esses padrões não equivaleriam a licenças, revisões obrigatórias antes do lançamento ou requisitos de aprovação para modelos. Caberia aos governos nacionais decidir se e como incorporá-los aos próprios sistemas legais. O processo de construção dos padrões deveria consultar desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades, de maneira transparente e sem favorecer empresas, países ou modelos de negócio específicos.
A segunda parte da proposta trata da criação de medições e protocolos comuns para comunicação de incidentes. Entre os possíveis padrões citados estão a avaliação do avanço de sistemas de IA relacionado ao RSI, a medição da quantidade de pesquisa autônoma realizada dentro de uma empresa, regras para supervisão humana de pesquisas automatizadas, a definição de quais processos exigem revisão humana imediata, a classificação de incidentes envolvendo alinhamento e pesquisa automatizada e a definição de níveis comuns de gravidade e limites para comunicação. A empresa também defende que governos e operadores de infraestrutura crítica estabeleçam canais seguros para compartilhar preocupações de segurança nacional, vulnerabilidades, ameaças emergentes e boas práticas, citando especificamente o diálogo entre Estados Unidos e China como uma área em que essa comunicação poderia avançar.
Para justificar a liderança norte-americana, a OpenAI argumenta que os Estados Unidos estão na fronteira tecnológica da IA e ocupam posição relevante em áreas como finanças, comércio, defesa, tecnologia e sistemas de informação. Assumir essa liderança agora, segundo a empresa, ajudaria a moldar a estrutura global de IA, enquanto a ausência de movimento poderia contribuir para um sistema fragmentado e desigual. A proposta surge em um momento de crescente discussão internacional sobre como acompanhar o ritmo de desenvolvimento de sistemas avançados e garantir que pesquisas de alinhamento permaneçam à frente das capacidades dos próprios sistemas.
