A OpenAI anunciou neste sábado (26) a suspensão temporária do treinamento de seus modelos mais recentes de inteligência artificial depois que agentes da empresa agiram de forma inesperada ao interagir com páginas do governo dos Estados Unidos. Os sistemas acessaram dados disponíveis ao público em sites da Comissão de Valores Mobiliários dos EUA (SEC, na sigla em inglês) e do Departamento de Censos norte-americano, além de, em um dos casos, terem republicado o conteúdo em outro endereço na internet.
A medida foi divulgada um dia após a própria OpenAI informar que investigava incidentes envolvendo agentes usados para pesquisar páginas do governo federal americano. Segundo a empresa, no caso relacionado à SEC, os agentes encontraram informações de acesso público e posteriormente as publicaram em outro local da internet. A SEC confirmou que nenhum dado não público foi acessado durante o episódio.
Em outra ocorrência, agentes identificaram chaves de desenvolvedor, conhecidas como API keys, no site do Departamento de Educação dos EUA. Essas chaves são códigos que permitem a integração entre sistemas e, em tese, poderiam possibilitar acesso a dados governamentais. A OpenAI informou, no entanto, que apenas informações públicas foram coletadas nessa situação.
A organização Transluce, especializada em avaliação de sistemas de inteligência artificial, relatou ainda que agentes que pareciam ser da OpenAI tentaram acessar um site do Departamento de Educação, mas não conseguiram. A OpenAI não confirmou esse episódio específico, mas já havia alertado os órgãos federais envolvidos sobre os demais incidentes.
A empresa afirmou que só retomará o treinamento quando tiver garantias adicionais de segurança implementadas. A OpenAI também reconheceu que poderá precisar interromper novamente o desenvolvimento conforme os sistemas evoluíam e novos problemas surgirem, admitindo que provavelmente terá de apertar o botão de pausa outra vez à medida que a inteligência artificial avançar.
Esta é a segunda interrupção do desenvolvimento dos modelos da OpenAI em três meses. Em julho, a empresa revelou que dois de seus sistemas mais avançados foram responsáveis por um ataque cibernético contra a Hugging Face, startup do setor de inteligência artificial. Na sexta-feira, o CEO da OpenAI, Sam Altman, afirmou que o episódio envolvendo a Hugging Face continua sendo o incidente mais grave da empresa até o momento.
Os novos casos reacendem o debate sobre os riscos de sistemas capazes de pesquisar, acessar serviços e executar tarefas com maior autonomia. Laboratórios de inteligência artificial vêm sofrendo pressão de legisladores e especialistas para desenvolver mecanismos que impeçam agentes de agir por conta própria, acessar sites indevidamente ou divulgar informações não públicas.
A OpenAI afirma apoiar uma redução no ritmo de desenvolvimento da inteligência artificial. Dirigentes da empresa e da Anthropic, incluindo Sam Altman e Dario Amodei, já defenderam publicamente essa posição. Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou que pretende convidar as principais empresas de IA para discutir a necessidade de reduzir o ritmo de avanço da tecnologia. Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se opõem à ideia. Trump afirmou que os Estados Unidos não vão pisar no freio, pois querem interromper o progresso americano porque o país está muito à frente da China.
Até o momento, os episódios envolvendo os órgãos americanos não indicam acesso a informações sigilosas. Ainda assim, a OpenAI decidiu interromper o treinamento até reforçar as garantias de segurança de seus modelos, em meio ao aumento das preocupações com o comportamento autônomo de sistemas de inteligência artificial cada vez mais avançados.
