O Verão do Hype: como as grandes empresas de inteligência artificial estão vendendo supostos "avanços extraordinários"
Nos últimos meses, empresas líderes do setor de inteligência artificial intensificaram uma série de anúncios bombásticos sobre supostos avanços em segurança cibernética, matemática e até mesmo na construção de uma "superinteligência". Para pesquisadoras e especialistas ouvidos por publicações internacionais, porém, esses anúncios têm mais a ver com estratégias de marketing do que com descobertas científicas reais. A enxurrada de declarações, frequentemente reproduzida de forma acrítica pela imprensa, vem acompanhada de narrativas que atribuem aos modelos de linguagem uma capacidade quase humana de raciocínio.
No fim de abril, a Anthropic afirmou publicamente que seu modelo Claude Mythos seria capaz de identificar vulnerabilidades em softwares com desempenho superior ao da maioria dos especialistas humanos em segurança. Logo em seguida, um incidente de hacking envolvendo a OpenAI e a plataforma Hugging Face chamou a atenção da indústria. Após o episódio, tanto a Anthropic quanto a Meta admitiram ter enfrentado problemas semelhantes com seus próprios sistemas. A forma como essas empresas apresentaram os casos, no entanto, foi muito distinta: enquanto a Anthropic tratou o assunto como uma confissão de falhas, a Meta revelou o caso de forma mais relutante.
Os anúncios sobre matemática também ganharam destaque. A Anthropic declarou que um de seus modelos havia alcançado um avanço matemático inédito. Dias mais tarde, a OpenAI fez uma afirmação parecida, sustentando que seu chatbot mais recente, o Astra, teria solucionado problemas que estavam sem solução há pelo menos uma década. Matemáticos inicialmente se mostraram surpresos, mas após examinarem os resultados com mais cuidado, concluíram que as descobertas não eram tão revolucionárias quanto pareciam. O caso ganhou contornos mais sérios quando matemáticos acusaram a empresa de má conduta em pesquisa e plágio, deixando evidente que o Astra não realizou nenhum "salto intelectual profundo". Pouco antes do anúncio da OpenAI, o professor de matemática Tristan Buckmaster, do Courant Institute da Universidade de Nova York, já havia publicado uma nota apontando indícios de que a empresa teria se apropriado de trabalhos de outros pesquisadores.
Em paralelo, o engenheiro Jacob Coxon, que trabalhava na Anthropic, se tornou figura central nas redes sociais ao anunciar sua saída da empresa. Em declarações públicas, Coxon afirmou que a companhia e a OpenAI estariam "correndo diretamente em direção a uma superinteligência capaz de se autaperfeiçoar, apostando com as nossas próprias vidas". A fala foi replicada por diversos veículos de imprensa, muitos dos quais adotaram a narrativa das empresas sem questionar suas bases técnicas.
Para a pesquisadora Timnit Gebru, diretora executiva do Instituto DAIR, e a professora de linguística Emily M. Bender, da Universidade de Washington, essas alegações não encontram respaldo em práticas científicas ou de engenharia sérias. Segundo elas, os discursos sobre uma "superinteligência" iminente estão mais ligados a ideologias como transumanismo e eugenia do que a qualquer avanço técnico concreto. As autoras também questionam por que áreas como programação e matemática se tornaram os campos preferidos para demonstrar supostas capacidades da inteligência artificial. A explicação, segundo elas, é simples: essas são áreas nas quais as respostas, uma vez sugeridas, podem ser facilmente verificadas, o que facilita o ajuste dos modelos.
O problema, de acordo com Gebru e Bender, é que esse tipo de narrativa desvia a atenção do público dos impactos reais da indústria. Em vez de discutir os efeitos dos grandes data centers sobre o meio ambiente, o aumento das contas de energia, os problemas respiratórios em comunidades próximas a essas instalações e o consumo de água utilizado para resfriamento, o debate público é redirecionado para um medo fictício de máquinas superinteligentes. As pesquisadoras também criticam a forma como a indústria utiliza termos como "superinteligência" e "modelos descontrolados", pois atribuem agência a produtos de software em vez de responsabilizar as empresas que os desenvolvem.
O resultado dessa estratégia, segundo as autoras, é uma ilusão de urgência que visa pressionar policymakers a tomar decisões rápidas, sem tempo para ouvir especialistas independentes e contextualizar as afirmações das empresas. Elas citam como exemplo uma proposta legislativa do senador Bernie Sanders que, embora bem-intencionada, parte da premissa equivocada de que a "superinteligência artificial" é uma ameaça iminente. Para as pesquisadoras, decisões importantes sobre o futuro da inteligência artificial não devem ser baseadas em comunicados de imprensa ou em declarações de executivos, mas sim em análises técnicas realizadas por especialistas que não tenham conflitos de interesse com a indústria.
Ao final, Gebru e Bender reforçam um chamado já feito por centenas de matemáticos em todo o mundo: que governantes e legisladores consultem profissionais independentes antes de regulamentar a área, em vez de reagir à onda de marketing. Para elas, o melhor desfecho possível para esse período de exageros é que o público e os formuladores de políticas aprendam a reconhecer esse tipo de hype, mantenham o ceticismo e não cedam à pressão corporativa por decisões precipitadas. Reconhecer a diferença entre marketing e ciência, segundo as autoras, é o primeiro passo para evitar que interesses privados da indústria da inteligência artificial ditem o futuro da tecnologia.
