Um especialista em inteligência artificial britânico que atuou tanto na OpenAI quanto na Anthropic decidiu deixar a indústria por completo, apontando que as principais corporações do setor negligenciam perigos existenciais graves em sua busca por modelos avançados. Jacob Coxon, de vinte e sete anos, dedicou os últimos anos ao pré-treinamento de modelos, fase crucial em que os sistemas absorvem grandes volumes de dados antes de sua operação comercial e de pesquisa. O profissional declarou publicamente que os desenvolvedores dessas tecnologias estariam apostando com o futuro da humanidade ao acelerarem a criação de sistemas altamente autônomos.
Em postagens em redes sociais e entrevistas recentes, o ex-pesquisador afirmou que os profissionais envolvidos diretamente na construção dessas tecnologias reconhecem a possibilidade real de que elas possam representar uma ameaça letal à humanidade até o final desta década. Coxon argumentou que tais advertências não devem ser interpretadas como estratégias de marketing, mas sim como avaliações genuínas de risco feitas por quem conhece por dentro o funcionamento dessas arquiteturas computacionais. Segundo o especialista, em projeções mais aceleradas, a perda de controle sobre os sistemas inteligentes poderia se aproximar já no próximo ano.
O principal ponto de preocupação levantado pelo ex-pesquisador reside no conceito de autoaperfeiçoamento recursivo, estágio em que os próprios programas de computador adquirem a capacidade de projetar e treinar gerações futuras de inteligência com intervenção humana mínima. Quando esse patamar for atingido, a velocidade de evolução tecnológica poderá superar a capacidade de controle de seus criadores. Coxon apontou que corporações líderes ignoram diretrizes estritas de responsabilidade porque operam em uma dinâmica predatória de concorrência global, sentindo a necessidade de avançar rapidamente para não perderem espaço para rivais.
O debate sobre a segurança na corrida tecnológica ganhou coro com manifestações de outros nomes de destaque da indústria. Evan Hubinger, executivo de segurança da Anthropic, corroborou as avaliações sobre os riscos existenciais, estimando uma probabilidade superior a dez por cento de que os sistemas avançados possam causar danos catastróficos aos seres humanos na próxima década. Hubinger pontuou que, embora sua empresa adote protocolos cautelosos, ainda não existe um plano definitivo capaz de garantir o alinhamento e a obediência absoluta de uma inteligência que supere significativamente a capacidade cognitiva humana.
A dinâmica do setor tem passado por revisões contratuais e estruturais recentes devido à pressão competitiva e aos riscos operacionais. A Anthropic removeu de seus princípios internos o compromisso formal de suspender o desenvolvimento de novos modelos caso perdesse o controle sobre os riscos associados. A justificativa apresentada foi a de que uma paralisação unilateral abriria espaço para que concorrentes menos prudentes dominassem o mercado. Paralelamente, executivos e pesquisadores de diversas organizações têm buscado apoio governamental para estabelecer pausas coordenadas na corrida tecnológica.
No mês de agosto, a OpenAI interrompeu temporariamente o treinamento de seus sistemas de ponta antes de retomá-lo sob diretrizes de controle mais rígidas. Jakub Pachocki, cientista-chefe da empresa criadora do ChatGPT, defendeu publicamente a adoção de extrema cautela e destacou a necessidade urgente de cooperação internacional entre governos para monitorar e regular o avanço dos modelos mais potentes. Atualmente, os Estados Unidos ainda carecem de uma legislação federal específica para o setor, embora parlamentares americanos já tenham apresentado propostas legislativas para interromper o desenvolvimento avançado até que um órgão regulador federal seja estabelecido.
A saída de profissionais de destaque e as divergências internas sobre os limites da inovação demonstram as tensões crescentes entre o ritmo acelerado de comercialização e a mitigação de riscos de longo prazo. Enquanto empresas buscam capitalização e liderança de mercado, vozes internas alertam que a ausência de marcos regulatórios globais robustos coloca em risco a estabilidade e a segurança da sociedade diante de tecnologias que operam além dos limites tradicionais de controle humano.
