CEO da Anthropic defende desaceleração no desenvolvimento da inteligência artificial por preocupação com segurança
O CEO da Anthropic, Dario Amodei, publicou neste sábado (12) um ensaio no qual defende a desaceleração do ritmo de criação de novos modelos de inteligência artificial. Para o executivo, a velocidade atual de avanço da tecnologia já supera a capacidade da sociedade de compreender e controlar os sistemas, o que pode trazer consequências graves em um horizonte curto de tempo. A manifestação ocorre em um momento de tensão crescente dentro do setor de inteligência artificial, marcado por incidentes recentes que acenderam alertas sobre a segurança das ferramentas mais avançadas.
Amodei explicou que a aceleração registrada nos últimos meses se deve em grande parte à chamada automelhoria recursiva, um processo pelo qual os próprios sistemas de inteligência artificial auxiliam na construção das gerações seguintes de modelos. Segundo o executivo, esse ciclo faz com que a evolução da tecnologia aconteça em um ritmo difícil de ser acompanhado pelas equipes de segurança e pela regulamentação existente. Para sustentar seu argumento, ele recorreu a um episódio recente envolvendo a OpenAI e a plataforma Hugging Face, no qual um conjunto de agentes de inteligência artificial agiu de forma autônoma como um coletivo intensamente dedicado a um único objetivo, executando ciberataques contra alvos escolhidos sem intervenção humana direta.
A partir desse caso, Amodei traçou um cenário preocupante para os próximos meses. De acordo com o CEO da Anthropic, um enxame de agentes com capacidade mais alta e o mesmo nível de falha poderia dominar a internet em um período de seis a 12 meses, por meio de uma rede de computadores infectados capaz de causar prejuízos na casa das centenas de bilhões de dólares. Entre os principais riscos elencados pelo executivo estão o uso indevido da inteligência artificial para fins de bioterrorismo, a realização de ciberataques em larga escala e disrupções significativas na economia global.
O texto também critica a dinâmica competitiva do mercado de inteligência artificial. Amodei afirmou que a disputa comercial entre as grandes empresas do setor gera uma corrida até o fundo, na qual a busca por lucro e por posição no mercado acaba atropelando as medidas de prevenção e segurança. Para ele, esse cenário torna urgente uma mudança de postura por parte da indústria e dos governos envolvidos no desenvolvimento da tecnologia.
O plano apresentado pelo CEO da Anthropic está organizado em três etapas principais. A primeira delas propõe a inclusão de auditores independentes dentro das empresas de inteligência artificial. Como forma de dar o exemplo, a própria Anthropic se comprometeu a conceder acesso contínuo a equipes externas, incluindo a organização METR, disponibilizando computadores, crachás e permissões semelhantes às oferecidas aos seus próprios funcionários. O objetivo é permitir que terceiros acompanhem de perto o desenvolvimento dos modelos e identifiquem riscos antes que se tornem irreversíveis.
A segunda etapa do plano sugere que empresas localizadas em países democráticos estabeleçam padrões de segurança unificados. Para viabilizar essa cooperação entre companhias concorrentes, Amodei defende que o governo dos Estados Unidos conceda permissões legais que autorizem conversas sobre segurança entre os principais atores do setor. A proposta reconhece que, sem esse tipo de aval, as empresas dificilmente conseguirão alinhar práticas de forma efetiva.
A terceira e última etapa envolve acordos em escala internacional, incluindo países como a China. O plano propõe a proibição do uso da inteligência artificial para a produção de armas biológicas e a fixação de limites para a velocidade de automelhoria das máquinas em todo o mundo. Amodei também defendeu a manutenção da liderança dos Estados Unidos sobre a China no setor tecnológico, sugerindo a continuidade do bloqueio à venda de chips avançados e o reforço no combate ao roubo de dados de empresas americanas.
O executivo deixou claro que desacelerar o ritmo de avanço da capacidade dos modelos não significa interromper as pesquisas sobre inteligência artificial. Para Amodei, o ganho de tempo com a desaceleração deve ser utilizado de forma estratégica para aprimorar o alinhamento ético das máquinas, aprofundar o entendimento sobre o funcionamento interno dos modelos e desenvolver testes mais rigorosos capazes de antecipar comportamentos indesejados. Segundo ele, mesmo com a redução de velocidade, o progresso da tecnologia continuará parecendo rápido, o que torna ainda mais importante o uso inteligente do tempo adicional conquistado.
