Google DeepMind e Isomorphic Labs detalham programa de bioresiliência com foco em segurança biológica e resposta a surtos
A Google DeepMind e a Isomorphic Labs apresentaram uma atualização sobre um programa conjunto de bioresiliência que tem como objetivo evitar o uso indevido de inteligência artificial em biologia, ao mesmo tempo em que apoia a resposta a surtos e outras ameaças biológicas. A iniciativa, que começou de forma discreta, já firmou mais de 15 parcerias com órgãos governamentais, entidades de biossegurança e grupos de pesquisa nos últimos 12 meses.
A divulgação expõe uma tensão central reconhecida pelas próprias empresas. Modelos de fronteira como o Gemini possuem um conhecimento cada vez mais detalhado sobre biologia, e a DeepMind reconhece que combinar esses sistemas com modelos biológicos especializados, agentes de inteligência artificial e bases de dados de terceiros tende a ampliar ainda mais essa capacidade. O mesmo conhecimento que ajuda um pesquisador a mapear um alvo para uma vacina pode, em princípio, auxiliar agentes mal-intencionados a preencher lacunas em seus próprios projetos. As empresas descrevem esse dilema como um mandato duplo: viabilizar os avanços científicos possibilitados pela IA de fronteira, ao mesmo tempo em que impedem que essas ferramentas caiam nas mãos de quem pretenda usá-las de forma indevida.
O programa está estruturado em três pilares, segundo a DeepMind e a Isomorphic Labs. O primeiro é a prevenção do uso indevido, que envolve modelagem de ameaças, técnicas de treinamento de red team, em que especialistas tentam explorar as vulnerabilidades do sistema, e ensaios clínicos randomizados para avaliar se o Gemini poderia ajudar alguém a contornar gargalos de segurança. O segundo pilar é a detecção mais rápida de surtos, apoiada em técnicas como o sequenciamento metagenômico, que analisa todos os microrganismos presentes em uma amostra em vez de procurar apenas patógenos conhecidos. O terceiro pilar é a resposta a surtos ou ataques já em andamento, com foco no desenvolvimento ágil de contramedidas médicas.
Entre os parceiros nomeados estão o Lawrence Livermore National Laboratory, o UK AI Security Institute, a CEPI e o Instituto Francis Crick. A DeepMind pretende ampliar essas relações nos próximos seis a doze meses, com atenção voltada para inteligência sobre ameaças, métodos de avaliação de agentes de inteligência artificial e mitigações contra tentativas de burlar os sistemas de segurança, conhecidas como jailbreaks. A empresa também está se coordenando com o Frontier Model Forum em questões como o tratamento de categorias mais sensíveis de dados de treinamento, tendo como exemplo os conjuntos de dados de virologia.
No trabalho de prevenção, a DeepMind afirma utilizar uma combinação de especialistas em red teaming e ensaios randomizados para verificar se o Gemini poderia ajudar a superar obstáculos de segurança. Métodos de pós-treinamento são empregados para ensinar o modelo a recusar consultas prejudiciais, sem que isso signifique recusar indevidamente perguntas legítimas da ciência, um equilíbrio difícil de alcançar em todo o setor. Classificadores e sondas são usados para sinalizar atividades arriscadas em tempo real, complementados por análises de registros que identificam padrões de uso indevido mais sutis, que os filtros automatizados podem deixar passar.
Um dos pontos mais concretos do programa diz respeito à triagem de síntese de DNA. Empresas que fazem parte do International Gene Synthesis Consortium atualmente verificam pedidos com base em listas de patógenos e toxinas perigosas, combinadas com algoritmos de triagem. Segundo a DeepMind, esse método começa a se mostrar insuficiente, porque a inteligência artificial já consegue ajudar a projetar sequências de DNA com função semelhante à de um patógeno perigoso, sem que a sequência seja suficientemente parecida para acionar os filtros existentes. A solução proposta se baseia no SynthID, sistema de marca d'água da DeepMind que já se tornou referência para identificar imagens e textos gerados por IA. A adaptação para sequências biológicas ainda é descrita como trabalho exploratório, e não como produto finalizado.
Na frente de detecção, a DeepMind destaca uma colaboração com a Pacific Biosciences, na qual o agente de programação AlphaEvolve foi utilizado para melhorar a precisão do sequenciamento. A empresa afirma que pretende explorar outras oportunidades, desde a otimização dos algoritmos que processam dados de sequenciamento até o apoio ao design de hardware, além de avaliar se o AlphaGenome poderia ajudar a caracterizar patógenos diretamente a partir de dados de sequência. Essas iniciativas permanecem como colaborações de pesquisa, ainda distantes de sistemas implantados em campo.
Já no pilar de resposta, a DeepMind cita mais de 10 mil publicações sobre doenças infecciosas que fizeram referência ao AlphaFold ao longo de cinco anos, incluindo trabalhos sobre tuberculose, malária e mapeamento de alvos para ameaças como Mpox e Nipah. Uma nova parceria com o programa de bioresiliência do Lawrence Livermore prevê o uso do AlphaFold 3 para projetos de design de anticorpos de amplo espectro, incluindo anticorpos pan-filovírus. O acesso a sistemas agentes mais recentes, como o Co-Scientist, está sendo ampliado para pesquisadores selecionados, entre eles cientistas dos laboratórios nacionais do Departamento de Energia dos Estados Unidos que atuam na Genesis Mission.
A Isomorphic Labs criou uma unidade dedicada para mobilizar seu motor de design de medicamentos rapidamente durante um novo surto, em parceria com órgãos governamentais e de pesquisa. A empresa também destinou 7 milhões de dólares ao programa Health for Human Potential, da Philanthropy Asia Alliance, para pesquisa em doenças infecciosas na Ásia. A DeepMind também enviou recomendações a formuladores de políticas nos Estados Unidos, alinhadas aos três pilares do programa e associadas a projetos de lei em tramitação, como a AI-Ready Bio-Data Standards Act, a Biosecurity Modernization and Innovation Act e a Web of Biological Data Act. Nenhuma dessas legislações foi aprovada, e o teste real do programa nos próximos meses dependerá de como o cenário regulatório federal evoluir.
