Sam Altman apresenta preocupações sobre segurança da inteligência artificial em sessão do Conselho de Segurança da ONU
O CEO da OpenAI, Sam Altman, fará uma apresentação presencial ao Conselho de Segurança das Nações Unidas na próxima semana, durante o período de reunião anual de líderes mundiais em Nova York, nos Estados Unidos, por ocasião da Assembleia Geral da ONU. A informação foi confirmada por um porta-voz da OpenAI à agência de notícias Reuters. O encontro marca mais um capítulo da interlocução entre gigantes da inteligência artificial e órgãos multilaterais diante do avanço acelerado das tecnologias generativas e dos dilemas regulatórios que elas impõem.
O Conselho de Segurança, formado por quinze membros, se reúne na quarta-feira, dia 23, para discutir inteligência artificial e segurança internacional. A sessão ocorre poucas semanas depois de líderes do setor de IA terem defendido publicamente uma desaceleração coordenada no desenvolvimento de tecnologias cada vez mais avançadas. Esses executivos e pesquisadores alertaram que a inteligência artificial poderá, em um futuro próximo, ser capaz de melhorar a si própria e, eventualmente, escapar do controle humano, levantando preocupações existenciais sobre o rumo da área.
De acordo com o porta-voz da OpenAI, a apresentação de Altman deve abordar a necessidade de coordenação internacional e de padrões de segurança compartilhados entre países e empresas. O executivo também deverá falar sobre as medidas adotadas pela companhia para garantir que pessoas em todo o mundo se beneficiem da inteligência artificial. A OpenAI é uma das principais desenvolvedoras mundiais de modelos generativos, e seu posicionamento tem influência direta sobre debates regulatórios em diferentes regiões.
Diplomatas também esperam uma presença de alto nível da Anthropic na reunião, embora a participação da empresa ainda não estivesse confirmada até o momento do anúncio. A companhia não respondeu imediatamente a um pedido de comentário da Reuters. A expectativa de comparecimento de mais de uma grande empresa do setor sinaliza que o tema deixou de ser uma agenda exclusiva de governos e passou a envolver diretamente os laboratórios que desenvolvem os sistemas mais sofisticados do mundo.
A reunião foi convocada pela França, que ocupa a presidência rotativa do Conselho de Segurança durante o mês de setembro. A sessão será presidida pelo ministro francês da Europa e das Relações Exteriores, Jean-Noël Barrot. Em uma nota conceitual distribuída pela França aos integrantes do Conselho e obtida pela Reuters, o país afirmou que, diante do risco de uso malicioso da tecnologia, é urgente promover o desenvolvimento seguro e responsável da inteligência artificial em benefício de toda a comunidade internacional. A posição francesa reflete uma tentativa de colocar o tema na mais alta instância de decisões sobre segurança global.
Esta não é a primeira vez que o Conselho de Segurança debate os riscos da inteligência artificial. Em 2023, o órgão realizou sua primeira reunião formal sobre o assunto. Na ocasião, a China afirmou que a tecnologia não deveria se transformar em um "cavalo fora de controle", em declaração que sintetizou o receio de países diante da falta de regras claras. Os Estados Unidos, por sua vez, alertaram para possíveis usos da IA com o objetivo de censurar ou reprimir populações, evidenciando que o debate envolve tanto riscos existenciais quanto riscos geopolíticos e de direitos humanos.
O próprio Sam Altman já manifestava preocupações com os perigos da inteligência artificial antes do atual ciclo de expansão do setor. Em um ensaio publicado em 2015, intitulado "Machine Intelligence, part 1", o executivo afirmou que o desenvolvimento de uma IA sobre-humana seria "provavelmente a maior ameaça à continuidade da existência da humanidade". O texto, escrito antes da fundação da OpenAI como laboratório de referência em modelos generativos, antecipou questões que hoje ocupam cadeiras governamentais, mesas de negociação multilateral e conselhos de administração de grandes empresas de tecnologia em todo o mundo.
A próxima sessão do Conselho de Segurança representa, portanto, um momento de convergência entre a visão de quem desenvolve os sistemas e a responsabilidade de quem formula políticas públicas globais. A presença de Altman na ONU evidencia que as decisões sobre o futuro da inteligência artificial deixaram de ser um assunto restrito à indústria e passaram a ocupar o centro das preocupações sobre paz e segurança internacionais.
